KI-Annahme überholt Governance: Eine dringende Warnung

AI-Adoption Übertrifft Governance

Die AI-Adoption in den USA hat die Fähigkeit der meisten Unternehmen, die Nutzung von KI zu regeln, übertroffen. Laut einer aktuellen globalen Studie zu künstlicher Intelligenz verwenden die Hälfte der US-Arbeitskräfte KI-Tools bei der Arbeit, ohne zu wissen, ob dies erlaubt ist. Über 44% geben sogar an, KI wissentlich unsachgemäß zu nutzen.

Zusätzlich geben 58% der US-Arbeiter an, sich auf KI zu verlassen, um Aufgaben zu erledigen, ohne die Ergebnisse ordnungsgemäß zu bewerten. 53% behaupten, KI-generierte Inhalte als ihre eigenen auszugeben.

Die Notwendigkeit von Governance

„Diese Umfrage macht eines klar: Wenn Sie den Menschen keinen Zugang zu KI gewähren, werden sie sich dennoch Zugang verschaffen, oft auf Weisen, die Richtlinien umgehen, Fehler einführen und Verantwortlichkeiten verwischen“, so ein Experte für digitale Innovation. „Wir sehen dies auch bei unseren Kunden, insbesondere bei denen, die zögerlich waren, Tools einzuführen oder verantwortungsvolle Experimente zu fördern.“

Fast 44% der Mitarbeiter nutzen KI-Tools auf eine Weise, die von ihren Arbeitgebern nicht autorisiert wurde, wobei 46% sensible Unternehmensinformationen und geistiges Eigentum auf öffentlichen KI-Plattformen hochladen – gegen Richtlinien verstoßen und Schwachstellen für ihre Organisationen schaffen.

Folgen der unsachgemäßen Nutzung

Während zwei Drittel der US-Arbeiter KI bei der Arbeit nutzen, bewerten viele nicht die Ergebnisse ordnungsgemäß. 64% der Angestellten geben zu, weniger Mühe in ihre Arbeit zu investieren, da sie sich auf KI verlassen können. 57% haben dadurch Fehler in ihrer Arbeit gemacht, und 53% vermeiden es, offenzulegen, dass sie KI verwendet haben.

Die Kluft zwischen Potenzial und verantwortungsvoller Nutzung

„Die Hälfte der US-Arbeiter verwendet KI-Tools ohne klare Genehmigung, und viele haben zugegeben, KI unangemessen zu nutzen“, erklärt ein führender Trusted AI-Experte. „Dies hebt eine erhebliche Governance-Lücke hervor und wirft ernsthafte Bedenken hinsichtlich der Transparenz, ethischen Verhaltens und der Genauigkeit von KI-generierten Inhalten auf.“

Obwohl 70% der US-Arbeiter darauf erpicht sind, die Vorteile von KI zu nutzen, sind 75% besorgt über negative Ergebnisse. Trotz der Mehrheit, die glaubt, dass KI die betriebliche Effizienz und innovative Strategien verbessert hat, bleibt das Vertrauen in KI niedrig, wobei 43% wenig Vertrauen in kommerzielle und staatliche Stellen haben, KI verantwortungsbewusst zu entwickeln und zu nutzen.

Investitionen in Schulungen und Richtlinien

„Mitarbeiter fordern größere Investitionen in KI-Schulungen und die Implementierung klarer Governance-Richtlinien“, so ein weiterer KI-Experte. „Es reicht nicht aus, dass KI einfach funktioniert; sie muss vertrauenswürdig sein. Der Aufbau dieses starken Fundaments ist eine Investition, die sich in zukünftiger Produktivität und Wachstum auszahlen wird.“

Der Zustand der Governance

Nur 54% der US-Verbraucher glauben, dass ihre Organisationen Richtlinien für den verantwortungsvollen Einsatz von KI haben. 55% glauben, dass ihre Organisationen KI-Systeme regelmäßig überwachen. Zudem glauben nur 59% der US-Arbeiter, dass es innerhalb ihrer Organisationen Verantwortliche gibt, die die Nutzung von KI überwachen.

„KI entwickelt sich schnell, doch die Governance in vielen Organisationen hat nicht Schritt gehalten; Unternehmen müssen umfassende Sicherheitsvorkehrungen in KI-Systeme integrieren und proaktiv auf vorhersehbare Herausforderungen vorbereiten“, warnt der Trusted AI-Experte.

Regulierungsbedarf und Verbrauchervertrauen

Die Wahrnehmung von Umfrageteilnehmern spiegelt diese Bedenken wider, da nur 29% der US-Verbraucher glauben, dass die aktuellen Vorschriften für die Sicherheit von KI ausreichend sind. 72% sagen, dass mehr Regulierung erforderlich ist. Das Vertrauen in KI könnte steigen, wenn Gesetze und Richtlinien vorhanden wären, da 81% der US-Verbraucher eher bereit wären, KI-Systemen unter solchen Bedingungen zu vertrauen.

Es gibt auch spezifische Bereiche, in denen US-Verbraucher sich eine stärkere staatliche Aufsicht wünschen; 85% der US-Verbraucher äußern den Wunsch nach Gesetzen und Richtlinien zur Bekämpfung von KI-generierten Fehlinformationen.

„US-Verbraucher erkennen den Wert von Schutzmaßnahmen und Verantwortlichkeit“, so der KI-Experte. „Die Mehrheit unserer Umfrageteilnehmer möchte Regelungen zur Bekämpfung von KI-generierten Fehlinformationen, und fast alle stimmten zu, dass Nachrichten- und soziale Medienunternehmen sicherstellen müssen, dass Menschen KI-generierte Inhalte erkennen können.“

More Insights

Risiken der KI: Was Unternehmen ignorieren sollten

Im Jahr 2024 stellte der Softwareanbieter Sage seinen generativen KI-Assistenten ein, nachdem Benutzer berichtet hatten, dass sensible Finanzdaten zwischen Konten geleakt wurden. Unternehmen stehen...

Die Notwendigkeit für KI-Sicherheit: Chancen und Herausforderungen

Die Revolution der künstlichen Intelligenz ist keine ferne Verheißung mehr – sie ist hier und verändert Branchen, Volkswirtschaften und das tägliche Leben. Um die Macht der KI verantwortungsvoll zu...

Künstliche Intelligenz im Polizeiwesen: Chancen und Herausforderungen

Gesetzesvollzugsbehörden nutzen zunehmend künstliche Intelligenz (KI), um ihre Abläufe zu verbessern, insbesondere durch erweiterte Möglichkeiten für prädiktive Polizeiarbeit. Der globale Markt für...

Kenias Führungsrolle bei UN-Vereinbarung zur KI-Governance

Kenia hat einen bedeutenden diplomatischen Erfolg erzielt, nachdem alle 193 Mitgliedstaaten der Vereinten Nationen einstimmig beschlossen haben, zwei wegweisende Institutionen zur Regulierung der...

Stakeholder-Forderung nach einem Rahmen für die KI-Governance

Die Stakeholder forderten die Entwicklung eines Governance-Rahmens für Künstliche Intelligenz (KI), um sicherzustellen, dass diese verantwortungsvoll eingesetzt wird. Diese Aufforderung wurde auf der...

Wichtige Richtlinien für die KI-Einführung im Gesundheitswesen

Die AMA hat Leitlinien für die Einführung und Governance von Künstlicher Intelligenz (KI) in Gesundheitssystemen veröffentlicht, die für CMOs und andere Führungskräfte im Gesundheitswesen wichtig...

UN richtet internationales Gremium zur KI-Governance ein

Die Generalversammlung der Vereinten Nationen hat eine Resolution verabschiedet, die die Modalitäten zur Einrichtung eines unabhängigen internationalen wissenschaftlichen Panels für Künstliche...

Neue Cyberbedrohungen: Von Datenvergiftung zu KI-Agenten

Künstliche Intelligenz (KI)-Tools verbreiten sich rasant in verschiedenen Branchen, was neue Möglichkeiten zur Effizienzsteigerung bietet, aber auch das Risiko von Cyberangriffen erhöht. Während KI...