KI im Konflikt: Vertrauen, Risiken und Governance-Lücken

Globale Studie zeigt Konflikte zwischen den Vorteilen und Risiken von KI sowie Governance-Lücken

Eine globale Studie zum Vertrauen in Künstliche Intelligenz (KI) zeigt, dass mehr als die Hälfte der Menschen weltweit nicht bereit ist, KI zu vertrauen. Dies spiegelt eine zugrunde liegende Spannung zwischen den offensichtlichen Vorteilen und den wahrgenommenen Risiken wider.

Wesentliche Erkenntnisse:

– Das Zeitalter der Intelligenz ist angekommen – 66% der Menschen nutzen regelmäßig KI, und 83% glauben, dass der Einsatz von KI eine Vielzahl von Vorteilen mit sich bringt.

– Dennoch bleibt das Vertrauen, das zentral für die Akzeptanz von KI ist, eine kritische Herausforderung. Nur 46% der Menschen weltweit sind bereit, KI-Systemen zu vertrauen, was mit niedrigen Niveaus der KI-Kompetenz korreliert – nur zwei von fünf (bzw. 39%) berichten von einer Art KI-Training, und nur 40% geben an, dass ihr Arbeitsplatz eine Richtlinie oder Anleitung zur Nutzung von generativer KI hat.

– Daten deuten darauf hin, dass fast die Hälfte der Organisationen KI möglicherweise ohne angemessene Unterstützung und Governance nutzt.

Die Studie

Die Studie mit dem Titel „Vertrauen, Einstellungen und Nutzung von Künstlicher Intelligenz: Eine globale Studie 2025“ ist die umfassendste Untersuchung des öffentlichen Vertrauens, der Nutzung und der Einstellungen gegenüber KI. Die Umfrage befragte über 48.000 Menschen in 47 Ländern zwischen November 2024 und Januar 2025.

Obwohl 66% der Menschen bereits absichtlich KI mit gewisser Regelmäßigkeit nutzen, sind weniger als die Hälfte der globalen Befragten bereit, ihr zu vertrauen (46%).

Im Vergleich zu einer vorherigen Studie, die vor der Veröffentlichung von ChatGPT im Jahr 2022 durchgeführt wurde, zeigt sich, dass die Menschen weniger vertrauensvoll und besorgter über KI geworden sind, während die Akzeptanz zugenommen hat.

Individuen und Organisationen sind eher bereit, KI-Systemen zu vertrauen, wenn sie verstehen, wie KI funktioniert. Doch die Studie zeigt, dass nur zwei von fünf (39%) ein gewisses Maß an KI-Training berichten. In Übereinstimmung mit diesen niedrigen Ausbildungsniveaus gibt fast die Hälfte (48%) an, nur begrenztes Wissen über KI zu haben, was darauf hindeutet, dass sie sich nicht sicher fühlen, KI zu verstehen oder zu wissen, wann und wie sie eingesetzt wird.

„Das Vertrauen der Öffentlichkeit in KI-Technologien und deren sichere Nutzung ist entscheidend für eine anhaltende Akzeptanz und Adoption“, wird in der Studie betont.

KI am Arbeitsplatz und in der Bildung

Das Zeitalter der Zusammenarbeit mit KI ist angebrochen, wobei 58% der Mitarbeiter absichtlich KI nutzen – und ein Drittel (31%) diese wöchentlich oder täglich nutzt.

Diese hohe Nutzung bringt eine Vielzahl von Vorteilen mit sich, da die meisten Mitarbeiter von einer erhöhten Effizienz, einem besseren Zugang zu Informationen und Innovation berichten. Fast die Hälfte der Befragten gibt an, dass KI ihre umsatzgenerierenden Aktivitäten gesteigert hat.

Allerdings bieten nur 60% der Organisationen verantwortungsbewusste KI-Trainings an, und nur 34% berichten von einer Unternehmensrichtlinie oder -anleitung zur Nutzung von generativen KI-Tools.

„Die Nutzung von KI bei der Arbeit schafft komplexe Risiken für Organisationen, und eine ‚Governance-Lücke‘ entsteht“, sagt ein Experte. Die Studie zeigt, dass fast die Hälfte der Mitarbeiter zugeben, KI in einer Weise zu verwenden, die gegen Unternehmensrichtlinien verstößt, einschließlich des Hochladens sensibler Unternehmensinformationen in kostenlose öffentliche KI-Tools wie ChatGPT.

„Nachlässige Nutzung könnte darauf zurückzuführen sein, dass die Governance verantwortungsbewusster KI hinterherhinkt. In fortgeschrittenen Volkswirtschaften berichten knapp über die Hälfte der Mitarbeiter (55%), dass ihre Organisation über Mechanismen verfügt, die die KI-Adoption und verantwortungsvolle Nutzung unterstützen, einschließlich einer Strategie und Kultur, die eine verantwortungsbewusste KI-Adoption begünstigt, angemessene Schulungen für Mitarbeiter und Governance-Prozesse.“

„Laut der Studie verlassen sich viele Benutzer auf die Ausgaben der KI, ohne deren Genauigkeit zu bewerten (66%) und machen aufgrund von KI Fehler in ihrer Arbeit (56%), und was diese Risiken schwierig zu managen macht, ist, dass über die Hälfte (57%) der Mitarbeiter angibt, ihre Nutzung von KI zu verbergen und KI-generierte Arbeiten als ihre eigenen auszugeben.“

Dieser Mangel an KI-Governance ist auch in Bildungseinrichtungen zu beobachten, von denen nur die Hälfte über Richtlinien, Ressourcen und Schulungen für eine verantwortungsvolle Nutzung von KI verfügt.

KI in der Gesellschaft

73% der Menschen berichten von persönlichen Erfahrungen oder Beobachtungen von Vorteilen durch KI, einschließlich der Verringerung der Zeit, die mit banalen Aufgaben verbracht wird, verbesserter Personalisierung, reduzierter Kosten und verbesserter Zugänglichkeit.

Dennoch sind vier von fünf auch besorgt über Risiken, und zwei von fünf berichten von negativen Auswirkungen von KI. Diese reichen von einem Verlust menschlicher Interaktion und Cyberrisiken bis hin zur Verbreitung von Fehlinformationen und Desinformation, ungenauen Ergebnissen und einer Abwertung von Fähigkeiten.

70% glauben, dass eine Regulierung von KI erforderlich ist, doch nur 43% sind der Meinung, dass bestehende Gesetze und Vorschriften ausreichend sind.

Es gibt eine klare öffentliche Nachfrage nach internationalem Recht und Regulierung sowie danach, dass die Industrie mit den Regierungen zusammenarbeitet, um diese Risiken zu mindern. 87% der Befragten wünschen sich außerdem stärkere Gesetze zur Bekämpfung von KI-generierten Fehlinformationen und erwarten von Medien- und sozialen Medienunternehmen, dass sie stärkere Faktenprüfungsprozesse umsetzen.

In der Karibik sehen wir die Entstehung von KI in vielen Branchen und im Alltag. Regionale Regierungen ringen mit der Entwicklung von Richtlinien, um den Datenschutz zu gewährleisten, gegen die wahrgenommenen Risiken von KI vorzugehen und gleichzeitig die umfangreichen Möglichkeiten, die die Technologie für Humankapital und wirtschaftliche Entwicklung eröffnet, zu erkunden.

„KI ist sicherlich die größte technologische Innovation unserer Generation. Angesichts ihres rasanten Fortschritts ist es unerlässlich, dass KI-Systeme auf einer soliden Governance-Basis etabliert werden, die dazu beiträgt, Vertrauen zu schaffen“, wird in der Studie zusammengefasst.

„Benutzer wünschen sich Sicherheit in Bezug auf die KI-Systeme, mit denen sie interagieren. Daher kann das volle Potenzial von KI nur realisiert werden, wenn das Publikum Vertrauen in die Systeme hat, die Entscheidungen treffen oder bei diesen helfen. Aus diesem Grund hat KPMG den Ansatz „Vertrauenswürdige KI“ entwickelt, um das Konzept des Vertrauens sowohl greifbar als auch quantifizierbar für unsere Kunden zu machen.