Unternehmen setzen KI um, ohne die Risiken und rechtlichen Auswirkungen zu verstehen – Umfrage
Unternehmen treiben die Implementierung von künstlicher Intelligenz voran, bevor sie die operativen Risiken sowie die langfristigen rechtlichen und geschäftlichen Implikationen vollständig verstanden haben, so eine globale Umfrage.
Fokus auf KI-Governance und Sicherheitsbedrohungen
Die Umfrage zeigt, dass die Kunden zunehmend auf KI-Governance und KI-gesteuerte Sicherheitsbedrohungen achten. Die Bedenken erstrecken sich auf reale Auswirkungen wie rechtliche Risiken durch die rasche Einführung von KI, Umweltprobleme im Zusammenhang mit Rechenzentren und die Auswirkungen der Delegation kritischer Entscheidungen an automatisierte Systeme. Der fragmentierte regulatorische Rahmen verstärkt ebenfalls die Sorgen.
Reaktionen auf regulatorische Unsicherheiten
Trotz dieser wachsenden Komplexität gaben 42 % der Befragten an, dass sich ihre KI-Pläne nicht geändert haben, während 33 % unsicher waren, wie sich die Bundespolitik auf sie auswirken würde. Unter denjenigen, die weiterhin vorantreiben, sorgen sich 40 % über mangelnde regulatorische Klarheit, während 31 % über das Fehlen eines kohärenten föderalen KI-Rahmens klagen.
Erforderliche Governance und Risikomanagement
Die Umfrage macht deutlich, dass Organisationen in einer Welt operieren, in der die Implementierung das Verständnis überholt. Die Führungskräfte bleiben neuen Technologien – insbesondere der KI – verpflichtet, sind sich jedoch zunehmend bewusst, dass der Erfolg in der „Algorithmus-Wirtschaft“ mehr als nur Geschwindigkeit erfordert. Es erfordert diszipliniertes Entscheiden, Governance und Risikomanagement, die schnell genug aufgebaut werden müssen, um mit Technologien Schritt zu halten, die signifikanten Wert versprechen, aber noch nicht vollständig verstanden sind.
Bedenken hinsichtlich technikbezogener Risiken
Organisationen sind besorgt über technologiebezogene regulatorische und Compliance-Risiken. 52 % sind sehr besorgt über die Verwendung fairer und unvoreingenommener KI-Systeme, 48 % über die Vorbereitung auf Datenverletzungen und Cybersecurity-Vorfälle, und 47 % über die Integration von Datenschutzmaßnahmen in digitale Produkte. Weitere 43 % bewerten den Aufbau und die Aufrechterhaltung der internen KI-Governance als „sehr besorgniserregend“, während 41 % über die Anpassung an regulatorische Änderungen in verschiedenen Rechtsordnungen besorgt sind.
Suche nach Unterstützung
Die Hauptbereiche, in denen Kunden Unterstützung suchen, sind die Balance zwischen Technologieimplementierung und Compliance (57 %) sowie die Abwägung von Risiko und Ertrag (54 %).
Rechtsrisiken und Haftungsbedenken
Kunden berichten, dass technologiebezogene Risiken direkt in Durchsetzungs- und Rechtsstreitigkeiten übersetzt werden. 77 % sind besorgt über die Verteidigung gegen Datenverletzungs- und Datenschutzansprüche, 73 % über die Reaktion auf Anfragen zu KI und Cybersecurity. Weitere 72 % sind besorgt über die Navigation durch digitale Compliance-Prüfungen und -Durchsetzungen, während 60 % über KI-bezogene Haftung und Sammelklagen besorgt sind.
Obwohl nur 3 % der Befragten angaben, dass sie sich nicht sicher fühlen, mit der sich entwickelnden KI-Durchsetzung umzugehen, waren 48 % unsicher oder neutral. Etwas weniger als die Hälfte (49 %) fühlte sich jedoch zuversichtlich.
