Warum ein Mangel an Governance Unternehmen schaden wird, die agentische KI nutzen
Unternehmen handeln schnell, um agentische KI zu übernehmen – künstliche Intelligenzsysteme, die ohne menschliche Anleitung arbeiten –, sind jedoch viel langsamer darin, Governance-Mechanismen einzuführen, um diese Systeme zu überwachen. Diese Diskrepanz stellt einen erheblichen Risikofaktor bei der KI-Adoption dar. Gleichzeitig bietet sie auch eine Geschäftsmöglichkeit.
Der aktuelle Stand der Governance
Eine Umfrage hat ergeben, dass 41 % der Organisationen agentische KI in ihren täglichen Abläufen nutzen. Diese Systeme sind nicht nur Pilotprojekte oder einmalige Tests, sondern Teil regulärer Arbeitsabläufe. Gleichzeitig bleibt die Governance zurück. Nur 27 % der Organisationen geben an, dass ihre Governance-Frameworks reif genug sind, um diese Systeme effektiv zu überwachen und zu verwalten.
In diesem Kontext bedeutet Governance nicht Regulierung oder unnötige Regeln. Es geht darum, über Policies und Praktiken zu verfügen, die es den Menschen ermöglichen, klar zu beeinflussen, wie autonome Systeme arbeiten, einschließlich der Verantwortlichkeiten für Entscheidungen, der Überprüfung von Verhaltensweisen und dem Zeitpunkt, wann Menschen eingreifen sollten.
Die Risiken mangelnder Governance
Diese Diskrepanz kann problematisch werden, wenn autonome Systeme in realen Situationen handeln, bevor jemand intervenieren kann. Ein Beispiel ist ein kürzlicher Vorfall, bei dem autonome Robotertaxis an Kreuzungen stecken blieben, was Notfahrzeuge blockierte und andere Fahrer verwirrte. Dies zeigte, dass selbst wenn autonome Systeme „wie vorgesehen“ arbeiten, unerwartete Bedingungen zu unerwünschten Ergebnissen führen können.
Dies wirft eine große Frage auf: Wenn etwas mit KI schiefgeht, wer ist dann verantwortlich – und wer kann eingreifen?
Die Bedeutung von Governance
Wenn KI-Systeme eigenständig handeln, liegt die Verantwortung nicht mehr dort, wo Organisationen sie erwarten. Entscheidungen erfolgen weiterhin, aber das Eigentum ist schwerer nachzuvollziehen. Zum Beispiel blockieren Betrugserkennungssysteme in Echtzeit verdächtige Aktivitäten, bevor ein Mensch den Fall überprüft. Kunden erfahren oft erst, dass ihre Karte abgelehnt wurde, wenn sie an der Kasse stehen.
Was passiert also, wenn Ihre Karte fälschlicherweise von einem KI-System abgelehnt wird? In dieser Situation liegt das Problem nicht in der Technologie selbst – sie funktioniert wie vorgesehen –, sondern in der Verantwortlichkeit. Forschung zu menschlicher KI-Governance zeigt, dass Probleme auftreten, wenn Organisationen nicht klar definieren, wie Menschen und autonome Systeme zusammenarbeiten sollten. Diese Unklarheit erschwert es, Verantwortlichkeiten zuzuordnen und rechtzeitig einzugreifen.
Ohne Governance, die für Autonomie ausgelegt ist, können kleine Probleme unbemerkt anwachsen. Die Aufsicht wird sporadisch, und das Vertrauen nimmt ab, nicht weil Systeme vollständig fehlschlagen, sondern weil Menschen Schwierigkeiten haben, zu erklären oder hinter dem zu stehen, was die Systeme tun.
Wann Menschen eingreifen sollten
In vielen Organisationen sind Menschen technisch „im Loop“, jedoch erst nachdem autonome Systeme bereits gehandelt haben. Menschen tendieren dazu, erst dann einzugreifen, wenn ein Problem sichtbar wird – wenn ein Preis falsch aussieht, eine Transaktion markiert wird oder ein Kunde sich beschwert. Zu diesem Zeitpunkt wurde die Entscheidung bereits vom System getroffen, und die menschliche Überprüfung wird korrektiv statt überwachend.
Eine späte Intervention kann die Auswirkungen einzelner Entscheidungen begrenzen, klärt jedoch selten, wer verantwortlich ist. Ergebnisse können korrigiert werden, doch die Verantwortlichkeit bleibt unklar.
Der Einfluss von Governance auf den Erfolg
Agentische KI bringt oft schnelle, frühe Ergebnisse, insbesondere wenn Aufgaben zuerst automatisiert werden. Die Umfrage zeigt, dass viele Unternehmen diese frühen Vorteile sehen. Doch mit dem Wachstum autonomer Systeme fügen Organisationen oft manuelle Kontrollen und Genehmigungsschritte hinzu, um Risiken zu managen.
Im Laufe der Zeit wird, was einst einfach war, zunehmend komplizierter. Die Entscheidungsfindung verlangsamt sich, Umgehungen nehmen zu, und die Vorteile der Automatisierung schwinden. Dies geschieht nicht, weil die Technologie nicht mehr funktioniert, sondern weil Menschen den autonomen Systemen nie vollständig vertrauen.
Diese Verlangsamung muss nicht geschehen. Die Umfrage zeigt einen klaren Unterschied: Viele Organisationen sehen frühe Gewinne aus autonomer KI, aber diejenigen mit starker Governance sind viel wahrscheinlicher in der Lage, diese Gewinne in langfristige Ergebnisse wie höhere Effizienz und Umsatzwachstum umzuwandeln. Der entscheidende Unterschied ist nicht der Ehrgeiz oder die technischen Fähigkeiten, sondern die Vorbereitung.
Gute Governance schränkt die Autonomie nicht ein. Sie macht sie praktikabel, indem sie klarstellt, wer Entscheidungen trifft, wie die Funktionsweise der Systeme überwacht wird und wann Menschen eingreifen sollten. Internationale Richtlinien betonen diesen Punkt: Verantwortlichkeit und menschliche Aufsicht müssen von Anfang an in KI-Systeme integriert werden, nicht später hinzugefügt werden.
Der nächste Wettbewerbsvorteil
Der nächste Wettbewerbsvorteil in der KI wird nicht aus schnellerer Adoption resultieren, sondern aus intelligenterer Governance. Während autonome Systeme mehr Verantwortung übernehmen, werden die erfolgreichsten Organisationen diejenigen sein, die von Anfang an Eigentum, Aufsicht und Intervention klar definieren. In der Ära der agentischen KI werden Vertrauen und Erfolg den Organisationen zufließen, die am besten regieren, nicht nur denen, die zuerst übernehmen.
