Unternehmen nutzen bereits agentische KI zur Entscheidungsfindung, doch die Governance bleibt zurück
Unternehmen handeln schnell, um agentische KI – künstliche Intelligenzsysteme, die ohne menschliche Anleitung arbeiten – zu übernehmen. Allerdings sind sie viel langsamer dabei, eine Governance zu implementieren, um diese Systeme zu überwachen. Diese Diskrepanz stellt einen bedeutenden Risikofaktor bei der Einführung von KI dar, könnte jedoch auch eine Geschäftsgelegenheit darstellen.
Der aktuelle Stand der Governance
Aktuelle Umfragen zeigen, dass 41% der Organisationen agentische KI in ihren täglichen Abläufen einsetzen. Diese Systeme sind keine einmaligen Tests, sondern Teil regulärer Arbeitsabläufe. Gleichzeitig hinkt die Governance hinterher: Nur 27% der Organisationen geben an, dass ihre Governance-Rahmenbedingungen reif genug sind, um diese Systeme effektiv zu überwachen.
Warum Governance wichtig ist
In diesem Kontext bedeutet Governance nicht, unnötige Regeln oder Vorschriften zu schaffen, sondern klare Richtlinien und Praktiken zu haben, die es den Menschen ermöglichen, den Betrieb autonomer Systeme zu beeinflussen. Dies umfasst die Verantwortung für Entscheidungen, die Überprüfung des Verhaltens und den Zeitpunkt, zu dem Menschen eingreifen sollten.
Wenn autonome Systeme in realen Situationen handeln, bevor jemand eingreifen kann, kann dies problematisch werden. Ein Beispiel hierfür ist eine kürzliche Situation, in der autonome Robotaxis während eines Stromausfalls an Kreuzungen stecken blieben, was Notfahrzeuge blockierte und andere Fahrer verwirrte.
Verantwortung und Intervention
Wenn KI-Systeme eigenständig handeln, verlagert sich die Verantwortung von den erwarteten Stellen. Entscheidungen werden weiterhin getroffen, aber die Zuordnung der Verantwortung wird schwieriger. In den Finanzdienstleistungen blockieren Betrugserkennungssysteme zunehmend verdächtige Aktivitäten in Echtzeit, bevor ein Mensch den Fall überprüft. Kunden erfahren oft erst, wenn ihre Karte abgelehnt wird.
Wenn eine Karte fälschlicherweise von einem KI-System abgelehnt wird, liegt das Problem nicht an der Technologie selbst, sondern an der Verantwortlichkeit. Die Forschung zur Governance zwischen Mensch und KI zeigt, dass Probleme auftreten, wenn Organisationen nicht klar definieren, wie Menschen und autonome Systeme zusammenarbeiten sollten.
Die Folgen unzureichender Governance
Ohne eine Governance, die auf Autonomie ausgelegt ist, können kleine Probleme unbemerkt wachsen. Die Aufsicht wird sporadisch und das Vertrauen schwindet, nicht weil die Systeme komplett versagen, sondern weil Menschen Schwierigkeiten haben, zu erklären oder hinter dem, was die Systeme tun, zu stehen.
In vielen Organisationen sind Menschen technisch „im Loop“, aber erst nachdem autonome Systeme bereits gehandelt haben. Menschen werden oft erst aktiv, wenn ein Problem sichtbar wird. Zu diesem Zeitpunkt ist die Entscheidung bereits gefallen, und die menschliche Überprüfung wird korrektiv statt aufsichtführend.
Die Bedeutung smarter Governance
Die Vorteile von agentischer KI zeigen sich oft schnell und früh, insbesondere wenn Aufgaben zunächst automatisiert werden. Viele Unternehmen berichten von frühzeitigen Vorteilen, aber mit wachsender Autonomie fügen Organisationen oft manuelle Überprüfungen und Genehmigungsschritte hinzu, um Risiken zu steuern.
Im Laufe der Zeit wird das, was einst einfach war, zunehmend kompliziert. Entscheidungsprozesse verlangsamen sich, Umgehungsstrategien nehmen zu und die Vorteile der Automatisierung schwinden. Diese Entwicklung geschieht nicht, weil die Technologie nicht funktioniert, sondern weil Menschen den autonomen Systemen nicht völlig vertrauen.
Fazit
Die nächste Wettbewerbsfähigkeit in der KI wird nicht aus einer schnelleren Übernahme resultieren, sondern aus einer intelligenteren Governance. Der Erfolg wird den Organisationen gehören, die von Anfang an klar definieren, wer für Entscheidungen verantwortlich ist, wie die Systeme überwacht werden und wann Menschen eingreifen sollten. In der Ära der agentischen KI wird das Vertrauen den Organisationen zufließen, die am besten regieren, nicht nur denen, die zuerst übernehmen.
