Ohne Governance besteht die Gefahr, dass KI im Finanzwesen zu einer teuren Zufallsentscheidung wird. CFOs müssen jetzt nicht nur KI-Tools implementieren, sondern auch Systeme zur Aufsicht entwickeln, um diese Werkzeuge vertrauenswürdig, transparent und prüfbar zu machen.
Die Reflexion über kollektive Misserfolge im Bereich der KI-Governance erinnert daran, dass die heutigen KI-Systeme oft die lokalen Kontexte und Erfahrungen ignorieren, was zu einer zentralisierten und ineffizienten Planung führt. Um eine resilientere Zukunft für KI zu schaffen, ist es entscheidend, Vielfalt, verteilte Autorität und gemeinschaftlich informierte Designs in die Governance-Modelle einzubeziehen.
Die globale KI-Governance umfasst ein System von Regeln und Standards, das Länder und Organisationen schaffen, um künstliche Intelligenz grenzüberschreitend zu verwalten. Es ist entscheidend, um Risiken zu minimieren und sicherzustellen, dass KI sicher, fair und nützlich für alle bleibt.
Die UN hat einen globalen Dialog zur KI-Governance ins Leben gerufen, um eine inklusive Plattform für Regierungen und Interessengruppen zu schaffen, die sich mit den drängendsten Herausforderungen der KI auseinandersetzt. Zudem wurde ein Aufruf zur Nominierung von Mitgliedern für das unabhängige internationale wissenschaftliche Panel für KI bis zum 31. Oktober 2025 eröffnet.
Der KI-Governance-Experte Olajide Olugbade warnte auf der 49. Jahreskonferenz des Institute of Chartered Secretaries and Administrators of Nigeria (ICSAN) vor dem Risiko von „Ethics Washing“ bei der Einführung von KI-Systemen. Er betonte die Notwendigkeit, effektive Verantwortungsmechanismen zu implementieren, um sicherzustellen, dass die Einführung von KI verantwortungsbewusst erfolgt.
Am 29. September 2025 unterzeichnete Gouverneur Gavin Newsom das Gesetz über die Transparenz in der Frontier-Künstlichen Intelligenz (TFAIA), das Kalifornien zum ersten Bundesstaat macht, der öffentliche, standardisierte Sicherheitsoffenlegungen von Entwicklern fortschrittlicher „Frontier“-KI-Modelle verlangt. Die Vorschriften treten am 1. Januar 2026 in Kraft und zielen darauf ab, Transparenz und Verantwortlichkeit für Entwickler von leistungsstarken KI-Modellen zu gewährleisten.
Kalifornien hat als erster Bundesstaat der USA ein eigenes Gesetz zur Sicherheit von KI verabschiedet. Das Gesetz verpflichtet Unternehmen wie Google, Meta und OpenAI, hochriskante Vorfälle zu melden und Sicherheitsmaßnahmen offenzulegen.
Die EY-Umfrage zeigt, dass Unternehmen, die verantwortungsvolle KI-Governance vorantreiben, mit besseren Geschäftsergebnissen verbunden sind. Fast alle Organisationen berichten von finanziellen Verlusten aufgrund von Nichteinhaltung, Nachhaltigkeitsrückschlägen und voreingenommenen Ergebnissen.
Das KI-Gesetz, das Gouverneur Gavin Newsom von Kalifornien letzte Woche unterzeichnet hat, könnte einen Präzedenzfall für die KI-Regulierung der Demokraten im ganzen Land schaffen. Dieses Gesetz verpflichtet KI-Labors zur Offenlegung ihrer Sicherheitsprotokolle und zur Benachrichtigung Kaliforniens über etwaige „katastrophale Risiken“ bei der Entwicklung fortschrittlicher KI-Modelle.
Der Mangel an effektiven Governance-Praktiken im Bereich Künstliche Intelligenz (KI) stellt ein ernsthaftes Risiko für Organisationen weltweit dar. Angesichts der zunehmenden Nutzung von KI-Technologien müssen Unternehmen dringend Governance-Strategien entwickeln, um die potenziellen Gefahren zu mindern.