Organisationen setzen auf KI, aber mangelt es an angemessener Governance bei der Entwicklung
Neue Forschungen zeigen, dass 93 Prozent der Unternehmen im Vereinigten Königreich heutzutage KI in irgendeiner Form nutzen. Doch die meisten haben keine Rahmenbedingungen, um die damit verbundenen Risiken zu managen, und integrieren die KI-Governance nicht in ihre Softwareentwicklungsprozesse.
Aktuelle Studie
Die Studie von Trustmarque zeigt, dass nur sieben Prozent der Unternehmen vollständig eingebettete Governance-Rahmenwerke zur Verwaltung von KI-Risiken haben. Darüber hinaus betrachten lediglich vier Prozent ihre Technologieinfrastruktur als vollständig für KI bereit und nur acht Prozent haben die KI-Governance in ihren Softwareentwicklungszyklus integriert.
Organisationen verlassen sich größtenteils auf veraltete Softwareentwicklungsprozesse, die nicht aktualisiert wurden, um spezifische KI-Risiken wie Modellverzerrung oder Erklärbarkeitslücken zu berücksichtigen. Nur 28 Prozent wenden Bias-Detection während der Testphase an, und noch weniger (22 Prozent) testen auf die Interpretierbarkeit von Modellen.
Infrastruktur und Werkzeuge als Barrieren
Die Infrastruktur und die Werkzeuge stellen ebenfalls Barrieren für die Governance dar, wie die befragten IT-Leiter berichten. Lediglich vier Prozent der Organisationen geben an, dass ihre Daten- und Infrastrukturumgebungen vollständig darauf vorbereitet sind, KI in großem Maßstab zu unterstützen. Registrierungen, Prüfprotokolle und Versionskontrollen für KI-Modelle sind oft manuell oder fehlen ganz.
Fragmentierte Verantwortung für KI-Überwachung
Die Verantwortung für die KI-Überwachung ist ebenfalls fragmentiert. Von den Befragten berichten neun Prozent von einer Ausrichtung zwischen IT-Führung und Governance, während 19 Prozent angeben, dass es keinen klaren Eigentümer für Governance-Aktivitäten gibt. Das Engagement der Führungsebene bleibt ebenfalls niedrig, wobei die meisten KI-Governance auf Abteilungsebene und nicht durch strategische Führung betrieben wird.
Fazit
Die Ergebnisse der Studie zeigen, dass die Adoption von KI die Governance überholt. Es gibt eine klare Lücke: 93 Prozent der Organisationen nutzen KI, aber nur sieben Prozent haben vollständig eingebettete Governance-Rahmenwerke. Derzeit haben Systeme und Prozesse nicht mit der Innovationsgeschwindigkeit Schritt gehalten. Die Entwicklungsteams verfügen nicht über die erforderlichen Werkzeuge und Infrastrukturen, und die Probleme werden durch das Fehlen von Managementunterstützung zum Aufbau robuster Governance-Systeme verstärkt.
Governance wird oft als Einschränkung angesehen, doch die Ergebnisse der Studie legen das Gegenteil nahe. Organisationen, die KI-Governance eingeführt haben, sehen echte, greifbare Vorteile: schnellere Bereitstellungen, stärkere Verantwortlichkeit und reduzierte manuelle Überprüfungszyklen. Governance ist eine entscheidende Unterstützungsfunktion, um verantwortungsvolle und skalierbare KI zu ermöglichen.
