Neue Forschung zum KI-Risikomanagement veröffentlicht
Die Purple Book Community hat in Zusammenarbeit mit einem Partner eine neue Studie zum Thema KI-Risikomanagement veröffentlicht. Die Ergebnisse basieren auf einer Umfrage unter mehr als 650 Führungskräften im Bereich Unternehmenscybersicherheit in Nordamerika und Europa. Die Forschung zeigt eine wachsende Kluft zwischen der wahrgenommenen Sicherheitsbereitschaft im Bereich KI und den operationellen Blindstellen, die durch Schatten-KI und neu eingeführte Schwachstellen entstehen.
Wesentliche Erkenntnisse der Studie
Die Untersuchung identifiziert mehrere systematische Trends, die die Sicherheitslage von Unternehmen im Bereich KI prägen:
- Schatten-KI wird zur Norm: Über 59 % der Sicherheitsleiter bestätigen oder vermuten, dass Mitarbeiter KI-Tools verwenden, die nicht von der IT oder den Sicherheitsteams genehmigt wurden, was auf eine dezentrale KI-Einführung hinweist, die die Governance-Prozesse überholt.
- KI-generierter Code erhöht das Risiko: Fast drei Viertel (73 %) der Organisationen berichten, dass die KI-unterstützte Entwicklung die Geschwindigkeit der Softwareerstellung über das Niveau hinaus steigert, das Sicherheitsteams überprüfen können, was zur weit verbreiteten Präsenz von KI-generierten Schwachstellen führt.
- Fragmentierung der Tools schwächt die Sicherheitslage: Mehr als die Hälfte (51 %) der Unternehmen nutzt 11 oder mehr Sicherheits- und Schwachstellenmanagement-Tools, was zu isolierten Einsichten und betrieblicher Komplexität führt.
- Sicherheitsteams sind mit Lärm überflutet: Fast die Hälfte (46 %) der Befragten gibt an, viel Zeit mit der Prüfung von Schwachstellen zu verbringen, die letztendlich keine Bedeutung haben, während kritische Probleme in verschiedenen, nicht verknüpften Tools verborgen bleiben.
Schlussfolgerungen und Herausforderungen
Diese Dynamiken führen zu dem, was als „Vertrauenslücke“ bezeichnet wird, der wachsenden Kluft zwischen der wahrgenommenen Sicherheitsbereitschaft im Bereich KI und der realen Fähigkeit, KI in Unternehmen zu steuern. Die Forschung zeigt, dass die eigentliche Herausforderung nicht die KI-Einführung selbst ist, sondern die Governance, die erforderlich ist, um sie verantwortungsvoll im Unternehmensmaßstab zu verwalten.
Der Bericht betont die Dringlichkeit, diese Governance-Lücke zu schließen, da Unternehmen KI in ihren Entwicklungs- und Geschäftsabläufen schnell operationalisieren, oft schneller, als Sicherheits- und Governance-Rahmen sich anpassen können.
Fazit
Die Erkenntnisse dieser Studie sind von entscheidender Bedeutung, um die Herausforderungen im Bereich KI-Risikomanagement zu bewältigen und sicherzustellen, dass Unternehmen in der Lage sind, die Sicherheitsrisiken, die mit der Nutzung von KI einhergehen, effektiv zu steuern.
