AI-Adoption und ihre Auswirkungen auf die Sicherheitsgovernance
Ein neuer Bericht zeigt, dass AI-Agenten, Integrationen und AI-native Entwicklungsplattformen zunehmend an Bedeutung gewinnen und neue, kritische Herausforderungen für die Sicherheitsgovernance mit sich bringen.
Einführung
Die Nutzung von KI hat sich über Experimente und allgemeine Chat-Tools hinaus entwickelt und ist nun in Arbeitsabläufe integriert, verbunden mit zentralen Geschäftsplattformen und zunehmend fähig, autonome Aktionen durchzuführen. Diese Veränderung erfordert eine proaktive Herangehensweise an die Governance von KI.
Wichtige Erkenntnisse
- Der Gebrauch von Kern-LLM-Anbietern ist weit verbreitet, wobei OpenAI in 96 % der Organisationen präsent ist, gefolgt von Anthropic mit 77,8 %.
- Die am häufigsten verwendeten KI-Tools diversifizieren sich über Chat-Anwendungen hinaus. Werkzeuge für Meeting-Intelligenz, Präsentationen und Programmierung sind ebenfalls weit verbreitet.
- Agenten-Tools wie Manus, Lindy und Agent.ai beginnen, eine frühe Präsenz zu etablieren.
- Integrationen sind häufig und vielfältig, wobei OpenAI und Anthropic häufig mit Produktivitätssuiten und Wissensmanagementsystemen verbunden sind.
- Die Datennutzung zeigt, dass 17 % der Eingabeaufforderungen Aktivitäten wie Kopieren/Einfügen und Datei-Uploads umfassen.
- Sensible Datenrisiken sind vor allem im Bereich Geheimnisse und Zugangsdaten zu finden.
Risiken und Herausforderungen
Die Governance von KI hat sich zu einer Top-Priorität für Sicherheits- und Risikoleiter entwickelt, doch viele Programme konzentrieren sich nach wie vor nur auf die Genehmigung von Anbietern und akzeptable Nutzungsrichtlinien. Diese Kontrollen allein sind nicht ausreichend, da die erheblichsten KI-Risiken aus der täglichen Nutzung von KI-Tools durch Mitarbeiter resultieren.
Schlussfolgerung
Um effektive KI-Governance zu gewährleisten, ist es wichtig, die Schnittstellen zwischen Menschen, Berechtigungen und Plattformen zu verstehen. Der Fokus sollte darauf liegen, Governance als einen kontinuierlichen, adaptiven Prozess zu betrachten, um den Herausforderungen der KI-Nutzung in der Praxis gerecht zu werden.
