State of AI Security Report: Unternehmen bereiten sich auf KI-Vorfälle vor
Die Sicherheit von Künstlicher Intelligenz in Unternehmen ist schlecht geregelt und fragmentiert, was dazu führt, dass die kritischsten Risiken unmanagebar sind und KI-bezogene Vorfälle als unvermeidlich angesehen werden. Dies geht aus dem 2025 State of AI Security Report von Acuvity AI hervor.
Einleitung
„KI verändert die Art des Risikos selbst und zwingt Führungskräfte dazu, Vorfälle zu konfrontieren, für die sie zugeben, nicht bereit zu sein“, erklärt der CEO von Acuvity AI. „Dieser Bericht gibt ihnen die Beweise und Benchmarks, um die Governance und Runtime-Sicherheit der KI jetzt zu priorisieren.“
Wichtige Erkenntnisse
- Die Umfrage zeigt, dass 50 % der Befragten in den nächsten 12 Monaten mit Datenverlusten durch generative KI-Tools rechnen, 49 % erwarten Vorfälle mit Shadow AI und 41 % sorgen sich um KI-gesteuerte Insider-Bedrohungen.
- 70 % der Befragten geben zu, dass sie keine optimierte KI-Governance haben. Die Ergebnisse deuten darauf hin, dass schwerwiegende Sicherheitsvorfälle zu erwarten sind und sowohl die KI-Governance als auch die Runtime-Durchsetzung unzureichend sind, um sie einzudämmen.
- Im Bereich der Budgetierung hat die Sicherheit der KI-Lieferkette die höchste Investitionspriorität, wobei 31 % der Organisationen dies als ihren Schwerpunkt für die nächsten 12 Monate wählen.
- 70 % berichten, dass sie die optimierte KI-Governance, die eine Überwachung auf Vorstandsebene, automatisierte Überwachung und regelmäßig aktualisierte Richtlinien umfasst, nicht erreicht haben.
- 50 % erwarten in den nächsten 12 Monaten Datenlecks durch generative KI-Tools, was Datenexposition als die wahrscheinlichste kurzfristige Auswirkung der KI-Adoption hervorhebt.
- 49 % erwarten ein Shadow-AI-Ereignis in den nächsten 12 Monaten, wobei 23 % angeben, dass sie am wenigsten darauf vorbereitet sind.
- Die Top-Bedenken umfassen den Einsatz von eigenständigen generativen KI-Tools ohne Genehmigung der IT (21 %) und KI-Funktionen, die in SaaS-Anwendungen eingebettet sind (18 %).
- 31 % betrachten die Sicherheit der KI-Lieferkette als ihre wichtigste Investition in den nächsten 12 Monaten.
- CIOs haben mit 29 % die Hauptverantwortung für die Sicherheit von KI, gefolgt von Chief Data Officers (17 %) und Infrastrukturteams (15 %). CISOs belegen mit 14,5 % den vierten Platz.
- Die Laufzeit wird als die anfälligste Phase mit 38 % und als die am wenigsten vorbereitete Fläche mit 27 % eingestuft.
Schlussfolgerung
Die vorliegenden Daten zeigen, dass Unternehmen in der heutigen Zeit vor großen Herausforderungen stehen, wenn es um die Sicherheit von KI geht. Die Notwendigkeit einer optimierten Governance und einer effektiven Risikomanagementstrategie ist dringlicher denn je, um die Sicherheit in einer zunehmend von KI abhängigen Welt zu gewährleisten.
