IBM Bekämpft Shadow AI: Ein blinder Fleck für Unternehmen
Mit der Explosion der Nutzung von KI zur schnellen Erstellung von Anwendungen in Unternehmen hat IBM Werkzeuge eingeführt, um Organisationen dabei zu helfen, KI-Systeme und -Agenten zu kontrollieren, von denen sie möglicherweise nicht einmal wissen.
IBM hat kürzlich das „erste Softwareprodukt der Branche zur Vereinheitlichung von agentischer Governance und Sicherheit“ eingeführt, das watsonx.governance und Guardium AI Security integriert, um Unternehmen zu helfen, ihre KI-Systeme — einschließlich Agenten — sicher und verantwortungsvoll zu halten.
Die Herausforderung von Shadow AI
Ähnlich wie ihr Vorgänger, Shadow IT, umfasst Shadow AI Bereiche unregulierter Technologienutzung innerhalb einer Organisation — in diesem Fall KI-Systeme. Dies stellt eine wachsende Herausforderung dar, da KI-Tools immer zugänglicher werden und Mitarbeiter jetzt autonome Systeme mit minimalem technischem Fachwissen erstellen können.
Das Ausmaß des Problems
Aktuelle Forschungen zeigen, dass 60 % der Mitarbeiter mehr ungenehmigte KI-Tools nutzen als im Vorjahr, wobei 93 % zugeben, Informationen in KI-Tools ohne Genehmigung eingegeben zu haben. Darüber hinaus haben 32 % der Mitarbeiter vertrauliche Kundendaten in KI-Tools eingegeben, ohne die Genehmigung des Unternehmens zu bestätigen.
Warum Shadow AI anders ist
„Agenten sind das neue heißeste Thema, und ich denke, Agenten sind für die Mitarbeiter leichter erreichbar als es generative KI je war“, sagte ein IBM-Vertreter. Diese Zugänglichkeit unterscheidet Shadow AI von traditioneller Shadow IT.
Die geschäftlichen Auswirkungen
Unternehmen stehen unter Druck, da 85 % der IT-Entscheidungsträger berichten, dass Mitarbeiter KI-Tools schneller übernehmen, als ihre IT-Teams diese bewerten können. Die Konsequenzen sind real und messbar, wobei Datenlecks oder -exposition das Hauptproblem darstellen, das 63 % der Organisationen betrifft.
Die Herausforderung bei der Erkennung
Die Identifizierung von Shadow AI erfordert neuartige Ansätze. Traditionelle IT-Überwachungstools wurden nicht entwickelt, um KI-Agenten zu erkennen, die möglicherweise in Geschäftsapplikationen oder in Cloud-Umgebungen eingebettet sind. IBM hat neue Fähigkeiten in Guardium AI Security eingeführt, um neue KI-Anwendungsfälle in Cloud-Umgebungen zu erkennen.
Die Lösung ist nicht einfach ein Verbot
Die Lösung besteht nicht einfach darin, die Nutzung unautorisierter KI zu verbieten. Shadow AI stellt sowohl das größte Governance-Risiko als auch die größte strategische Chance im Unternehmen dar. Organisationen, die erfolgreich sind, sind diejenigen, die die Sicherheitsbedrohungen angehen und Shadow AI als strategischen Indikator für echte Geschäftserfordernisse umformulieren.
Der Weg nach vorn
Da KI weiterhin evolviert, wird Shadow AI wahrscheinlich komplexer und schwerer zu erkennen. Unternehmen müssen von einer reaktiven Erkennung zu einem proaktiven Management übergehen. IT-Leiter müssen sich darauf konzentrieren, transparente, kollaborative und sichere KI-Ökosysteme aufzubauen, die von den Mitarbeitern genutzt werden können.
