AI greift auf Daten zu, auf die es nicht zugreifen sollte
Im 2025 State of AI Data Security Report von Cyera wird festgestellt, dass die Einführung von KI die Datenverwaltung, die Sichtbarkeit und die Kontrollen übersteigt. Die Umfrage ergab, dass Unternehmen KI-Governance ohne angemessene Governance einführen. Die Sichtbarkeit der Interaktionen von KI mit sensiblen Daten ist gering, und die Aktivitäten von KI werden nicht in Echtzeit überwacht. Außerdem haben Organisationen keine spezifischen KI-Richtlinien, um ihre Daten zu schützen.
Ein Mangel an Governance, Sichtbarkeit und etablierten Kontrollen ermöglicht den Zugriff auf oder die Freigabe von Daten, was zu Sicherheits- und Datenschutzbedenken führt, die unbemerkt bleiben können.
Einblicke in die KI-Nutzung
Es ist kein Geheimnis, dass immer mehr Unternehmen KI einsetzen. Laut der Umfrage nutzen 83% der 921 Befragten bereits KI. Dennoch haben nur 13% der Befragten eine starke Sichtbarkeit darüber, wie KI mit den sensiblen Daten ihres Unternehmens interagiert, und nur 9% haben eine Echtzeitüberwachung für KI. Während 16% über spezifische KI-Richtlinien verfügen, hat nur 7% ein KI-Governance-Komitee. Diese fehlende Aufsicht kann zu regulatorischen Verstößen und Datenlecks führen sowie zu Kostenüberschreitungen.
Ein weiteres Problem ist, dass KI auf Daten zugreift, auf die sie nicht zugreifen sollte. 66% der Befragten haben festgestellt, dass KI sensible Daten übermäßig zugreift. Ein Befragter berichtete, dass ein Vertriebsleiter bemerkte, wie ein KI-Co-Pilot auf sensible Preisinformationen zugriff, bevor ein Security Information and Event Management System (SIEM) dies tat, da die KI standardmäßig ohne Schutzmaßnahmen oder Überwachung aufgerufen wurde. Der Mangel an Echtzeiterkennung und Sichtbarkeit bedeutet, dass riskantes KI-Verhalten unbemerkt bleiben kann, was zu Datenverletzungen führt.
Regulatorische und vertrauensbasierte Bedenken
21% der Befragten gaben an, dass KI standardmäßig umfassenden Zugriff auf Daten hat. 33% der Befragten räumten ein, dass sie sich des Mangels an Kontrollen bewusst sind, aber nur 9% planen, Blockierungsfunktionen hinzuzufügen, während 15% angaben, dass sie Missbrauch überhaupt nicht blockieren können. Ohne angemessene Richtlinien kann KI auf sensible Daten zugreifen und diese sogar freigeben, was die betriebliche Effizienz stören kann.
All diese Probleme können auch zu regulatorischen und vertrauensbasierten Fragen führen. Kunden werden weniger bereit sein, Unternehmen zu nutzen, die ihre Daten nicht ordnungsgemäß schützen, und Regulierungsbehörden können Geldstrafen für Organisationen verhängen, die nicht mit den Datenschutzgesetzen konform sind. Darüber hinaus gibt es Kosten, die mit der Reaktion auf Vorfälle, rechtlichen Schäden und kommerziellen Auswirkungen verbunden sind.
