Schatten-KI (Shadow AI): die Governance-Lücke schließen

Auf einen Blick

• Schatten-KI bezeichnet den Einsatz von KI-Werkzeugen, -Modellen oder -Diensten, ohne dass die für Daten, Risiko und Compliance verantwortlichen Personen davon wissen oder die Kontrolle behälten.
• Das Phänomen ist flächendeckend. Laut Gartner nutzen 68 Prozent der Beschäftigten nicht genehmigte KI-Werkzeuge, gegenüber 41 Prozent im Jahr 2023, und der Großteil dieser Nutzung durchläuft nie eine Freigabe.
• Die übliche Deutung als reines Problem des Datenabflusses greift zu kurz. Schatten-KI ist zuerst ein Governance-Versagen: Sie ist die KI, die es nie in Ihr Inventar geschafft hat.
• Nach der KI-Verordnung treffen die Pflichten die Organisation unabhängig davon, wie ein System eingeführt wurde. Ein unvollständiges KI-Inventar ist deshalb selbst eine Compliance-Lücke.
• Die Antwort ist kein Verbot. Sie besteht aus Entdeckung, einem zentralen KI-Register, klarer Verantwortung und Risikoklassifizierung: der Arbeit, die aus ungesteuerter KI eine gesteuerte KI macht.

Was ist Schatten-KI?

Schatten-KI ist die Nutzung von KI-Werkzeugen, -Modellen oder -Diensten durch Beschäftigte oder Teams, ohne Freigabe und ohne Aufsicht der Verantwortlichen für Daten, Risiko und Compliance. In der Praxis ist es die Marketingleiterin, die ihre Kampagnen in einem privaten Chatbot-Konto entwirft, die Analystin, die eine Kundendatei in ein kostenloses Modell einfügt, um sie zusammenfassen zu lassen, und der Entwickler, der Code aus einem Assistenten übernimmt, den die Sicherheit nie geprüft hat. Ein Hinweis zum Begriff, denn zwei Bedeutungen kursieren. Im Deutschen trifft „Schatten-KI“ die Vorstellung einer vorhandenen, aber unsichtbaren KI genau. Im Kontext von Governance und Compliance meint Schatten-KI eine nicht sanktionierte und ungesteuerte KI-Nutzung innerhalb der Organisation, den direkten Nachfahren der Schatten-IT. Das entscheidende Merkmal ist die Unsichtbarkeit. Das Werkzeug funktioniert, die Beschäftigten werden produktiver, und niemand aus der Aufsicht weiß, dass das System existiert. Genau diese Lücke zwischen der KI, mit der eine Organisation tatsächlich arbeitet, und der KI, über die sie Rechenschaft ablegen kann, ist das gesamte Problem. Unsere Analyse zur Governance-Lücke bei Schatten-KI sieht es genauso: Man steuert nicht, was man nicht gesehen hat.

Schatten-KI und Schatten-IT

Die Schatten-IT hat einer ganzen Generation von Sicherheitsteams beigebracht, dass Beschäftigte Werkzeuge schneller einführen, als Freigabeprozesse mithalten können. Schatten-KI teilt diese Ursache, fügt aber zwei Eigenschaften hinzu, die das Risiko verschärfen. Erstens verbleiben die Daten nicht nur in einer nicht genehmigten Anwendung, sondern verlassen den Perimeter und werden zu einer Eingabe, die ein Drittanbieter-Modell speichern oder für sein Training verwenden kann. Zweitens ist die Ausgabe nicht deterministisch, sodass dieselbe Anfrage unterschiedliche Antworten liefern kann und eine plausibel klingende Antwort falsch sein kann. Ein falsch konfiguriertes Freigabewerkzeug lässt abfließen, was man hineinlegt. Ein ungesteuertes Modell kann abfließen lassen, was man ihm anvertraut, und die Entscheidung auf dem Weg nach außen prägen.

Warum sich Schatten-KI so schnell ausbreitet

Drei Kräfte treiben die Verbreitung. Generative KI kam zuerst als Verbraucherprodukt: Die Beschäftigten begegneten ihr zu Hause, bevor die Governance ihr am Arbeitsplatz begegnete. Der Produktivitätsgewinn ist unmittelbar und persönlich, was die Werkzeuge klebrig macht. Und der Zugang ist reibungslos: ein Browser-Tab und eine E-Mail-Adresse genügen, ohne Beschaffungsschritt, der irgendjemanden ausbremst. Die Zahlen beschreiben ein nahezu allgemeines Verhalten, keine Randerscheinung. Gartner berichtet von 68 Prozent der Beschäftigten, die nicht genehmigte KI-Werkzeuge nutzen, gegenüber 41 Prozent im Jahr 2023. Die im Bericht State of Shadow AI von UpGuard zusammengetragenen Erhebungen gehen noch weiter: 81 Prozent der Beschäftigten und 88 Prozent der Sicherheitsverantwortlichen räumen eine nicht genehmigte KI-Nutzung ein. Das Gesamtwachstum der Schatten-KI wird zwischen 2023 und 2025 auf rund 156 Prozent geschätzt, wobei allgemeine Chat-Assistenten den überwältigenden Teil der nicht sanktionierten Aktivität ausmachen. Bemerkenswert ist, dass sich dies nicht auf einige wenige Nachwuchskräfte am Rand beschränkt. Führungskräfte und erfahrene technische Fachkräfte gehören zu den intensivsten Nutzern, also genau jene Personen, die mit dem sensibelsten Material umgehen. Ein Verbot verlagert dieses Verhalten eher aus dem Blickfeld, als es zu beenden.

Häufige Beispiele für Schatten-KI

Schatten-KI lässt sich am leichtesten nach Funktion begreifen, denn sie taucht überall dort auf, wo eine wiederkehrende Aufgabe auf ein verfügbares Modell trifft. <table header-row=“true“> <tr> <td>Funktion</td> <td>Typische Schatten-KI-Nutzung</td> <td>Was preisgegeben wird</td> </tr> <tr> <td>Marketing</td> <td>Texte und Bilder in privaten Konten erzeugen</td> <td>Markendaten, unveröffentlichte Kampagnen</td> </tr> <tr> <td>Entwicklung</td> <td>Nicht freigegebene Code-Assistenten</td> <td>Quellcode, Geheimnisse, Lizenzrisiko</td> </tr> <tr> <td>Daten und Analyse</td> <td>Datensätze in einen Chatbot einfügen</td> <td>Kunden- und Finanzdaten</td> </tr> <tr> <td>Personal und Recruiting</td> <td>Bewerbungen mit einem Verbraucherwerkzeug sichten</td> <td>Personenbezogene Daten, Diskriminierungsrisiko</td> </tr> <tr> <td>Finanzen und Recht</td> <td>Verträge in einem kostenlosen Modell zusammenfassen</td> <td>Vertrauliches und geschütztes Material</td> </tr> </table> Zwei Details machen aus diesen Beispielen mehr als Anekdoten. Der Personalfall kann eine Organisation in den Hochrisikobereich der KI-Verordnung führen, denn KI für Rekrutierung und Bewerberbewertung gilt dort als hochriskant. Und der Analysefall ist jener, in dem sensible Daten am häufigsten die Grenze zu einem Drittanbieter-Modell überschreiten, weshalb rund 38 Prozent der Beschäftigten einräumen, sensible Arbeitsinformationen ohne Erlaubnis mit KI-Werkzeugen zu teilen, wie Sicherheitsforschung von Orca Security zusammenfasst.

Die tatsächlichen Risiken: mehr als Datenabfluss

Die Preisgabe von Daten und geistigem Eigentum ist das Risiko, das jeder zuerst nennt, und die Kosten sind inzwischen messbar. Der Bericht Cost of a Data Breach 2025 von IBM stellt fest, dass Vorfälle mit Schatten-KI rund 670.000 US-Dollar mehr kosten als solche ohne, und dass 20 Prozent der betroffenen Organisationen einen Vorfall mit Schatten-KI erlitten hatten. Derselbe Bericht zeigt, dass 97 Prozent der Organisationen mit einem KI-bezogenen Vorfall keine angemessenen KI-Zugriffskontrollen hatten und 63 Prozent überhaupt keine KI-Governance-Richtlinie. Doch der Datenabfluss ist nur das sichtbarste Versagen. Vier weitere Risiken wiegen ebenso schwer:

• Sicherheit und Angriffsfläche. Nicht sanktionierte Modelle und ihre Integrationen liegen außerhalb der Überwachung, und ihr Datenverkehr ähnelt gewöhnlicher Web-Aktivität, sodass klassische Werkzeuge ihn übersehen.
• Regulatorische Exposition. Verarbeitet ein Werkzeug personenbezogene Daten oder speist es eine Hochrisiko-Entscheidung, trägt die Organisation die Pflicht, ob sie das Werkzeug kannte oder nicht.
• Entscheidungsqualität. Eine selbstsichere, aber falsche Antwort, die eine Einstellungs-, Kredit- oder klinische Entscheidung prägt, ist ein Governance-Ereignis, kein Tippfehler.
• Agentisches Risiko. In dem Maße, in dem Werkzeuge nicht mehr nur antworten, sondern handeln können, kann ein ungesteuerter Agent mit Systemzugriff Schritte einleiten, die niemand genehmigt hat.

Was die Sicherheitsperspektive übersieht

Die meisten Darstellungen von Schatten-KI enden bei der abgeflossenen Datei. Diese Sicht ist zutreffend, aber oberflächlich, denn sie behandelt das Thema als zu verteidigenden Perimeter statt als zu steuernde Population. Die tiefere Exposition ist eine Rechenschaftspflicht ohne Träger: kein Verantwortlicher, keine Risikoklassifizierung, kein Nachweis, dass das System existiert, und daher keine Möglichkeit, einer Aufsichtsbehörde, einer Prüferin oder einem Vorstand zu antworten, der eine einfache Frage stellt. Welche KI-Systeme betreiben wir, wer verantwortet sie, und was können sie tun? Ein Sicherheitswerkzeug kann eine Verbindung blockieren. Diese Frage kann es nicht beantworten.

Schatten-KI ist ein Fall für die KI-Verordnung, nicht nur für die Sicherheit

Hier verändert die Governance-Perspektive den Einsatz. Die KI-Verordnung sieht keine Ausnahme für KI vor, die Beschäftigte ohne Freigabe eingeführt haben. Ihre Pflichten treffen die Organisation als Betreiberin oder Anbieterin, unabhängig davon, wie ein System in den Bestand gelangt ist. Eine Organisation, die kein vollständiges, nach Risiko klassifiziertes Inventar ihrer KI vorlegen kann, kann ihre Compliance nicht nachweisen, und Schatten-KI ist genau die Population, die in diesem Inventar fehlt. Mehrere Pflichten greifen unmittelbar. Artikel 4 verlangt von Anbietern und Betreibern, ein ausreichendes Maß an KI-Kompetenz ihrer Belegschaft sicherzustellen, und gilt seit dem 2. Februar 2025. Wird KI für einen hochriskanten Zweck eingesetzt, etwa Rekrutierung oder Kreditwürdigkeit, erbt der Betreiber Pflichten zu menschlicher Aufsicht, zur Governance der Eingabedaten und zur Aufbewahrung von Protokollen. Der Anwendungskalender rückt näher: Pflichten für KI-Modelle mit allgemeinem Verwendungszweck gelten seit dem 2. August 2025, der Großteil des Hochrisikoregimes ab dem 2. August 2026. Die Sanktionen sind spürbar bemessen, bis zu 7 Prozent des weltweiten Jahresumsatzes für verbotene Praktiken und bis zu 3 Prozent für die meisten anderen Verstöße. Dasselbe Prinzip steht im Zentrum der großen Rahmenwerke. Das KI-Risikomanagement-Rahmenwerk des NIST macht das Führen eines Inventars der KI-Systeme und die klare Zuweisung von Verantwortung zu einem Fundament seiner Funktionen GOVERN und MAP. Die Norm ISO/IEC 42001 für das KI-Managementsystem erwartet von einer Organisation, ein Verzeichnis ihrer KI-Systeme zu führen und die zugehörigen Rollen festzulegen. In Deutschland macht das Zusammenspiel mit dem BSI für die Sicherheit und den Datenschutzaufsichtsbehörden für personenbezogene Daten dieses Inventar umso konkreter. Von einem Rahmenwerk zum nächsten ist der erste Schritt derselbe: wissen, was man hat.

Von der Erkennung zur Governance: die Schatten-KI-Lücke schließen

Sicherheitsanbieter begegnen Schatten-KI mit Erkennen und Blockieren. Das ist eine notwendige Kontrolle, aber ein Ausgangspunkt, kein Ziel. Governance antwortet mit einem Lebenszyklus: entdecken, inventarisieren, eine verantwortliche Person zuweisen, das Risiko klassifizieren, das System über seine Lebensdauer steuern und es regelmäßig attestieren. Der Unterschied ist der zwischen dem Kappen einer Verbindung und der Fähigkeit, jede KI-Entscheidung Ihrer Organisation zu vertreten. Das Objekt, das dies ermöglicht, ist ein KI-Register: ein einziges Referenzsystem, das jedes KI-System, seinen Verantwortlichen, seinen Zweck, seine Risikostufe und seine Nachweise führt. Unser KI-Register ist für genau diesen Übergang gebaut und verwandelt einen verstreuten, unsichtbaren KI-Fußabdruck in einen gesteuerten Bestand. Sobald ein System im Register steht, ist es keine Schatten-KI mehr. Es wird zu einem Vermögenswert mit Verantwortlichem und Kontrollset, dem einzigen Zustand, aus dem heraus Compliance, Aufsicht und ehrliche Vorstandsberichte möglich sind.

Warum Verbote scheitern

Ein pauschales Verbot wirkt entschlossen und hält selten. Beschäftigte, die in einem Werkzeug echten Wert gefunden haben, hören nicht auf, sondern wechseln zu privaten Geräten und Konten, wo Sie noch weniger Sichtbarkeit haben. Das Verbot verwandelt ein steuerbares Problem in ein unsichtbares. Die Organisationen, die vorankommen, verbinden Ermöglichung mit Governance: genehmigte Werkzeuge, die wirklich gut sind, ein klarer und schneller Weg, ein neues Werkzeug bewerten zu lassen, und ein Register, das die tatsächliche Nutzung erfasst. Ermöglichung plus Governance schlägt das Verbot, weil dieser Ansatz mit dem Verhalten arbeitet statt gegen es.

Schatten-KI in der Praxis unter Governance bringen

Ein praktikables Programm besteht aus fünf Schritten, in dieser Reihenfolge.

1. Entdecken. Eine anonyme Nutzungsbefragung mit einer technischen Entdeckung aus Netzwerk- und SaaS-Protokollen verbinden. Das Ziel ist ein ehrliches erstes Bild, keine Disziplinarübung.
2. Registrieren. Jedes gefundene System in einem zentralen KI-Register erfassen, damit das Inventar ein lebendiges Verzeichnis wird und nicht eine Tabelle, die am Tag ihrer Fertigstellung veraltet.
3. Verantwortung zuweisen und Risiko klassifizieren. Jedem System einen benannten Verantwortlichen und eine Risikostufe geben, gestützt auf die Kategorien der KI-Verordnung, wo sie gelten. Die Verantwortung macht den Rest durchsetzbar.
4. Ermöglichen und schulen. Genehmigte Alternativen anbieten, die die Teams wirklich nutzen wollen, und die KI-Kompetenzpflicht aus Artikel 4 mit Schulungen erfüllen, die den Zweck des Registers erklären.
5. Fortlaufend attestieren. Verantwortung, Risikostufe und Kontrollen regelmäßig bestätigen und den Zustand des Bestands an den Vorstand berichten. Die fortlaufende Attestierung hält das Inventar wahrheitsgetreu.

Keiner dieser Schritte ist exotisch. Wirksam werden sie, wenn man sie in einem für Governance gebauten System durchführt statt in einem starren Dokument, damit das Register aktuell bleibt, während sich der KI-Bestand darunter verändert.

Häufige Fragen

Was ist Schatten-KI? Schatten-KI ist die Nutzung von KI-Werkzeugen, -Modellen oder -Diensten innerhalb einer Organisation ohne Freigabe und Aufsicht der für Daten, Risiko und Compliance Verantwortlichen. Sie ist das KI-Pendant zur Schatten-IT, mit dem zusätzlichen Risiko, dass Daten den Perimeter zu einem Drittanbieter-Modell verlassen und Ausgaben Entscheidungen prägen können. Was ist ein Beispiel für Schatten-KI? Ein häufiges Beispiel ist die Analystin, die eine Tabelle mit Kundendaten in einen kostenlosen Chatbot einfügt, um sie zusammenfassen zu lassen, über ein privates Konto, das Sicherheit und Compliance nie genehmigt haben. Ebenso häufig sind Marketingteams, die Inhalte in privaten KI-Konten erzeugen, oder Entwickler, die Code aus nicht freigegebenen Assistenten übernehmen. Warum ist Schatten-KI ein Problem? Weil sie eine Exposition schafft, die niemand steuert: sensible Daten können die Organisation verlassen, Entscheidungen können auf ungeprüften Ausgaben beruhen, und die KI erscheint auf keinem Inventar. Nach der KI-Verordnung gelten die Pflichten unabhängig davon, wie ein Werkzeug eingeführt wurde, sodass eine nicht erfasste KI eine unmittelbare Compliance-Lücke ist und nicht nur ein Sicherheitsproblem. Wie funktioniert Schatten-KI? Sie breitet sich über reibungslosen Zugang aus. Ein Beschäftigter meldet sich mit Browser und E-Mail-Adresse bei einem Verbraucher-KI-Werkzeug an, nutzt es, um schneller zu arbeiten, und führt es weder über Beschaffung noch über Sicherheit. Da der Datenverkehr wie gewöhnliche Web-Aktivität aussieht und der Gewinn real ist, hält sich die Nutzung und vervielfältigt sich still. Wie erkennt man Schatten-KI? Die Erkennung verbindet zwei Methoden: eine anonyme Befragung, die die Teams nach ihrer tatsächlichen Nutzung fragt, und eine technische Entdeckung aus Netzwerk-, Proxy- und SaaS-Protokollen, die KI-Verkehr und -Anwendungen sichtbar macht. Das Ergebnis beider sollte in ein zentrales KI-Register fließen, damit die Erkennung in Governance mündet und nicht in eine einmalige Prüfung. Kann man Schatten-KI durch ein Verbot von KI-Werkzeugen stoppen? Selten. Verbote drängen die Nutzung eher auf private Geräte und Konten, wo die Sichtbarkeit noch geringer ist. Der dauerhaftere Ansatz verbindet Governance mit Ermöglichung: genehmigte Werkzeuge, die die Teams nutzen wollen, ein schneller Bewertungsweg für neue, und ein Register, das das Inventar ehrlich hält.

Fazit

Schatten-KI ist im Kern keine Geschichte über undisziplinierte Beschäftigte oder abgeflossene Dateien. Sie ist die Geschichte des Abstands zwischen der KI, mit der eine Organisation arbeitet, und der KI, über die sie Rechenschaft ablegen kann. Sicherheitskontrollen verringern diesen Abstand; nur Governance schließt ihn. Die Organisationen, die eine Prüfung bestehen, die KI-Verordnung erfüllen und ihrem Vorstand eine klare Antwort geben, sind jene, die Schatten-KI in ein Register überführen, jedem System einen Verantwortlichen und eine Risikostufe geben und dieses Verzeichnis über die Zeit wahrheitsgetreu halten. Wenn Sie einen einzigen Ausgangspunkt suchen, beginnen Sie beim Inventar: überführen Sie die KI, die Sie nicht sehen, in ein KI-Register, und sie hört auf, ein Schatten zu sein.