DSGVO-konforme KI: Was Aufsichtsbehörden 2026 sehen wollen

DSGVO-konforme KI ist keine Eigenschaft eines Modells und kein Siegel auf der Website eines Herstellers, sondern eine Reihe von Entscheidungen, die für jede einzelne Verarbeitung getroffen und belegt werden. 2026 haben sich mehrere Bausteine gleichzeitig verschoben: Zwei Leitlinien des Europäischen Datenschutzausschusses (EDSA) stehen bis zum 30. Oktober 2026 zur Konsultation, die KI-Verordnung enthält eine neue Rechtsgrundlage für Bias-Tests mit sensiblen Daten, der Reformvorschlag zur DSGVO ist weiterhin nicht verabschiedet, und das erste große Bußgeld gegen einen Anbieter generativer KI wurde gerichtlich aufgehoben. Die meisten Leitfäden wiederholen die Grundsätze der Verordnung und hören dort auf. Dieser Beitrag folgt der Frage, die im Ernstfall zählt: Was will eine Datenschutzaufsichtsbehörde tatsächlich sehen?

Auf einen Blick

• Die DSGVO greift in vier Momenten: Erhebung der Trainingsdaten, Training, Einsatz (Prompts, Retrieval, Logs) sowie Ausgaben und Entscheidungen. Jeder Moment braucht eine eigene Rechtsgrundlage und einen eigenen Nachweis.
• Das berechtigte Interesse kann KI-Training tragen, aber nur über den Drei-Stufen-Test aus der EDSA-Stellungnahme 28/2024. Ein mit personenbezogenen Daten trainiertes Modell gilt nicht als anonym.
• Die Leitlinien 03/2026 zum Web Scraping stehen bis 30. Oktober 2026 zur Konsultation: Wer robots.txt oder ai.txt ignoriert, belastet seine Interessenabwägung.
• Seit 27. Juli 2026 erlaubt Artikel 4a der KI-Verordnung Anbietern und Betreibern, besondere Kategorien zur Bias-Erkennung zu verarbeiten, bei strikter Erforderlichkeit.
• Der digitale Omnibus (Artikel 88c) ist kein geltendes Recht: DSGVO-konforme KI baut auf der DSGVO in ihrer heutigen Fassung auf.

Was DSGVO-konforme KI bedeutet und was nicht

Die Datenschutz-Grundverordnung regelt die Verarbeitung personenbezogener Daten, nicht eine Technologie. Daraus folgt der wichtigste Satz dieses Beitrags: Ein KI-System ist nie als Ganzes konform, sondern immer nur Verarbeitung für Verarbeitung. Datenerhebung, Training, Betrieb und Verwendung der Ergebnisse sind jeweils eigene Vorgänge mit eigenem Zweck und eigener Rechtsgrundlage. Wer DSGVO-konforme KI sagt, meint streng genommen eine Kette sauber begründeter Einzelentscheidungen. In Projekten begegnen uns drei Missverständnisse besonders häufig:

• „Der Anbieter ist DSGVO-konform.“ Diese Aussage deckt die Verarbeitung des Anbieters in dessen eigener Verantwortung ab. Sie ersetzt weder Ihre Rechtsgrundlage noch Ihre Datenschutzhinweise, Ihre Löschfristen oder Ihre Folgenabschätzung.
• „Die Daten liegen in der EU.“ Ein Rechenzentrum in Frankfurt beantwortet die Frage nach Drittlandübermittlungen, mehr nicht. Zweck, Rechtsgrundlage, Betroffenenrechte und die Nutzung von Eingaben zu Trainingszwecken bleiben offen.
• „Die Daten sind öffentlich.“ Öffentliche Zugänglichkeit ist keine Rechtsgrundlage. Auch frei abrufbare Profile, Forenbeiträge oder Pressefotos bleiben personenbezogene Daten, und ihre Verarbeitung braucht eine Grundlage nach Artikel 6.

Eine DSGVO-konforme KI erkennt man daher nicht am Produktblatt, sondern an der Akte dahinter. Diese Sicht passt zum Grundsatz der Rechenschaftspflicht aus Artikel 5 Absatz 2: Der Verantwortliche muss die Einhaltung nachweisen können, nicht bloß behaupten. Wie sich diese Pflicht auf KI überträgt, beschreibt unser Beitrag zur KI-Rechenschaftspflicht.

Zwei Verordnungen, ein System: DSGVO und KI-Verordnung

Die KI-Verordnung (Verordnung (EU) 2024/1689) lässt die DSGVO ausdrücklich unberührt. Nach Artikel 2 Absatz 7 gilt das Datenschutzrecht der Union für personenbezogene Daten, die im Zusammenhang mit der KI-Verordnung verarbeitet werden. Beide Regelwerke gelten nebeneinander, keines verdrängt das andere. Ein Hochrisiko-System kann jede Anforderung der KI-Verordnung erfüllen und ist trotzdem keine DSGVO-konforme KI, solange die tragfähige Rechtsgrundlage fehlt. Die Rollen sind dabei nicht deckungsgleich. Anbieter und Betreiber sind Begriffe der KI-Verordnung, Verantwortlicher und Auftragsverarbeiter Begriffe der DSGVO, und beide Paare folgen unterschiedlichen Prüfungen:

• Ein Betreiber ist für seinen Einsatz des Systems in aller Regel Verantwortlicher, denn er bestimmt Zweck und Mittel der Verarbeitung.
• Ein Modellanbieter ist häufig Verantwortlicher für das Training und zugleich Auftragsverarbeiter für die Inferenz, die er im Auftrag eines Kunden ausführt.
• Wo zwei Parteien Zwecke gemeinsam festlegen, kommt eine gemeinsame Verantwortlichkeit in Betracht.

Die Zuordnung gehört schriftlich festgehalten, und zwar pro System, nicht pro Lieferant. Ohne sie gibt es keine DSGVO-konforme KI, nur Vermutungen. Der praktische Ort dafür ist das KI-Register, in dem jedes System mit seinen Verarbeitungen, Rollen und Verträgen verknüpft ist. Was auf dem Spiel steht, ergibt sich aus Artikel 83 Absatz 5 DSGVO: Geldbußen von bis zu 20 Millionen Euro oder 4 Prozent des gesamten weltweit erzielten Jahresumsatzes. Die Sanktionen der KI-Verordnung kommen hinzu, sie treten nicht an deren Stelle.

Vier Momente, in denen die DSGVO auf ein KI-System greift

Die Verordnung trifft ein KI-System nicht an einem Punkt, sondern an vier. Jeder Moment stellt eigene Fragen und verlangt eigene Unterlagen. Wer DSGVO-konforme KI nachweisen will, muss alle vier abdecken. <table header-row=“true“> <tr> <td>Moment</td> <td>Fragen der DSGVO</td> <td>Aufzubewahrender Nachweis</td> </tr> <tr> <td>Erhebung der Trainingsdaten (Scraping, Weiterverwendung eigener Bestandsdaten, zugekaufte Datensätze)</td> <td>Rechtsgrundlage, Vereinbarkeit der Zwecke, Information nach Artikel 14, besondere Kategorien</td> <td>Quellenliste mit Datumsangaben, Interessenabwägung, Ausschlussregeln</td> </tr> <tr> <td>Training und Feinabstimmung</td> <td>Datenminimierung, Speicherdauer, Sicherheit, Anonymität des entstandenen Modells</td> <td>Anonymitätsbewertung des Modells, Ergebnisse von Extraktionstests und Membership-Inference-Tests</td> </tr> <tr> <td>Einsatz (Prompts, Retrieval-Korpus, Logs, Gedächtnisfunktionen)</td> <td>Rollen von Verantwortlichem und Auftragsverarbeiter, Vertrag nach Artikel 28, Aufbewahrung von Prompts und Logs, Übermittlungen nach Kapitel V</td> <td>Auftragsverarbeitungsvertrag, Löschkonzept, Bewertung der Drittlandübermittlung</td> </tr> <tr> <td>Ausgaben und Entscheidungen</td> <td>Richtigkeit, Artikel 22, Auskunft und Erläuterung, Löschung und Widerspruch</td> <td>Prüfung nach Artikel 22, Konzept der menschlichen Überprüfung, Verfahren für Betroffenenrechte</td> </tr> </table> Die meisten Organisationen dokumentieren ausschließlich die dritte Zeile. Das ist nachvollziehbar, denn dort liegt der Vertrag mit dem Anbieter. DSGVO-konforme KI entsteht aber nicht im Vertragsanhang. Aufsichtsbehörden gehen in umgekehrter Reihenfolge vor. Sie beginnen mit der ersten Zeile: Woher stammen die Daten, auf welcher Grundlage wurden sie erhoben, und was wussten die Betroffenen davon? Wer hier nur auf den Lieferanten verweisen kann, hat ein Problem, das kein Vertrag heilt. Für DSGVO-konforme KI ist die Herkunftsdokumentation deshalb Teil der Datenstrategie, wie wir im Beitrag zum Data-Governance-Framework ausführen.

Rechtsgrundlage: Was der EDSA 2026 für DSGVO-konforme KI akzeptiert

Keine Frage wird rund um DSGVO-konforme KI häufiger gestellt als die nach der Rechtsgrundlage, und keine war lange so umstritten. Seit Ende 2024 gibt es dazu eine belastbare Linie des Europäischen Datenschutzausschusses, die 2026 um zwei Leitlinienentwürfe ergänzt wurde.

Stellungnahme 28/2024: berechtigtes Interesse und Anonymität von Modellen

Die Stellungnahme 28/2024 wurde am 17. Dezember 2024 auf Antrag der irischen Aufsichtsbehörde angenommen. Sie enthält drei Aussagen, an denen heute kein Projekt mehr vorbeikommt. Erstens: Das berechtigte Interesse nach Artikel 6 Absatz 1 Buchstabe f kann die Entwicklung und den Einsatz von KI-Modellen tragen. Voraussetzung ist der Drei-Stufen-Test:

1. Interesse. Es muss rechtmäßig, klar formuliert und real sein, also nicht spekulativ.
2. Erforderlichkeit. Die Verarbeitung muss zur Verfolgung dieses Interesses notwendig sein, und es darf kein milderes, weniger eingreifendes Mittel geben.
3. Abwägung. Die Interessen des Verantwortlichen werden den Rechten der Betroffenen und ihren vernünftigen Erwartungen gegenübergestellt.

Zweitens: Ein Modell, das mit personenbezogenen Daten trainiert wurde, ist nicht automatisch anonym. Anonymität muss im Einzelfall nachgewiesen werden. Der Maßstab ist streng: Sowohl die Wahrscheinlichkeit, personenbezogene Daten direkt aus dem Modell zu extrahieren, als auch die Wahrscheinlichkeit, sie über Abfragen zu erhalten, muss unbedeutend sein. Drittens, und das betrifft jeden Käufer eines fremden Modells: Wurde ein Modell mit unrechtmäßig verarbeiteten Daten entwickelt, kann sich das auf die Rechtmäßigkeit des späteren Einsatzes auswirken. Der Betreiber muss im Rahmen seiner Rechenschaftspflicht eine angemessene Prüfung vorgenommen haben, dass das Modell nicht auf einer unrechtmäßigen Verarbeitung beruht. „Wir haben es nur eingekauft“ ist damit keine Verteidigung mehr. Eine DSGVO-konforme KI setzt eine dokumentierte Prüfung des Lieferanten voraus, deren Aufbau wir in der Lieferanten-Due-Diligence für KI beschreiben.

Leitlinien 03/2026: Web Scraping für generative KI

Am 8. Juli 2026 hat der EDSA die Leitlinien 03/2026 zum Web Scraping im Kontext generativer KI angekündigt. Version 1.0 steht bis zum 30. Oktober 2026 zur öffentlichen Konsultation. Nach Einschätzung von Kanzleien ist die endgültige Fassung noch vor Ende 2026 zu erwarten. Für DSGVO-konforme KI im generativen Bereich sind die folgenden Punkte maßgeblich. Sie stützen sich auf die Auswertung von Reed Smith und stehen unter dem Vorbehalt, dass sich der Text nach der Konsultation noch ändern kann.

• Einwilligung scheidet praktisch aus. Bei Scraping in großem Umfang lässt sie sich nicht wirksam einholen. Realistisch bleibt das berechtigte Interesse.
• Technische Signale zählen. robots.txt, ai.txt, CAPTCHAs und Login-Schranken fließen in die Abwägung ein, weil sie die vernünftigen Erwartungen der Betroffenen prägen. Wer sie übergeht, schwächt die eigene Position.
• Ungezieltes Crawling ist riskanter als gezieltes Scraping klar umrissener Quellen.
• Datenminimierung vor und nach der Erhebung. Vorher: präzise Auswahlkriterien und der Ausschluss strukturell sensibler Websites. Nachher: Filter für Identifikatoren und Pseudonymisierung.
• Beiläufig erfasste besondere Kategorien machen die Verarbeitung nicht automatisch rechtswidrig, sofern die Erfassung wirklich beiläufig ist und Schutzmaßnahmen über den gesamten Lebenszyklus greifen: Filterung, Löschung von Prompts, Tests der Extraktionsresistenz, Überwachung der Ausgaben. Der EDSA leitet diese Überlegung aus dem Urteil des Gerichtshofs in der Rechtssache GC u. a. (C-136/17) ab.
• Information. Die individuelle Benachrichtigung kann nach Artikel 14 Absatz 5 Buchstabe b entfallen. Es bleibt ein ausführlicher öffentlicher Hinweis, idealerweise mit einer Liste der gescrapten Quellen samt Erhebungsdaten, und eine Widerspruchsmöglichkeit, die schon vor der Erhebung zur Verfügung steht.

Am selben Tag hat der EDSA die Leitlinien 02/2026 zur Anonymisierung angenommen, mit derselben Konsultationsfrist. Sie nennen drei Kriterien: kein Herausgreifen einzelner Datensätze, keine Verknüpfbarkeit, keine Inferenz. Der Text bezieht sich auf das Urteil des Gerichtshofs EDSB gegen SRB (C-413/23 P) vom 4. September 2025. Für jede DSGVO-konforme KI, deren Dokumentation mit dem Wort „anonymisiert“ arbeitet, ist das der neue Prüfmaßstab.

Sensible Daten und Bias-Tests: Artikel 4a der KI-Verordnung

Das alte Paradox ist schnell erzählt. Wer prüfen will, ob ein System Menschen wegen ihrer ethnischen Herkunft, ihrer Gesundheit oder einer Behinderung benachteiligt, braucht genau diese Merkmale. Artikel 9 DSGVO verbietet ihre Verarbeitung aber grundsätzlich. Bis Juli 2026 gab es nur eine schmale Öffnung: Artikel 10 Absatz 5 der KI-Verordnung, beschränkt auf Anbieter von Hochrisiko-Systemen. Die Verordnung (EU) 2026/1744, der digitale Omnibus zur KI, wurde am 24. Juli 2026 im Amtsblatt veröffentlicht und ist seit dem 27. Juli 2026 in Kraft. Sie hat Artikel 10 Absatz 5 aufgehoben und die Regel in einen neuen Artikel 4a überführt. Dieser gilt nun für Anbieter und Betreiber von KI-Systemen und KI-Modellen, unter der Voraussetzung strikter Erforderlichkeit. Die Bedingungen im Einzelnen:

• Die Erkennung und Korrektur von Verzerrungen lässt sich mit synthetischen oder anonymisierten Daten nicht erreichen.
• Die Daten unterliegen technischen Beschränkungen der Weiterverwendung sowie Sicherheitsmaßnahmen nach dem Stand der Technik, einschließlich Pseudonymisierung.
• Der Zugriff ist beschränkt und kontrolliert.
• Die Daten werden nicht an andere Parteien übermittelt.
• Sie werden gelöscht, sobald die Verzerrung korrigiert ist oder die Speicherfrist endet.
• Die Gründe für die Verarbeitung sind im Verzeichnis von Verarbeitungstätigkeiten festgehalten.

Zwei Klarstellungen sind wichtig. Artikel 4a schafft keine Pflicht, auf Verzerrungen zu testen. Und er ersetzt Artikel 6 DSGVO nicht: Eine Rechtsgrundlage für die Verarbeitung brauchen Sie weiterhin, Artikel 4a öffnet lediglich das Verbot des Artikels 9 für einen eng umrissenen Zweck. Ob die Balance stimmt, ist offen. Auf einer Konferenz der IAPP im Juni 2026 haben ein Legal Officer des EDSA und ein Datenschutzverantwortlicher aus der Industrie öffentlich unterschiedliche Auffassungen dazu vertreten. Für DSGVO-konforme KI heißt das: die Bedingungen wörtlich nehmen, die Erforderlichkeit schriftlich begründen und die Löschung nachweisbar machen. Fairness-Tests und Datenschutz schließen sich seit Juli 2026 nicht mehr aus, aber der Weg dazwischen ist schmal. Methodische Grundlagen finden Sie im Beitrag zu KI-Bias.

Automatisierte Entscheidungen: Artikel 22 nach SCHUFA und Dun & Bradstreet

Artikel 22 DSGVO gibt jeder Person das Recht, nicht einer ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Ausnahmen bestehen bei Erforderlichkeit für einen Vertrag, bei einer gesetzlichen Grundlage oder bei ausdrücklicher Einwilligung, jeweils mit Schutzmaßnahmen: Eingreifen einer Person, Darlegung des eigenen Standpunkts, Anfechtung der Entscheidung. Für DSGVO-konforme KI ist das die Vorschrift mit den spürbarsten Folgen im Alltag. Zwei Urteile des Gerichtshofs der Europäischen Union haben ihre Reichweite verändert. SCHUFA Holding (C-634/21), 7. Dezember 2023. Bereits die Erstellung eines Scorewerts ist eine automatisierte Entscheidung, wenn ein Dritter sein Handeln maßgeblich darauf stützt. Die Folge: Artikel 22 lässt sich nicht umgehen, indem ein Mensch einen Score lediglich abzeichnet. Dun & Bradstreet Austria (C-203/22), 27. Februar 2025. Artikel 15 Absatz 1 Buchstabe h gewährt ein Recht auf Erläuterung des Verfahrens und der Grundsätze, die konkret auf die Daten der betroffenen Person angewandt wurden, um das Ergebnis zu erzielen, und zwar in verständlicher Form. Die Übergabe eines Algorithmus ist keine Erläuterung. Geschäftsgeheimnisse rechtfertigen keine pauschale Verweigerung: Die streitigen Informationen gehen an die Aufsichtsbehörde oder das Gericht, die dann die Abwägung vornehmen. Daraus ergeben sich drei praktische Konsequenzen:

1. Einstufen. Erfassen Sie jede KI-Anwendung, die Menschen bewertet oder in eine Rangfolge bringt, und halten Sie fest, wer auf das Ergebnis wie stark zurückgreift.
2. Überprüfung gestalten. Die menschliche Überprüfung muss das Ergebnis ändern können, und es wird protokolliert, wann sie das tut.
3. Erläuterung vorbereiten. Die Vorlage für die Erläuterung steht, bevor die erste Anfrage eingeht, nicht danach.

Die KI-Verordnung zieht in dieselbe Richtung. Artikel 14 verlangt für Hochrisiko-Systeme eine wirksame menschliche Aufsicht, Artikel 86 gibt Betroffenen ein Recht auf Erläuterung bei Entscheidungen, die auf Hochrisiko-Systemen nach Anhang III beruhen. Eine DSGVO-konforme KI im Scoring oder in der Personalauswahl erfüllt beide Stränge mit einem einzigen, gut dokumentierten Prozess. Vertiefungen bieten unsere Beiträge zur menschlichen Aufsicht und zur Erklärbarkeit von KI.

DSFA und Grundrechte-Folgenabschätzung: eine Akte, zwei Pflichten

Artikel 35 DSGVO verlangt eine Datenschutz-Folgenabschätzung (DSFA), wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat. Die meisten KI-Systeme, die Profile bilden, Menschen bewerten oder sensible Daten in großem Umfang verarbeiten, fallen darunter. Für DSGVO-konforme KI ist die DSFA damit das zentrale Prüfinstrument. Was eine solche Prüfung enthalten muss, erklärt unser Beitrag zur Datenschutz-Folgenabschätzung. Die KI-Verordnung knüpft an dieses Instrument an, statt ein paralleles zu schaffen:

• Artikel 26 Absatz 9: Betreiber von Hochrisiko-Systemen verwenden die Informationen, die der Anbieter nach Artikel 13 bereitstellt, um ihre DSFA durchzuführen.
• Artikel 27: Bestimmte Betreiber müssen eine Grundrechte-Folgenabschätzung durchführen. Das betrifft öffentliche Stellen, private Einrichtungen, die öffentliche Dienste erbringen, sowie Kreditwürdigkeitsprüfungen und die Preisbildung bei Lebens- und Krankenversicherungen.
• Artikel 27 Absatz 4: Soweit eine DSFA eine dieser Pflichten bereits abdeckt, ergänzt die Grundrechte-Folgenabschätzung sie.

Seit der Verordnung (EU) 2026/1744 gelten die Hochrisiko-Pflichten für Systeme nach Anhang III, einschließlich Artikel 27, ab dem 2. Dezember 2027. Ob Ihr System darunter fällt, klärt die Einordnung als Hochrisiko-KI-System. Die DSFA dagegen gilt heute, ohne Übergangsfrist. Zum Verhältnis beider Instrumente hat ein Legal Officer des EDSA auf einer IAPP-Konferenz im Juni 2026 eine einprägsame Faustregel formuliert: Wer eine Grundrechte-Folgenabschätzung braucht, braucht höchstwahrscheinlich auch eine DSFA, umgekehrt gilt das nicht zwingend. Gemeinsame Leitlinien von Kommission und EDSA zum Zusammenspiel der beiden Verordnungen sind angekündigt, ein endgültiger Text ist bis Ende 2026 möglich. Stand Anfang Oktober 2026 sind sie nicht veröffentlicht. Unsere Empfehlung: eine Bewertungsakte pro System, mit der DSFA als Kern und der Grundrechte-Folgenabschätzung als Erweiterung. Dieselbe Systembeschreibung, dasselbe Risikoregister, ein Verantwortlicher für die Pflege. DSGVO-konforme KI braucht hier keine doppelte Arbeit, sondern eine gemeinsame Struktur, wie sie die KI-Folgenabschätzung vorgibt.

Was noch in Bewegung ist: der digitale Omnibus und Artikel 88c

Am 19. November 2025 hat die Kommission den digitalen Omnibus vorgeschlagen, der auch die DSGVO ändern würde. Zwei Elemente betreffen KI unmittelbar:

• Ein neuer Artikel 88c, nach dem die Verarbeitung personenbezogener Daten zur Entwicklung und zum Betrieb von KI-Systemen oder KI-Modellen auf das berechtigte Interesse gestützt werden kann, verbunden mit erhöhter Transparenz und einem bedingungslosen Widerspruchsrecht.
• Eine kontextbezogene Definition personenbezogener Daten in Artikel 4: Informationen wären für eine Stelle keine personenbezogenen Daten, wenn diese die Person vernünftigerweise nicht identifizieren kann.

EDSA und Europäischer Datenschutzbeauftragter haben am 10. Februar 2026 die Gemeinsame Stellungnahme 2/2026 vorgelegt: Unterstützung für die Vereinfachung, entschiedene Ablehnung einer geänderten Definition personenbezogener Daten. Stand September 2026 gibt es keine allgemeine Ausrichtung des Rates. Ein überarbeiteter Kompromissvorschlag der Präsidentschaft wurde am 11. September 2026 in einer Vorbereitungsgruppe erörtert. Ein der irischen Präsidentschaft zugeschriebener Entwurf, den die Organisation noyb veröffentlicht hat und über den am 21. September 2026 berichtet wurde, nummeriert die Vorschrift in Artikel 88bis um. noyb kritisiert, der Text mache die Datennutzung für KI zum rechtmäßigen Regelfall. Das Parlament hat noch keine Ausschussposition. Die Schlussfolgerung ist nüchtern: Es handelt sich um einen Vorschlag. Eine Compliance-Akte, die auf einem Artikel aufbaut, den es noch nicht gibt, hat keine Rechtsgrundlage. DSGVO-konforme KI lässt sich nur auf geltendes Recht stützen. Auch die Durchsetzung ist nicht gefestigt, gerade gegenüber Anbietern von KI-Modellen mit allgemeinem Verwendungszweck:

• Die italienische Aufsichtsbehörde (Garante) verhängte im Dezember 2024 ein Bußgeld von 15 Millionen Euro gegen OpenAI. Das Gericht von Rom hat die Entscheidung am 18. März 2026 vollständig aufgehoben.
• Die niederländische Aufsichtsbehörde belegte Clearview AI 2024 wegen seiner Datenbank mit Gesichtsbildern mit 30,5 Millionen Euro.
• Der Garante verhängte 2025 ein Bußgeld von 5 Millionen Euro gegen das Unternehmen hinter dem Chatbot Replika.

Wer DSGVO-konforme KI in Deutschland aufbaut, findet den naheliegenden Ausgangspunkt in der Orientierungshilfe „KI und Datenschutz“ der Datenschutzkonferenz (DSK) vom 6. Mai 2024: einer Checkliste für Auswahl, Implementierung und Nutzung von KI-Anwendungen. Die Aufsicht ist zwischen den Landesbehörden und der Bundesbeauftragten für den Datenschutz und die Informationsfreiheit (BfDI) aufgeteilt.

Die Nachweisakte für DSGVO-konforme KI: acht Unterlagen, die eine Aufsichtsbehörde anfordern kann

Grundsätze kann jeder zitieren. Eine Behörde fragt nach Dokumenten. Die folgenden acht Unterlagen bilden zusammen die Akte, an der sich eine DSGVO-konforme KI messen lässt.

1. Inventareintrag. Jedes KI-System ist erfasst und mit den zugehörigen Einträgen im Verzeichnis von Verarbeitungstätigkeiten nach Artikel 30 verknüpft. Ohne diese Verbindung weiß niemand, welche Verarbeitungen ein System tatsächlich auslöst. Das KI-Register ist dafür der Ankerpunkt.
2. Rollenverteilung und Vertrag. Pro System ist festgehalten, wer Verantwortlicher und wer Auftragsverarbeiter ist, mit dem passenden Vertrag: Auftragsverarbeitungsvertrag nach Artikel 28 oder Vereinbarung gemeinsam Verantwortlicher nach Artikel 26 DSGVO.
3. Entscheidung zur Rechtsgrundlage. Für jede Verarbeitung ist die Grundlage benannt. Wo das berechtigte Interesse herangezogen wird, liegt die Interessenabwägung mit allen drei Stufen bei.
4. Datenschutz-Folgenabschätzung. Die DSFA liegt vor und ist dort, wo Artikel 27 der KI-Verordnung greift, um die Grundrechte-Folgenabschätzung erweitert. Auch die Entscheidung, keine DSFA durchzuführen, ist begründet.
5. Transparenzhinweise. Die Informationen nach Artikel 13 und 14 sind aktuell und nennen bei Trainingsverarbeitungen die Datenquellen.
6. Verfahren für Betroffenenrechte, das bis zum Modell reicht. Was geschieht bei einem Löschersuchen oder einem Widerspruch: Ausgabefilter, Sperrlisten, Entscheidung über ein erneutes Training? Wer entscheidet, und innerhalb welcher Frist?
7. Artikel 22. Die Prüfung, ob eine automatisierte Entscheidung vorliegt, das Konzept der menschlichen Überprüfung und die Vorlage für die Erläuterung liegen zusammen vor.
8. Sicherheits- und Lieferantennachweise. Maßnahmen nach Artikel 32, Aufbewahrung von Prompts und Logs, Bewertung der Drittlandübermittlung sowie die Zusicherung des Lieferanten zum rechtmäßigen Training oder die Anonymitätsbewertung des Modells. Hier laufen die Lieferanten-Due-Diligence und die KI-Systemdokumentation zusammen.

Jede dieser Unterlagen hat einen Eigentümer und ein Datum, erst das macht DSGVO-konforme KI prüfbar. Zusammen beantworten die acht Unterlagen das erste Schreiben einer Aufsichtsbehörde, ohne dass die Organisation rekonstruieren muss, wer vor zwei Jahren was entschieden hat. Als methodische Ergänzung eignet sich der KI-Leitfaden der britischen Aufsichtsbehörde ICO, der zwar zur UK GDPR ergangen ist, aber eine brauchbare Prüfstruktur liefert. Ob die Akte im Ernstfall trägt, zeigt ein internes KI-Audit, bevor es ein externes tut.

Häufige Fragen

Was bedeutet DSGVO-konforme KI in der Praxis? Es bedeutet, dass für jede Verarbeitung personenbezogener Daten rund um ein KI-System eine begründete Entscheidung und ein Nachweis vorliegen: bei der Erhebung der Trainingsdaten, beim Training, im Betrieb und bei der Verwendung der Ergebnisse. Dazu gehören Rechtsgrundlage, Rollenverteilung, Information der Betroffenen, Löschfristen, Sicherheit und der Umgang mit Betroffenenrechten. DSGVO-konforme KI ist also kein Produktmerkmal, das ein Hersteller liefert, sondern das Ergebnis eigener Arbeit des Verantwortlichen. Entscheidend ist, dass Sie diese Arbeit einer Aufsichtsbehörde zeigen können, System für System und mit Datum. Ist eine Einwilligung nötig, um ein KI-Modell mit personenbezogenen Daten zu trainieren? Nein. Der EDSA hat in der Stellungnahme 28/2024 bestätigt, dass das berechtigte Interesse eine mögliche Rechtsgrundlage ist, sofern der Drei-Stufen-Test bestanden wird: rechtmäßiges und klar formuliertes Interesse, Erforderlichkeit, Abwägung mit den Rechten und vernünftigen Erwartungen der Betroffenen. Eine Einwilligung lässt sich bei großen Datenmengen selten wirksam einholen. Anders liegt es bei besonderen Kategorien personenbezogener Daten: Hier brauchen Sie zusätzlich eine Ausnahme nach Artikel 9 DSGVO, das berechtigte Interesse allein genügt nicht. DSGVO-konforme KI verlangt also keine Einwilligung, wohl aber eine dokumentierte Abwägung. Wird mein Einsatz durch die Zertifizierung des Anbieters eine DSGVO-konforme KI? Nein. Ein Zertifikat oder eine Konformitätsaussage beschreibt die Verarbeitung des Anbieters. Für Ihre Zwecke bleiben Sie Verantwortlicher. Sie brauchen einen Vertrag nach Artikel 28, eine eigene Rechtsgrundlage, eigene Datenschutzhinweise und ein eigenes Löschkonzept für Prompts und Logs. Prüfen Sie außerdem, ob der Anbieter Ihre Eingaben für das Training seiner Modelle verwendet, denn dann handelt er insoweit nicht mehr als Auftragsverarbeiter, sondern verfolgt eigene Zwecke. Ein Zertifikat ist ein nützlicher Baustein in der Lieferantenprüfung, aber kein Ersatz für Ihre eigene Akte. Brauche ich für jedes KI-System eine Datenschutz-Folgenabschätzung? Nicht für jedes, aber für die meisten Systeme, die Profile bilden, Menschen bewerten, Verhalten überwachen oder sensible Daten in großem Umfang verarbeiten. Maßstab ist Artikel 35 DSGVO: ein voraussichtlich hohes Risiko für die Rechte und Freiheiten natürlicher Personen. Wichtig ist, die Vorprüfung in beiden Fällen festzuhalten. Wer zu dem Ergebnis kommt, dass keine DSFA erforderlich ist, dokumentiert die Gründe. Eine fehlende DSFA lässt sich gegenüber einer Behörde vertreten, eine fehlende Entscheidung nicht. Wie greifen DSGVO und KI-Verordnung ineinander? Beide gelten nebeneinander. Artikel 2 Absatz 7 der KI-Verordnung stellt klar, dass die DSGVO unberührt bleibt. Die Rollen unterscheiden sich: Anbieter und Betreiber auf der einen Seite, Verantwortlicher und Auftragsverarbeiter auf der anderen. Die Folgenabschätzungen bauen aufeinander auf, denn die Grundrechte-Folgenabschätzung nach Artikel 27 ergänzt die DSFA dort, wo diese eine Pflicht schon abdeckt. Und seit Juli 2026 öffnet Artikel 4a der KI-Verordnung die Verarbeitung besonderer Kategorien für die Bias-Erkennung, ohne die Rechtsgrundlage nach Artikel 6 DSGVO zu ersetzen. Für DSGVO-konforme KI heißt das: beide Regelwerke parallel prüfen. Macht der digitale Omnibus das KI-Training automatisch rechtmäßig? Stand Oktober 2026: nein. Der Artikel 88c ist ein Vorschlag der Kommission vom November 2025. Der Rat hat keine allgemeine Ausrichtung, das Parlament keine Ausschussposition, und EDSA wie Europäischer Datenschutzbeauftragter haben Vorbehalte angemeldet. Selbst der Kommissionstext schafft keinen Freibrief: Er behält die Interessenabwägung bei und verlangt erhöhte Transparenz sowie ein Widerspruchsrecht. Wer heute DSGVO-konforme KI plant, plant mit der geltenden DSGVO und der Stellungnahme 28/2024. Sollte die Reform kommen, lässt sich eine sauber geführte Abwägung leicht anpassen, eine fehlende dagegen nicht nachholen.

Fazit

Die DSGVO hat sich 2026 nicht geändert, wohl aber ihre Lesart für KI: durch die Leitlinien des EDSA, durch die Urteile des Gerichtshofs, durch Artikel 4a der KI-Verordnung und durch eine Reform, über die noch verhandelt wird. DSGVO-konforme KI ist deshalb weniger eine Frage des richtigen Werkzeugs als der richtigen Akte. Gut aufgestellt sind die Organisationen, die pro System die vier Momente zeigen können, die Entscheidung, die an jedem Moment getroffen wurde, und den Nachweis dahinter. Wer zu den beiden Leitlinien Stellung nehmen will, hat dafür bis zum 30. Oktober 2026 Zeit. AI Sigil verknüpft jedes KI-System im Register mit seiner Rechtsgrundlage, seinen Folgenabschätzungen, seinen Datenschutzhinweisen und seinen Lieferantennachweisen, damit die Antwort an eine Aufsichtsbehörde ein Bericht ist und keine Rekonstruktion.