Verbotene KI-Praktiken sind der einzige Teil der KI-Verordnung, für den es keinen Weg zur Konformität gibt: kein Konformitätsbewertungsverfahren, keine Dokumentation, die ein System rettet, keine Übergangsfrist. Artikel 5 gilt seit dem 2. Februar 2025, und am 2. Dezember 2026 wächst die Liste von acht auf zehn Verbote. Dieser Beitrag ordnet die Liste ein, erklärt Bußgelder und deutsche Zuständigkeit und zeigt, wie eine Prüfakte je KI-System aussieht, die einer Aufsichtsbehörde standhält.
Auf einen Blick
- Artikel 5 verbietet das Inverkehrbringen, die Inbetriebnahme und die Verwendung bestimmter KI-Systeme. Er bindet Anbieter und Betreiber gleichermaßen, auch außerhalb der EU.
- Seit dem 2. Februar 2025 gelten acht Verbote. Ab dem 2. Dezember 2026 kommen durch den Digital-Omnibus zwei hinzu: nicht einvernehmliche intime Darstellungen und Material über sexuellen Kindesmissbrauch.
- Bild-, Video- und Stimmgeneratoren fallen darunter, wenn solche Inhalte vorhersehbar erzeugbar sind und angemessene Schutzvorkehrungen fehlen. Die Schutzvorkehrungen werden zum Nachweis.
- Verbotene KI-Praktiken sind eine versionierte Liste: Die Kommission überprüft sie jährlich nach Artikel 112.
- Bußgelder reichen bis 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes. In Deutschland ist seit dem 29. Juli 2026 die Bundesnetzagentur zuständig.
Verbotene KI-Praktiken nach Artikel 5: was verboten ist und wen es bindet
Artikel 5 der Verordnung (EU) 2024/1689 verbietet „das Inverkehrbringen, die Inbetriebnahme oder die Verwendung“ bestimmter KI-Systeme. Die Formulierung ist bewusst breit, denn sie erfasst verbotene KI-Praktiken auf jeder Stufe der Kette. Wer ein solches System entwickelt und unter eigenem Namen anbietet, ist als Anbieter erfasst, wer es im eigenen Betrieb einsetzt, als Betreiber. Ein Unternehmen, das ein zugekauftes Werkzeug zur Emotionsanalyse im Kundenservice nutzt, kann sich also nicht darauf zurückziehen, der Hersteller trage die Verantwortung. Über Artikel 2 Absatz 1 Buchstabe c reicht die Verordnung zudem zu Anbietern und Betreibern mit Sitz außerhalb der Union, sobald die Ausgabe des Systems in der Union verwendet wird.
Die Verbote gelten seit dem 2. Februar 2025 (Artikel 113 Buchstabe a). Anders als bei Hochrisiko-Systemen gibt es hier kein Konformitätsbewertungsverfahren, keinen Dokumentationspfad und keine Übergangsfrist. Daraus folgt der wichtigste Satz für jede Compliance-Funktion: Verbotene KI-Praktiken lassen sich nicht konform machen. Sie lassen sich nur einstellen oder so umbauen, dass das System keinen der Tatbestände mehr erfüllt. Wer ein Hochrisiko-System betreibt, verhandelt mit der Aufsicht über Qualität und Nachweise. Wer eine verbotene Praxis betreibt, hat nichts zu verhandeln.
Unsere Lesart: Die Prüfung nach Artikel 5 ist die erste Weiche im KI-Portfolio, noch vor der Risikoklassifizierung. Erst wenn feststeht, dass kein Verbot greift, lohnt die Frage nach Anhang III oder nach den Transparenzpflichten. Den Gesamtrahmen beschreiben unser Überblick zur KI-Verordnung 2026, der operative Leitfaden zur EU-KI-Verordnung und unsere Seite zum Compliance-Framework KI-Verordnung.
Die Leitlinien der Kommission über verbotene KI-Praktiken
Am 4. Februar 2025 hat die Kommission Leitlinien zu den verbotenen Praktiken veröffentlicht, die Seite wurde am 31. Juli 2025 aktualisiert. Die Leitlinien sind nach eigener Aussage unverbindlich, die verbindliche Auslegung bleibt dem Gerichtshof der Europäischen Union vorbehalten. In der Praxis sind sie dennoch der Text, mit dem jede Marktüberwachungsbehörde ihre Prüfung beginnen wird. Sie erläutern jeden Tatbestand mit Beispielen und Abgrenzungen und gehören in jede Prüfakte, die begründet, warum ein System nicht unter Artikel 5 fällt. Den konsolidierten Wortlaut mit den neuen Buchstaben stellt der AI Act Service Desk der Kommission bereit.
Die acht Verbote seit dem 2. Februar 2025
Die ursprüngliche Liste in Artikel 5 Absatz 1 umfasst die Buchstaben a bis h. Der Wortlaut im Amtsblatt ist dicht, eine lesbare Fassung bietet artificialintelligenceact.eu. Die Tabelle fasst die acht Tatbestände zusammen, die seit Februar 2025 als verbotene KI-Praktiken gelten, jeweils mit Bedingung oder Ausnahme und dem typischen Stolperdraht in Unternehmen.
| Buchstabe | Was verboten ist | Bedingung oder Ausnahme | Typischer Stolperdraht |
|---|---|---|---|
| a | Unterschwellige, absichtlich manipulative oder täuschende Techniken | Wesentliche Verhaltensänderung, die einen erheblichen Schaden verursacht oder mit hinreichender Wahrscheinlichkeit verursacht | Persuasives Design und Dark Patterns in Verbraucher-Apps, KI-gestützter Stimmbetrug |
| b | Ausnutzung von Schutzbedürftigkeit aufgrund von Alter, Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation | Dieselbe Schwelle des erheblichen Schadens | Gezielte Ansprache überschuldeter oder älterer Kunden |
| c | Social Scoring natürlicher Personen über einen bestimmten Zeitraum | Schlechterstellung in sachfremden Zusammenhängen oder unverhältnismäßig zum Verhalten | Ein Betrugs- oder Treuescore, der für fremde Entscheidungen wiederverwendet wird |
| d | Risikobewertung, die eine Straftat ausschließlich auf Grundlage von Profiling oder Persönlichkeitsmerkmalen vorhersagt | Nicht erfasst ist die Unterstützung einer menschlichen Bewertung, die auf objektiven, überprüfbaren Tatsachen beruht | „Neigungs“-Scores in Betrugs- oder Sicherheitswerkzeugen |
| e | Gesichtserkennungsdatenbanken durch ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen | Gilt für genau diesen Zweck | Einkauf eines Gesichtssuchdienstes, dessen Datensatz per Scraping entstanden ist |
| f | Ableitung von Emotionen am Arbeitsplatz und in Bildungseinrichtungen | Ausnahme aus medizinischen oder Sicherheitsgründen; Emotionserkennung setzt biometrische Daten voraus (Artikel 3 Nummer 39) | Stimmanalyse im Callcenter, Auswertung von Videointerviews |
| g | Biometrische Kategorisierung, um Rasse, politische Meinung, Gewerkschaftszugehörigkeit, religiöse oder weltanschauliche Überzeugung, Sexualleben oder sexuelle Ausrichtung abzuleiten | Ausgenommen sind die Kennzeichnung oder Filterung rechtmäßig erworbener biometrischer Datensätze und die Kategorisierung in der Strafverfolgung | Marketing-Analysen, die sensible Merkmale aus Gesichtern ableiten |
| h | Biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken | Drei eng gefasste Ziele, vorherige Genehmigung, Grundrechte-Folgenabschätzung (Artikel 27) und Registrierung in der EU-Datenbank (Artikel 49) | Vor allem Behörden; private Nutzung fällt unter die DSGVO und Anhang III |
Eine Abgrenzung taucht in fast jedem Portfolio auf. Textbasierte Stimmungsanalyse, etwa die Auswertung von E-Mails oder Chatverläufen nach positiver oder negativer Tonalität, ist keine Emotionserkennung im Sinne von Artikel 3 Nummer 39, weil sie nicht auf biometrischen Daten beruht. Buchstabe f greift dann nicht. Erledigt ist die Frage damit nicht: Die Auswertung von Beschäftigtenkommunikation bleibt eine Frage der DSGVO-konformen KI und im Betrieb der Mitbestimmung. Für die Prüfung auf verbotene KI-Praktiken zählt deshalb nicht der Produktname, sondern die Datenquelle: Sobald dasselbe Werkzeug Stimme oder Mimik auswertet, landet es wieder bei Buchstabe f.
Zwei neue verbotene KI-Praktiken ab dem 2. Dezember 2026
Der Digital-Omnibus zur KI, Verordnung (EU) 2026/1744, fügt in Artikel 5 Absatz 1 zwei Buchstaben ein. Die acht ursprünglichen Verbote bleiben unverändert. Ab dem 2. Dezember 2026 enthält Artikel 5 damit zehn verbotene KI-Praktiken.
Buchstabe ba erfasst KI-Systeme, die realistische Bilder, Videos, Audioinhalte oder vergleichbares Material erzeugen oder manipulieren, auf denen die Intimbereiche einer identifizierbaren natürlichen Person zu sehen sind oder eine identifizierbare Person bei sexuell expliziten Handlungen dargestellt wird, ohne dass diese Person freiwillig, für den bestimmten Fall, in informierter Weise, unmissverständlich und ausdrücklich eingewilligt hat. Buchstabe bb erfasst KI-Systeme, die Material über sexuellen Kindesmissbrauch im Sinne von Artikel 2 Buchstaben c und e der Richtlinie 2011/93/EU erzeugen oder manipulieren. Ausgenommen sind Fälle, in denen das nationale Recht eine Befugnis anerkennt, nach den Erwägungsgründen etwa legitimes Red-Teaming, das die Einhaltung des Verbots testet.
Entscheidend ist Absatz 1a. Ein Anbieter ist nur erfasst, wenn die Erzeugung solchen Materials die Zweckbestimmung des Systems ist, oder wenn Design, Training, Architektur, Fähigkeiten oder nutzerseitige Funktionen sie ohne erhebliche technische Änderung zu einem vernünftigerweise vorhersehbaren und reproduzierbaren Ergebnis machen und dem System zugleich angemessene technische Sicherheitsmaßnahmen und sonstige Schutzvorkehrungen fehlen, die diese Erzeugung unter Berücksichtigung vernünftigerweise vorhersehbarer Fehlanwendung zuverlässig verhindern und beobachteten oder gemeldeten Missbrauch korrigieren. Ein Betreiber ist nur erfasst, wenn er das System zu diesem Zweck verwendet. Absatz 1b stellt klar, dass eine Bearbeitung, die weder die Entblößung von Intimbereichen erhöht noch die Art einer sexuell expliziten Handlung verändert, keine Manipulation ist.
Erwägungsgrund 12 nennt die Schutzvorkehrungen: Datenbereinigung, Verweigerungstraining, sicheres Prompt-Design und Ausgabekontrollen, Laufzeit-Leitplanken für Prompts, Klassifizierung und Filterung von Inhalten, Nutzungsbeschränkungen, Missbrauchserkennung sowie Melde- und Abhilfeverfahren. Systeme, die für intime Inhalte bestimmt sind, brauchen ein Verfahren, mit dem sich die Einwilligung der dargestellten Person einholen und nachweisen lässt. Realistisch ist eine Darstellung, wenn Gesicht, Stimme oder Körper glaubhaft lebensecht wirken. Cartoonhafte oder physisch unmögliche Darstellungen sind ausgenommen. Unsere Lesart: Für Anbieter von Bild-, Video- und Stimmgeneratoren wird die Akte der Schutzvorkehrungen zum eigentlichen Beweismittel. Zur Einordnung der Modelle siehe unseren Beitrag zu KI mit allgemeinem Verwendungszweck.
Wie es dazu kam
Auslöser waren im Januar 2026 die mit Grok erzeugten sexualisierten Bilder realer Frauen und Minderjähriger. Die Kommission leitete im selben Monat ein Verfahren nach dem Digital Services Act gegen X ein. Spanien schlug im Januar 2026 vor, solche Anwendungen ausdrücklich als verbotene KI-Praktiken einzustufen, und Digitalminister Óscar López begrüßte die politische Einigung vom 7. Mai 2026 (La Moncloa). Die Verordnung datiert vom 8. Juli 2026, erschien am 24. Juli 2026 im Amtsblatt und trat am 27. Juli 2026 in Kraft. Nach dem geänderten Artikel 113 Buchstabe a gelten die Buchstaben ba und bb sowie die Absätze 1a und 1b ab dem 2. Dezember 2026.
Was die erste Überprüfung nach Artikel 112 ergeben hat
Artikel 112 Absatz 1 verpflichtet die Kommission, jährlich zu prüfen, ob die Liste in Artikel 5 und die Liste in Anhang III angepasst werden müssen. Den ersten Bericht, <code>COM(2026) 234</code> final, hat sie am 20. Mai 2026 in Brüssel angenommen, die Seite der Kommission zum Bericht datiert vom 22. Mai 2026. Die Methode: Konsultation der Mitgliedstaaten über Untergruppen des KI-Gremiums, eine Konsultation mit mehreren Interessenträgern und die Auswertung von Datenbanken zu KI-Vorfällen.
Die Mehrheit der anwesenden Mitgliedstaaten sah derzeit keinen Änderungsbedarf, neun übermittelten schriftliche Stellungnahmen in diesem Sinne. Da die Durchsetzungsregeln noch nicht anwendbar waren, fehlt praktische Erfahrung. Zwei Befunde sind für Unternehmen dennoch wichtig. Erstens fallen KI-Systeme, die CSAM oder nicht einvernehmliche sexuell explizite Bilder erzeugen, nach Auffassung der Kommission nicht unter die Buchstaben a oder b, weil sie Kinder und Opfer nicht zu einem schädlichen Verhalten manipulieren. Diese Lücke schließt der Omnibus. Zweitens können KI-Systeme, die Betrug und Finanzbetrug erleichtern, sehr wohl unter die Buchstaben a und b fallen, wenn ein erheblicher finanzieller Schaden und ein plausibler Kausalzusammenhang vorliegen. Das Beispiel des Berichts ist ein Deepfake, der ein Familienmitglied imitiert. Die nächste Bewertung ist für 2026 angekündigt.
Unsere Lesart: Verbotene KI-Praktiken sind kein abgeschlossener Katalog, sondern eine Liste mit Versionsnummer. Wer sein Portfolio im Frühjahr 2025 geprüft hat, hat gegen acht Tatbestände geprüft. Ab Dezember 2026 sind es zehn, und die nächste Überprüfung kann weitere bringen. Eine Prüfakte sollte deshalb festhalten, gegen welche Fassung von Artikel 5 sie erstellt wurde, und ein Datum für die nächste Prüfung auf verbotene KI-Praktiken nennen. Der Befund zum Betrug zeigt zudem, dass die Kommission bestehende Buchstaben auf neue Missbrauchsmuster anwendet, statt auf neue Verbote zu warten. Hinweise auf Missbrauch, intern wie extern, gehören in denselben Kreislauf wie die KI-Vorfallmeldung.
Bußgelder für verbotene KI-Praktiken und wer sie verhängt
Artikel 99 Absatz 3 setzt die Obergrenze: bis zu 35 000 000 Euro oder bis zu 7 Prozent des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist. Für KMU einschließlich Start-ups gilt nach Absatz 6 der niedrigere der beiden Beträge. Der Omnibus hat einen Absatz 6a für kleine Midcaps (SMC) eingefügt: Für sie gilt die Regel des niedrigeren Betrags, allerdings nur für Bußgelder nach den Absätzen 4 und 5. Nach unserer Lektüre des Wortlauts bleibt ein SMC bei einem Verstoß gegen Artikel 5 damit der Obergrenze nach dem höheren Betrag ausgesetzt. Die Sanktionsvorschriften selbst legen die Mitgliedstaaten fest (Artikel 99 Absatz 1).
In Deutschland ist das Verfahren seit dem 29. Juli 2026 geregelt. Das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) wurde am 28. Juli 2026 verkündet und trat am Folgetag in Kraft. Die Bundesnetzagentur ist damit Marktüberwachungsbehörde, zentrale Anlaufstelle und Beschwerdestelle für die KI-Verordnung und beaufsichtigt in ihren Bereichen auch verbotene KI-Praktiken und Transparenzpflichten. Für den Finanzsektor bleibt die BaFin zuständig, für Medien bleiben es die Landesmedienanstalten. Praktisch heißt das: Eine Bank, die ein Scoring-Modell einsetzt, dürfte die Frage nach Buchstabe c gegenüber der BaFin beantworten müssen, eine Plattform mit Bildgenerierung gegenüber der Bundesnetzagentur. Wer in mehreren Sektoren tätig ist, sollte die zuständige Behörde je KI-System im Register vermerken. Neben dem Bußgeld stehen zivilrechtliche Folgen, die wir im Beitrag zur KI-Haftung behandeln.
In Italien hat das Gesetz Nr. 132/2025 die AgID als notifizierende Behörde und die ACN als Marktüberwachungsbehörde benannt. In Spanien hat der Ministerrat am 26. Mai 2026 den Entwurf eines Organgesetzes an den Kongress übermittelt, der die Sanktionierung der meisten verbotenen Praktiken der AESIA zuweist und einige der Datenschutzbehörde AEPD.
Ein veröffentlichtes Bußgeld wegen eines Verstoßes gegen Artikel 5 haben wir bei Redaktionsschluss nicht gefunden. Datenschutzbehörden handeln dagegen bereits, und zwar gegen Dienste, die ab Dezember 2026 unter verbotene KI-Praktiken fallen dürften: Die italienische Garante per la protezione dei dati personali hat am 3. Oktober 2025 per Eilanordnung die Verarbeitung der Daten italienischer Nutzer durch den Nudifizierungsdienst Clothoff beschränkt, gestützt auf die DSGVO.
Wo Unternehmen über Artikel 5 stolpern
Die meisten Treffer bei einer Prüfung auf verbotene KI-Praktiken entstehen nicht in der Entwicklung, sondern im Einkauf und in den Fachabteilungen. Typisch sind diese Fälle:
- <b>Emotionsanalyse im Callcenter und in Videointerviews (Buchstabe f).</b> Werkzeuge, die aus der Stimme von Servicemitarbeitenden Stress ableiten oder Bewerbende im Videointerview nach Begeisterung bewerten, sind am Arbeitsplatz verboten. Die Ausnahme für medizinische oder Sicherheitsgründe deckt Leistungs- und Qualitätsmessung nicht. Schon die Einführung solcher Werkzeuge unterliegt der Mitbestimmung des Betriebsrats nach § 87 Abs. 1 Nr. 6 BetrVG, weil sie als technische Einrichtung geeignet sind, Beschäftigte zu überwachen.
- <b>„Sentiment“-Tools, die in Wahrheit Stimme oder Gesicht auswerten.</b> Viele Anbieter vermarkten Stimmungsanalyse, obwohl das Produkt Tonhöhe, Sprechtempo oder Mimik verarbeitet. Das sind biometrische Daten: Am Arbeitsplatz greift Buchstabe f, außerhalb von Arbeit und Bildung ist Emotionserkennung ein Hochrisiko-Fall nach Anhang III Nummer 1 Buchstabe c.
- <b>Biometrische Kategorisierung im Marketing (Buchstabe g).</b> Kameraanalysen im Handel oder Werbewerkzeuge, die aus Gesichtern auf Religion, sexuelle Ausrichtung oder politische Haltung schließen, sind verboten. Die Prüfung muss auch eingekaufte Analysepakete von Agenturen erfassen.
- <b>Manipulative Gestaltung und Stimmklone (Buchstaben a und b).</b> Dark Patterns und personalisierte Druckmechanismen werden zum Verbotsfall, sobald sie einen erheblichen Schaden verursachen oder mit hinreichender Wahrscheinlichkeit verursachen. Nach dem Bericht zu Artikel 112 können auch Systeme, die Betrug mit geklonten Stimmen erleichtern, unter beide Buchstaben fallen.
- <b>Gezielte Ansprache schutzbedürftiger Kunden (Buchstabe b).</b> Ein Modell, das überschuldete oder ältere Kunden identifiziert, um ihnen besonders teure Kredite oder Verträge anzubieten, nutzt eine wirtschaftliche Situation oder das Alter aus. Hier hilft nur der Umbau von Zielgröße und Zielgruppe.
- <b>Scores, die kontextübergreifend wiederverwendet werden (Buchstabe c).</b> Ein Betrugs- oder Treuescore, der plötzlich über Mietverträge, Kündigungen oder Servicezugang mitentscheidet, verlässt seinen Ursprungskontext. Genau diese Schlechterstellung in sachfremden Zusammenhängen ist der Kern des Social-Scoring-Verbots.
- <b>Gesichtssuche mit gescrapten Datensätzen (Buchstabe e).</b> Wer einen Identitäts- oder Gesichtssuchdienst einkauft, muss wissen, woher dessen Datensatz stammt, denn das Verbot erfasst auch die Verwendung. Das ist eine Einkaufsfrage, die in die Lieferantenprüfung und in das KI-Register gehört.
- <b>Generierungsfunktionen ohne Schutzvorkehrungen (Buchstaben ba und bb).</b> Ab dem 2. Dezember 2026 muss jede Bild-, Video- oder Stimmgenerierung, ob eigenes Produkt oder eingebettetes Modell, Vorkehrungen gegen nicht einvernehmliche intime Darstellungen und CSAM belegen können. Betreiber sind nur bei zweckgerichteter Verwendung erfasst, sollten aber Nutzungsregeln in ihrer KI-Richtlinie festschreiben.
Prüfung auf verbotene KI-Praktiken: die Akte, die eine Behörde sehen will
Keine Behörde wird fragen, ob ein Unternehmen Artikel 5 kennt. Sie wird fragen, wie es für jedes KI-System festgestellt hat, dass keiner der zehn Tatbestände erfüllt ist, und wer das wann entschieden hat. Das Ergebnis ist eine Prüfakte je System. Unsere Tabelle ordnet jedem Schritt seinen rechtlichen Anknüpfungspunkt und den aufzubewahrenden Nachweis zu.
| Prüfschritt | Rechtlicher Anknüpfungspunkt | Aufzubewahrender Nachweis |
|---|---|---|
| Jedes KI-System und seine Zweckbestimmung erfassen | Artikel 3 Nummer 12 (Zweckbestimmung); Artikel 2 (Anwendungsbereich) | Eintrag im KI-Inventar mit verantwortlicher Person und Einsatzkontext |
| Gegen die zehn Tatbestände mit begründeter Antwort prüfen | Artikel 5 Absatz 1 Buchstaben a bis h, ba und bb; Leitlinien der Kommission | Datierte Prüfakte je System, mit Namen der prüfenden Person |
| Jede in Anspruch genommene Ausnahme dokumentieren | Artikel 5 Absatz 1 Buchstabe f (medizinische oder Sicherheitsgründe); Buchstabe h und Absätze 2 bis 7 | Vermerk zur Rechtsgrundlage, Grenzen des Einsatzes |
| Akte der Schutzvorkehrungen für generative Systeme | Artikel 5 Absatz 1a Buchstabe a Ziffer ii; Erwägungsgrund 12 | Red-Teaming-Ergebnisse, Filter- und Verweigerungsmetriken, Missbrauchsmeldungen und Korrekturen |
| Nutzungsregeln als Betreiber | Artikel 5 Absatz 1a Buchstabe b; Artikel 26 bei Hochrisiko-Systemen | Regeln zur zulässigen Nutzung, Protokollierung, Umgang mit Fehlanwendung |
| Nachweise der Lieferanten | Artikel 5 erfasst auch die „Verwendung“; Artikel 25 zur Wertschöpfungskette | Vertragliche Zusicherungen, Herkunft der Datensätze, Erklärungen des Anbieters |
| Auslöser für eine erneute Prüfung | Wesentliche Änderung; neuer Einsatzzweck; Überprüfung der Liste nach Artikel 112 | Änderungsprotokoll, Termine der Neuprüfung |
Innerhalb eines KI-Managementsystems hat diese Akte einen natürlichen Platz: Abschnitt 6.1.4 der ISO/IEC 42001 (Folgenabschätzung für KI-Systeme) und das Maßnahmenziel A.5 in Anhang A (Bewertung der Auswirkungen von KI-Systemen, mit A.5.2 bis A.5.5) verlangen eine strukturierte, dokumentierte Bewertung, die sich direkt um die zehn Tatbestände erweitern lässt; A.9.4 zur vorgesehenen Verwendung ergänzt die Nutzungsregeln. Artikel 5 verlangt kein Managementsystem, um verbotene KI-Praktiken auszuschließen. Ein Auditor oder eine Behörde wird aber genau diese Akte suchen. Mehr dazu in unserer Erklärung der ISO 42001, im Konformitäts-Baukasten aus ISO 42001 und KI-Verordnung und im Beitrag zur KI-Folgenabschätzung. Wie AI Sigil diese Prüfung als Compliance-Framework je KI-System abbildet, zeigt die Seite zur Aktivierung eines KI-Compliance-Frameworks.
Artikel 5 im Zusammenspiel mit Artikel 50, DSGVO und Strafrecht
Die Kennzeichnungspflicht für Deepfakes nach Artikel 50 Absatz 4 gilt seit dem 2. August 2026. Eine Kennzeichnung legalisiert aber kein verbotenes System: Eine offen als KI-generiert markierte Nudifizierungs-Ausgabe bleibt ab dem 2. Dezember 2026 verboten. Die Kennzeichnungspflicht regelt erlaubte Systeme; für verbotene KI-Praktiken ist sie ohne Bedeutung, wie unser Beitrag zur KI-Kennzeichnungspflicht zeigt.
Biometrische Daten unterliegen Artikel 9 DSGVO, unabhängig davon, was die KI-Verordnung erlaubt oder verbietet. Ein System, das nicht unter Artikel 5 fällt, braucht trotzdem eine Rechtsgrundlage nach der DSGVO für die Verarbeitung besonderer Kategorien personenbezogener Daten.
Die Richtlinie (EU) 2024/1385 zur Bekämpfung von Gewalt gegen Frauen und häuslicher Gewalt stellt in Artikel 5 unter Strafe, intimes Material ohne Einwilligung herzustellen oder zu manipulieren und dann öffentlich zugänglich zu machen, Deepfakes eingeschlossen. Die Umsetzungsfrist endet am 14. Juni 2027. Die Arbeitsteilung ist damit klar: Die KI-Verordnung verbietet das Werkzeug, das Strafrecht bestraft die Person, der Digital Services Act erreicht die Plattform. Im deutschen Recht erfasst § 184b StGB kinderpornographische Inhalte ausdrücklich auch dann, wenn sie ein wirklichkeitsnahes Geschehen wiedergeben. Ob § 201a StGB und § 33 KUG nicht einvernehmliche sexuelle Deepfakes Erwachsener vollständig abdecken, ist umstritten; die Umsetzung der Richtlinie dürfte hier eine ausdrückliche Regel bringen.
Wer verbotene KI-Praktiken ausgeschlossen hat, ist zudem noch nicht fertig. Die Grenze zum Hochrisikobereich verläuft entlang von Anhang III Nummer 1: Emotionserkennung außerhalb von Arbeit und Bildung, biometrische Kategorisierung nach sensiblen Merkmalen durch Ableitung außerhalb von Buchstabe g und biometrische Fernidentifizierung sind Hochrisiko-Anwendungen, deren Pflichten nach dem Omnibus ab dem 2. Dezember 2027 gelten. Details dazu in unserem Beitrag zu Hochrisiko-KI-Systemen.
Häufige Fragen
<b>Was sind verbotene KI-Praktiken nach der EU-KI-Verordnung?</b>
Artikel 5 nennt seit dem 2. Februar 2025 acht Tatbestände: manipulative oder täuschende Techniken, die Ausnutzung von Schutzbedürftigkeit, Social Scoring, die Vorhersage von Straftaten allein auf Basis von Profiling, Gesichtsdatenbanken aus ungezieltem Scraping, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, biometrische Kategorisierung nach sensiblen Merkmalen und die biometrische Echtzeit-Fernidentifizierung zu Strafverfolgungszwecken. Ab dem 2. Dezember 2026 kommen durch die Verordnung (EU) 2026/1744 zwei hinzu: KI-Systeme, die nicht einvernehmliche intime Darstellungen identifizierbarer Personen erzeugen oder manipulieren, und solche, die Material über sexuellen Kindesmissbrauch erzeugen. Damit gibt es zehn verbotene KI-Praktiken.
<b>Seit wann gelten die Verbote?</b>
Die acht ursprünglichen Verbote gelten seit dem 2. Februar 2025 (Artikel 113 Buchstabe a). Die beiden neuen Verbote der Buchstaben ba und bb sowie die Absätze 1a und 1b gelten ab dem 2. Dezember 2026. Eine Übergangsfrist für bereits eingesetzte Systeme gibt es nicht: Ein System, das am Stichtag einen Tatbestand erfüllt, muss bis dahin abgeschaltet oder umgebaut sein. Die Sanktionen richten sich nach nationalem Recht; in Deutschland ist die Bundesnetzagentur seit dem 29. Juli 2026 Marktüberwachungsbehörde.
<b>Gilt das Verbot auch für Unternehmen außerhalb der EU?</b>
Ja. Artikel 5 knüpft an das Inverkehrbringen, die Inbetriebnahme und die Verwendung in der Union an. Über Artikel 2 Absatz 1 Buchstabe c erfasst die Verordnung zudem Anbieter und Betreiber mit Sitz in einem Drittland, wenn die vom System erzeugte Ausgabe in der Union verwendet wird. Ein Anbieter eines Bildgenerators mit Sitz in den USA, dessen Ergebnisse europäische Nutzer abrufen, fällt damit ebenso unter die neuen Verbote wie ein deutscher Betreiber, der ein außerhalb der EU betriebenes Analysewerkzeug für seine Belegschaft nutzt.
<b>Ist Emotionserkennung immer verboten?</b>
Nein. Buchstabe f verbietet die Ableitung von Emotionen nur am Arbeitsplatz und in Bildungseinrichtungen, und auch dort nicht, wenn das System aus medizinischen oder Sicherheitsgründen eingesetzt wird. Emotionserkennung setzt nach Artikel 3 Nummer 39 biometrische Daten voraus, reine Textanalyse fällt nicht darunter. Außerhalb von Arbeit und Bildung, etwa im Kundenkontakt oder im Marketing, ist Emotionserkennung ein Hochrisiko-Anwendungsfall nach Anhang III Nummer 1 Buchstabe c. Die DSGVO gilt in jedem Fall, und im Betrieb bleibt der Betriebsrat zu beteiligen.
<b>Welches Bußgeld droht für verbotene KI-Praktiken?</b>
Artikel 99 Absatz 3 sieht Geldbußen von bis zu 35 Millionen Euro oder 7 Prozent des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres vor, je nachdem, welcher Betrag höher ist. Für KMU und Start-ups gilt der niedrigere Betrag. Die neue Erleichterung für kleine Midcaps betrifft nach unserer Lektüre nur Bußgelder nach den Absätzen 4 und 5, nicht Verstöße gegen Artikel 5. Die Verfahren führen nationale Behörden, in Deutschland die Bundesnetzagentur, im Finanzsektor die BaFin. Ein veröffentlichtes Bußgeld wegen eines Verstoßes gegen Artikel 5 haben wir bei Redaktionsschluss nicht gefunden.
<b>Fallen Bildgeneratoren mit allgemeinem Verwendungszweck unter das neue Deepfake-Verbot?</b>
Unter Bedingungen ja. Ein Anbieter ist nach Artikel 5 Absatz 1a erfasst, wenn die Erzeugung nicht einvernehmlicher intimer Darstellungen oder von CSAM die Zweckbestimmung ist, oder wenn sie ein vernünftigerweise vorhersehbares und reproduzierbares Ergebnis ist und angemessene technische Schutzvorkehrungen fehlen. Ein Bildgenerator fällt also nicht schon deshalb unter das Verbot, weil er Bilder erzeugen kann. Er fällt darunter, wenn Filter, Verweigerungsmechanismen und Missbrauchsverfahren diese Ergebnisse nicht zuverlässig verhindern. Die Dokumentation dieser Vorkehrungen ist ab dem 2. Dezember 2026 der entscheidende Nachweis.
Fazit
Artikel 5 ist kurz, aber er ist der einzige Teil der KI-Verordnung, bei dem es kein Nachbessern gibt. Verbotene KI-Praktiken werden nicht zertifiziert, sondern ausgeschlossen, und dieser Ausschluss muss belegbar sein. Drei Entwicklungen machen das dringlicher: Die Liste wächst am 2. Dezember 2026 auf zehn Verbote, sie wird jährlich überprüft, und mit dem KI-MIG gibt es in Deutschland seit Juli 2026 eine Behörde, die Fragen stellen wird. Unsere Empfehlung ist nüchtern. Erfassen Sie jedes KI-System mit seiner Zweckbestimmung, prüfen Sie es datiert gegen alle zehn Tatbestände, legen Sie für generative Funktionen eine Akte der Schutzvorkehrungen an und bestimmen Sie, wann neu geprüft wird. Wer diese Arbeit strukturiert aufsetzen will, findet unseren Ansatz unter Umsetzung der KI-Verordnung.