Richtlinien der EU-Kommission zu verbotenen KI-Praktiken

EU-Kommission veröffentlicht Richtlinien zu verbotenen KI-Praktiken gemäß dem KI-Gesetz

Am 28. April 2025 veröffentlichte die EU-Kommission ihre ersten Entwurf-Richtlinien zur praktischen Auswirkung des KI-Gesetzes (Verordnung (EU) 2024/1689). Diese Richtlinien zielen darauf ab, Unternehmen zu unterstützen und für Klarheit bezüglich der verbotenen KI-Praktiken zu sorgen.

Hintergrund

Am 2. Februar 2025 traten die allgemeinen Bestimmungen (Artikel 1 bis 4 des KI-Gesetzes) sowie die Regeln zu verbotenen Praktiken in Kraft. Artikel 5 des KI-Gesetzes verbietet Praktiken wie:

  • Manipulative oder täuschende KI-Techniken
  • Ungesteuertes Scraping von Gesichtsdaten
  • Ausbeuterische Systeme, die sich gegen verletzbare Gruppen richten
  • Bestimmte Formen der biometrischen Kategorisierung und Emotionserkennung in sensiblen Kontexten

Zusätzlich müssen Unternehmen gemäß Artikel 4 des KI-Gesetzes eine KI-Kompetenz in ihrer Belegschaft implementieren.

Richtlinien zu verbotenen KI-Praktiken

Die Kommission hat ein umfassendes Dokument veröffentlicht, das 135 Seiten umfasst und die als inakzeptabel geltenden KI-Praktiken auflistet. Die Ziele sind:

  • Interpretation der Verbote im Einklang mit den Zielen des KI-Gesetzes
  • Umfang des KI-Gesetzes, einschließlich der Ausnahmen für Open Source
  • Materialer Umfang von Artikel 5, der Praktiken im Zusammenhang mit dem „Inverkehrbringen“, „Inbetriebnahme“ und „Nutzung“ von KI-Systemen abdeckt
  • Personeller Umfang von Artikel 5, einschließlich der Definitionen von „Anbietern“ und „Einsatzern“

Verbotene KI-Praktiken

Die folgenden Praktiken sind gemäß Artikel 5(1) des KI-Gesetzes verboten:

  1. Schädliche Manipulation und Täuschung: KI-Systeme, die subliminale oder manipulative Techniken verwenden, um Verhalten zu verzerren und erheblichen Schaden zu verursachen.
  2. Schädliche Ausbeutung von Verwundbarkeiten: KI-Systeme, die Alters-, Behinderungs- oder sozialwirtschaftliche Verwundbarkeiten ausnutzen, um Verhalten zu verzerren.
  3. Soziale Bewertung: KI-Systeme, die Individuen oder Gruppen basierend auf sozialen Verhaltensweisen bewerten, was zu nachteiliger Behandlung führt.
  4. Risikobewertung von Straftaten: KI-Systeme, die das Risiko von Straftaten basierend auf Profiling vorhersagen.
  5. Ungesteuertes Scraping zur Entwicklung von Gesichtserkennungsdatenbanken: KI-Systeme, die Gesichtsbilder ohne gezielte Abfrage sammeln.
  6. Emotionserkennung: KI-Systeme, die Emotionen am Arbeitsplatz oder in Bildungseinrichtungen erkennen, es sei denn, es dient medizinischen oder sicherheitsrelevanten Zwecken.
  7. Biometrische Kategorisierung: KI-Systeme, die Individuen basierend auf biometrischen Daten kategorisieren.
  8. Fernbiometrische Identifikation: KI-Systeme zur Echtzeit-Identifikation in der Öffentlichkeit für Strafverfolgungszwecke.

Ausnahmen vom Anwendungsbereich des KI-Gesetzes

Artikel 2 des KI-Gesetzes enthält mehrere allgemeine Ausnahmen. Beispielsweise gilt das Gesetz nicht für KI-Systeme, die unter freien und Open-Source-Lizenzen veröffentlicht werden, es sei denn, sie werden als Hochrisiko-KI-Systeme vermarktet.

Materialer und personeller Umfang

Der materialer Umfang umfasst Praktiken im Zusammenhang mit dem „Inverkehrbringen“, „Inbetriebnahme“ oder der „Nutzung“ eines KI-Systems. Anbieter sind Unternehmen oder Einzelpersonen, die KI-Systeme entwickeln und in der EU vermarkten.

Einsatzern sind Entitäten, die KI-Systeme unter ihrer Autorität verwenden. Sie sind für die ordnungsgemäße Nutzung verantwortlich, auch wenn Dritte, wie Auftragnehmer, das System im Auftrag des Einsatzers betreiben.

Fazit

Unternehmen sollten sorgfältig prüfen, ob ihre spezifischen KI-Anwendungen gemäß Artikel 5 des KI-Gesetzes als verboten gelten. Anbieter und Einsatzern haben unterschiedliche Verantwortlichkeiten, die proportional zu den jeweiligen Verbotsregelungen interpretiert werden sollten.

More Insights

Der EU AI Act: Rahmenbedingungen für sichere KI und Risikomanagement

Der EU AI Act bietet einen risikobasierten Rahmen, um die Risiken von Super-AI zu bewältigen und menschliche Aufsicht sowie Cybersicherheitsmaßnahmen zu stärken. Durch strenge Vorschriften für...

EU KI-Gesetz: Meilenstein im August 2025 und seine Auswirkungen

Der EU AI Act hat am 2. August 2025 einen wichtigen Meilenstein erreicht, da allgemeine KI-Modelle nun offiziell unter die Vorschriften fallen. Anbieter müssen nun grundlegende Anforderungen erfüllen...

Die EU im Dilemma: KI und Urheberrecht

Die Anpassungen der EU-Copyright-Anforderungen im Rahmen des KI-Gesetzes werden vorerst das Wachstum der KI aufrechterhalten, bringen jedoch auch neue Herausforderungen mit sich. Die Einhaltung der...

Der EU-Datenakt: Fristen und Anforderungen für KI-Systeme

Das EU-Daten-Gesetz ist am 2. August 2025 in Kraft getreten, und die Frist für die Einhaltung rückt näher. Unternehmen, die KI-Systeme in der EU betreiben, müssen sich auf die bevorstehenden...

Neue KI-Kennzeichnungsregeln in China: Was Unternehmen wissen müssen

China hat am 1. September 2025 neue Vorschriften für die Kennzeichnung von KI-generierten Inhalten eingeführt, die eine klare Identifizierung solcher Inhalte auf chinesischen Plattformen erfordern...

Compliance-First AI: Sichere und ethische Modelle im digitalen Zeitalter

Sam Peters, der Chief Product Officer bei ISMS.online, erklärt, wie Marken sichere, ethische und compliance-orientierte KI-Modelle in der heutigen sich wandelnden Bedrohungslandschaft aufbauen können...

EU AI-Gesetz: Wegbereiter für globale Super-KI-Regulierung

Der EU AI Act ist der erste umfassende Versuch, KI basierend auf Risikostufen zu regulieren und schützt die Gesellschaft vor den Bedrohungen durch Super-KI. Durch eine risikobasierte Rahmenstruktur...

So klassifizieren Sie Ihr KI-System unter dem EU KI-Gesetz in Minuten

Der EU AI Act wird die Art und Weise verändern, wie KI in Europa entwickelt, bewertet und bereitgestellt wird. Der EU AI Act Risk Classification Wizard hilft Teams dabei, schnell die Risikokategorie...