EU-Kommission veröffentlicht Richtlinien zu verbotenen KI-Praktiken gemäß dem EU-KI-Gesetz
Am 4. Februar 2025 hat die Europäische Kommission (EK) Entwurf Richtlinien veröffentlicht, die die KI-Praktiken klären, die gemäß dem Europäischen Union (EU) Künstliche Intelligenz (KI) Gesetz verboten sind. Obwohl nicht bindend, bieten die Richtlinien wertvolle Klarstellungen und praktische Beispiele, um Unternehmen bei der Einhaltung ihrer Verpflichtungen nach dem KI-Gesetz zu helfen. Die EK hat die Entwurf-Richtlinien genehmigt, muss sie jedoch noch formell annehmen, was in naher Zukunft erwartet wird.
Hintergrund
Mit Inkrafttreten der Bestimmungen des KI-Gesetzes zu verbotenen KI-Praktiken am 2. Februar 2025 traten auch andere Bestimmungen zur KI-Kompetenz in Kraft. Artikel 5 des KI-Gesetzes verbietet bestimmte KI-Praktiken, die als inakzeptable Risiken gelten, wie KI-Systeme, die Individuen manipulieren oder ausnutzen, soziale Bewertungen vornehmen oder die Emotionen von Personen am Arbeitsplatz oder im Bildungsbereich erfassen. Das Verbot gilt sowohl für Unternehmen, die solche KI-Systeme anbieten, als auch für diejenigen, die sie nutzen. Die Richtlinien bieten konkrete Beispiele für Praktiken, die als verboten eingestuft werden, sowie solche, die nicht unter das Verbot fallen.
Das KI-Gesetz kann auch auf Unternehmen außerhalb der EU Anwendung finden, wenn sie ein KI-System oder ein Allzweck-KI (GPAI)-Modell auf dem EU-Markt anbieten oder wenn die von dem KI-System generierten Ausgaben in der EU verwendet werden.
Verbotene KI-Praktiken
Nachfolgend finden Sie eine Übersicht der Hauptverbote gemäß dem KI-Gesetz, wie sie in den Richtlinien interpretiert werden:
- Soziale Bewertung. Das KI-Gesetz verbietet das Angebot oder die Nutzung von KI-Systemen, die das soziale Verhalten von Individuen bewerten, um deren Behandlung in einem nicht verwandten Kontext zu bestimmen. Beispielsweise könnten KI-Systeme, die den Preis einer Versicherungsprämie empfehlen oder die Kreditwürdigkeit von Personen bewerten, als soziale Bewertung eingestuft werden, wenn die Bewertung auf nicht verwandten persönlichen Merkmalen basiert. Individuelle Bewertungen durch Nutzer fallen nicht unter das Verbot.
- Manipulation und Ausnutzung. Das KI-Gesetz verbietet das Angebot oder die Nutzung von KI-Systemen, die subliminale Techniken verwenden oder individuelle Verwundbarkeiten ausnutzen, um ihr Verhalten zu beeinflussen und Schaden zu verursachen. Dies schließt z.B. den Einsatz von KI in Spielen ein, um übermäßiges Spielen und zwanghafte Nutzung zu fördern.
- Gesichtserkennung und biometrische Identifizierung. Das KI-Gesetz untersagt die Praxis, Gesichtserkennungsdatenbanken durch ungezieltes Scraping von Bildern aus dem Internet oder von CCTV-Aufnahmen aufzubauen. Das Verbot gilt nicht für das Scraping von Daten, die keine Gesichtsbilder sind.
- Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen. Die Nutzung von KI zur Erkennung von Emotionen in Arbeits- und Bildungseinrichtungen ist im Allgemeinen verboten. Beispiele sind Callcenter, die Webcams und Spracherkennung nutzen, um die Emotionen von Mitarbeitern zu verfolgen.
- Biometrische Kategorisierung. Die Kategorisierung von Individuen anhand sensibler Merkmale wie Rasse oder sexuelle Orientierung durch biometrische Daten ist verboten. Das Verbot erstreckt sich jedoch nicht auf technische Kategorisierungen, die für einen kommerziellen Dienst notwendig sind, wie z.B. das Nutzen von Gesichtsfilttern.
Verantwortlichkeiten der KI-Anbieter
Die Richtlinien legen fest, dass Anbieter von KI-Systemen (d.h. diejenigen, die KI-Systeme entwickeln oder entwickeln lassen und in der EU verfügbar machen) dafür verantwortlich sind, kein System zu veröffentlichen, das „vernünftigerweise wahrscheinlich“ für einen verbotenen Zweck verwendet wird, sowie dafür, Sicherheitsvorkehrungen zu treffen, um eine vorhersehbare missbräuchliche Nutzung zu verhindern. Die EK erwartet, dass Anbieter die Nutzung ihrer KI-Systeme für verbotene Praktiken in ihren Nutzungsbedingungen klar ausschließen.
Nächste Schritte
Unternehmen, die gegen die verbotenen KI-Praktiken verstoßen, können mit erheblichen Geldstrafen rechnen, die bis zu 35 Millionen EUR oder sieben Prozent ihres globalen Jahresumsatzes betragen können, je nachdem, welcher Betrag höher ist. Die ersten Durchsetzungsmaßnahmen werden voraussichtlich in der zweiten Hälfte des Jahres 2025 beginnen, während die EU-Länder ihre Durchsetzungsregime finalisieren.
