Der EU-Künstliche-Intelligenz-Gesetz: Eine neue Ära der KI-Regulierung und Risikominderung
Die Europäische Union (EU) hat einen entscheidenden Schritt zur Regulierung der Künstlichen Intelligenz (KI) unternommen, indem sie das EU-Künstliche-Intelligenz-Gesetz verabschiedet hat, das am 1. August 2024 in Kraft trat. Diese wegweisende Gesetzgebung stellt den weltweit ersten umfassenden rechtlichen Rahmen für KI dar, der darauf abzielt, Innovation mit dem Schutz grundlegender Rechte, der Demokratie und der Rechtsstaatlichkeit in Einklang zu bringen.
Mit dem ersten Fristtermin zur Einhaltung der Vorschriften, der nun verstrichen ist (2. Februar 2025), liegt der Fokus auf Kapitel II, Artikel 5, der KI-Anwendungen verbietet, die als „unvertretbares Risiko“ gelten. Zu diesen verbotenen Anwendungen gehören soziale Bewertungssysteme und Echtzeit-Biometrieüberwachung, um sicherzustellen, dass KI die menschliche Würde oder grundlegende Freiheiten nicht verletzt.
Verständnis des EU-KI-Gesetzes: Eine Risihierarchie
Das EU-KI-Gesetz führt einen gestuften Ansatz zur Regulierung von KI anhand ihres Risikoniveaus ein. Diese risikobasierte Klassifizierung umfasst:
1. Unvertretbares Risiko (Verbotene KI-Anwendungen)
KI-Systeme, die Menschrechte, Sicherheit, Demokratie und Rechtsstaatlichkeit bedrohen. Diese Anwendungen sind vollständig verboten.
2. Hohes Risiko
KI-Anwendungen, die erlaubt sind, aber strengen regulatorischen Anforderungen unterliegen, wie Gesundheitswesen, Strafverfolgung und kritische Infrastruktur.
3. Eingeschränktes Risiko
KI-Systeme, die Transparenzanforderungen benötigen, wie die Offenlegung von KI-generierten Inhalten in Chatbots und Deepfakes.
4. Minimales Risiko
KI-Anwendungen mit wenig bis gar keiner regulatorischen Aufsicht, wie grundlegende KI-gestützte Spamfilter und NPCs in Videospielen.
Seit dem 2. Februar 2025 hat die EU begonnen, das Verbot von „unvertretbaren Risiken“ aktiv durchzusetzen, was einen bedeutenden Meilenstein in der KI-Governance darstellt.
Welche KI-Nutzungen sind jetzt in der EU verboten?
Unter Artikel 5 des Gesetzes sind KI-Systeme, die als „unvertretbar riskant“ gelten, jetzt strikt verboten. Dazu gehören:
1. Soziale Bewertungssysteme
KI, die Individuen basierend auf ihrem Verhalten, ihrem sozioökonomischen Status oder politischen Überzeugungen bewertet, ähnlich wie das chinesische Sozialkreditsystem.
2. Subliminale oder täuschende Manipulation
KI, die Individuen ohne ihr bewusstes Wissen beeinflusst, sodass sie gegen ihre eigenen Interessen handeln.
3. Ausnutzen von Verwundbarkeiten (persönlich oder situativ)
KI, die Menschen aufgrund ihres Alters, ihrer Behinderung, ihres wirtschaftlichen Status oder ihrer psychischen Gesundheit ausnutzt.
4. Vorhersage von kriminellem Verhalten basierend auf physischer Erscheinung
KI-Tools, die versuchen, Kriminalität oder die Wahrscheinlichkeit einer kriminellen Aktivität basierend auf dem Äußeren einer Person vorherzusagen.
5. Ableitung menschlicher Eigenschaften aus Biometrie
KI-Modelle, die Gesichtsausdrücke, Stimmen oder andere biometrische Daten analysieren, um Emotionen oder Intelligenz abzuleiten.
6. Echtzeit-Öffentliche Biometrieüberwachung für die Strafverfolgung
Echte Gesichtserkennung in öffentlichen Räumen ist jetzt streng verboten.
7. Emotionserkennung in Schulen und am Arbeitsplatz
KI, die Emotionen und Verhaltensweisen von Schülern oder Mitarbeitern überwacht, ist nun verboten.
8. Scraping öffentlicher Bilder für Gesichtserkennungsdatenbanken
KI-Systeme, die öffentlich verfügbare Bilder sammeln und verwenden, um Gesichtserkennungsdatenbanken zu erstellen, sind ebenfalls verboten.
Durchsetzung und Strafen: Was passiert, wenn Unternehmen das Gesetz verletzen?
Das EU-KI-Gesetz sieht schwere Strafen für die Nichteinhaltung vor. Unternehmen, die verbotene KI-Systeme in der EU einsetzen, können mit Geldstrafen von:
- 35 Millionen Euro oder
- bis zu 7 % des globalen Umsatzes des Vorjahres,
- je nachdem, welcher Betrag höher ist.
Diese strengen Strafen unterstreichen das Engagement der EU, KI-Entwickler zur Verantwortung zu ziehen.
Implikationen für die globale KI-Entwicklung
Das EU-KI-Gesetz wird voraussichtlich weitreichende Konsequenzen haben, die einen globalen Präzedenzfall für die KI-Regulierung schaffen.
1. Druck auf andere Nationen, ähnliche Vorschriften zu erlassen
Das Allgemeine Datenschutzgesetz (GDPR) der EU hat sich als Goldstandard für Datenschutzgesetze weltweit etabliert.
2. Auswirkungen auf Big Tech und KI-Entwickler
US-amerikanische Unternehmen wie OpenAI, Google und Microsoft müssen ihre KI-Modelle an die EU-Standards anpassen.
3. Potenzial für Innovationsbeschränkungen
Kritiker argumentieren, dass die Verbote die KI-Innovation behindern könnten.
Wie Unternehmen die Einhaltung sicherstellen können
Für Unternehmen und KI-Entwickler erfordert die Einhaltung des EU-KI-Gesetzes proaktive Maßnahmen, einschließlich:
- Auditing von KI-Systemen auf Einhaltung
- Implementierung von Transparenzmaßnahmen
- Überwachung regulatorischer Updates
- Investition in ethische KI-Entwicklung
Fazit
Das EU-Künstliche-Intelligenz-Gesetz markiert einen historischen Wandel in der KI-Governance, um sicherzustellen, dass hochriskante Anwendungen die Menschenrechte, die Demokratie oder die öffentliche Sicherheit nicht gefährden. Mit der ersten Frist zur Einhaltung der Vorschriften, die nun in Kraft ist, müssen KI-Entwickler sich an diese neue regulatorische Landschaft anpassen, um rechtliche und finanzielle Konsequenzen zu vermeiden.
