EU verbietet KI-Tools für soziale Bewertung und prädiktive Strafverfolgung unter neuem Gesetz
Die Europäische Union hat am 2. Februar 2025 die ersten Beschränkungen im Rahmen des wegweisenden KI-Gesetzes eingeführt. Dies bedeutet, dass Künstliche Intelligenz-Systeme, die als „unvertretbares Risiko“ eingestuft werden, nun in den Mitgliedstaaten illegal sind.
Verbotene Kategorien von KI-Systemen
Unter dem neuen Gesetz wurden folgende Kategorien von KI-Systemen verboten, da sie als „klare Bedrohung“ für die Sicherheit, die Lebensgrundlagen und die Rechte der Menschen angesehen werden:
- Soziale Bewertungsysteme
- Emotionserkennungssysteme am Arbeitsplatz und in Bildungseinrichtungen
- Risikobewertungs- oder Vorhersagetools für individuelle Straftaten
- Schädliche KI-basierte Manipulations- und Täuschungswerkzeuge
- Schädliche KI-basierte Werkzeuge zur Ausnutzung von Verwundbarkeiten
Zusätzliche Praktiken, die verboten wurden
Praktiken wie das untargeted Scraping des Internets oder von CCTV-Material, um Gesichtserkennungsdatenbanken zu erstellen oder zu erweitern, sowie die biometrische Kategorisierung zum Ableiten bestimmter geschützter Merkmale und die echtzeitige, fernbiometrische Identifizierung im öffentlichen Raum für Strafverfolgungszwecke wurden ebenfalls verboten.
Kritik und Ausnahmen
Kritiker haben jedoch darauf hingewiesen, dass das KI-Gesetz mehrere Ausnahmen enthält, die es europäischen Polizeibehörden und Migrationsbehörden ermöglichen, KI zur Verfolgung von Verdächtigen in Terroranschlägen zu nutzen.
Eine weitere Bestimmung des KI-Gesetzes, die ebenfalls in Kraft trat, betrifft die rechtlichen Verpflichtungen, um eine ausreichende technologische Kompetenz unter den Mitarbeitern sicherzustellen.
Strafen für Verstöße
Unternehmen, die gegen das KI-Gesetz verstoßen, könnten mit Geldstrafen von bis zu 35 Millionen Euro (ca. 35,8 Millionen US-Dollar) oder 7 % ihres jährlichen globalen Umsatzes (je nachdem, welcher Betrag höher ist) belegt werden.
Einführung des regulatorischen Rahmens
Der erste seiner Art regulatorische Rahmen für KI wurde im August des Vorjahres offiziell eingeführt. Mehrere Bestimmungen des Gesetzes werden jedoch schrittweise umgesetzt. Beispielsweise treten die Governance-Regeln und Verpflichtungen für Technologieunternehmen, die allgemeine KI-Modelle entwickeln, am 2. August 2025 in Kraft.
Allgemeine KI-Modelle (GPAI) beziehen sich auf große Sprachmodelle oder LLMs wie die GPT-Serie von OpenAI. Unternehmen, die hochriskante KI-Systeme für kritische Sektoren wie Bildung, Medizin und Transport entwickeln, haben eine verlängerte Übergangsfrist bis zum 2. August 2027.
