2024 EU AI-Gesetz: Eine detaillierte Analyse
Das EU AI-Gesetz ist ein bedeutender regulatorischer Rahmen, der darauf abzielt, die Entwicklung, den Einsatz und die Nutzung von Künstlicher Intelligenz (KI) innerhalb der EU zu harmonisieren. Diese umfassende Regelung trat am 1. August 2024 in Kraft und hat das Ziel, die Sicherheit zu gewährleisten, grundlegende Rechte zu schützen und Innovationen zu fördern, während eine Marktfragmentierung verhindert wird.
Anwendungsbereich des AI-Gesetzes
Das Gesetz umfasst eine breite Palette von KI-Anwendungen in verschiedenen Sektoren, einschließlich Gesundheitswesen, Finanzen, Versicherung, Transport und Bildung. Es gilt für Anbieter und Anwender von KI-Systemen innerhalb der EU sowie für solche außerhalb der EU, deren KI-Systeme den EU-Markt beeinflussen. Ausgenommen sind KI-Systeme, die für militärische, verteidigungstechnische oder nationale Sicherheitszwecke verwendet werden, sowie solche, die ausschließlich für wissenschaftliche Forschungszwecke entwickelt wurden.
Definition von KI-Systemen
Ein KI-System wird definiert als ein maschinenbasiertes System, das mit unterschiedlichen Autonomiegraden betrieben wird und anpassungsfähig sein kann. Es kann aus den erhaltenen Eingaben abgeleitete Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen generieren, die physische oder virtuelle Umgebungen beeinflussen können.
KI-Kompetenz
Das Gesetz betont die Bedeutung der KI-Kompetenz für Anbieter und Anwender. Es wird gefordert, dass die Mitarbeiter von Unternehmen und Organisationen die notwendigen Fähigkeiten und Kenntnisse besitzen, um verantwortungsvoll mit KI-Technologien umzugehen. Diese Verpflichtung schließt fortlaufende Schulungen und Bildungsmaßnahmen ein, die auf bestimmte Sektoren und Anwendungsfälle zugeschnitten sind.
Risikobasierter Ansatz
Um einen verhältnismäßigen und effektiven Satz verbindlicher Regeln für KI-Systeme einzuführen, hat das AI-Gesetz einen vorgegebenen risikobasierten Ansatz eingeführt. Dieser passt die Art und den Inhalt der Regeln an die Intensität und den Umfang der Risiken an, die KI-Systeme erzeugen können. Das Gesetz verbietet bestimmte inakzeptable KI-Praktiken und legt Anforderungen für hochriskante KI-Systeme und Allzweck-KI-Modelle fest, sowie unterschiedliche Verpflichtungen für die verschiedenen Betreiber.
Verbotene KI-Praktiken
Das AI-Gesetz verbietet bestimmte KI-Praktiken, die als unzulässig angesehen werden und inakzeptable Risiken für grundlegende Rechte, Sicherheit und öffentliche Interessen darstellen. Dazu gehören:
- KI-Systeme, die subliminale Techniken verwenden, um Verhalten zu manipulieren;
- Ausnutzung von Verwundbarkeiten spezifischer Gruppen, wie Kindern oder Menschen mit Behinderungen;
- Soziale Bewertung basierend auf persönlichen Merkmalen, die zu diskriminierenden Ergebnissen führen;
- Vorhersage kriminellen Verhaltens ausschließlich auf Basis von Profiling;
- Untargeted Scraping für Gesichtserkennung Datenbanken;
- Emotionserkennung an Arbeitsplätzen und Bildungseinrichtungen, außer aus medizinischen oder sicherheitsrelevanten Gründen;
- Biometrische Kategorisierung zur Ableitung sensibler Attribute, außer zu rechtmäßigen Zwecken der Strafverfolgung;
- Echtzeit-Fernbiometrische Identifizierung in öffentlichen Räumen für die Strafverfolgung.
Das AI-Gesetz beeinträchtigt nicht die Verbote, die gelten, wenn eine KI-Praxis andere EU-Rechtsvorschriften verletzt. Diese bleiben weiterhin bestehen. Die Marktüberwachungsbehörden sind verpflichtet, jährlich der EU-Kommission und den relevanten nationalen Wettbewerbsbehörden über die im jeweiligen Jahr aufgetretenen verbotenen Praktiken und die ergriffenen Maßnahmen zu berichten.
Hohe Risiken von KI-Systemen
Um einen konsistenten und hohen Schutz öffentlicher Interessen in Bezug auf Gesundheit, Sicherheit und grundlegende Rechte (einschließlich des Rechts auf Nichtdiskriminierung, Datenschutz und Privatsphäre) sicherzustellen, legt das AI-Gesetz gemeinsame Regeln für hochriskante KI-Systeme fest, einschließlich:
- Einrichtung eines Risikomanagementsystems;
- Sicherstellung der Datenqualität und -governance;
- Führung technischer Dokumentationen und Protokollierungsfähigkeiten;
- Bereitstellung transparenter Informationen und menschlicher Aufsicht;
- Sicherstellung von Genauigkeit, Robustheit und Cybersicherheit;
- Implementierung eines Qualitätsmanagementsystems.
Allzweck-KI-Modelle
Das Gesetz enthält spezifische Regeln für Allzweck-KI-Modelle, insbesondere solche mit systemischen Risiken. Anbieter müssen die EU-Kommission benachrichtigen, wenn ihre Modelle hohe Auswirkungen erreichen, und umfassende technische Dokumentationen vorbereiten sowie die Einhaltung von Urheberrechten sicherstellen.
Governance, Compliance und regulatorische Aspekte
Das Gesetz verpflichtet zur Transparenz, um das öffentliche Vertrauen zu gewährleisten und den Missbrauch von KI-Technologien zu verhindern. Anbieter und Anwender müssen Einzelpersonen über ihre Interaktionen mit KI-Systemen informieren, detaillierte Dokumentationen führen und Protokollierungs- und Aufbewahrungspflichten einhalten. Hochrisikante KI-Systeme unterliegen strengeren Transparenzanforderungen, einschließlich der Kennzeichnung synthetischer Inhalte, um Fehlinformationen zu verhindern und Transparenz über den Einsatz und die Entscheidungsfindung von KI zu gewährleisten.
Strafen
Das AI-Gesetz sieht erhebliche Strafen für die Nichteinhaltung vor, mit Geldbußen von bis zu 35 Millionen EUR oder 7% des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres für verbotene Praktiken. Andere Verstöße können mit Geldbußen von bis zu 15 Millionen EUR oder 3% des entsprechenden Jahresumsatzes bestraft werden, je nachdem, was höher ist. Die Strafen sollen wirksam, verhältnismäßig und abschreckend sein und die Interessen von kleinen und mittleren Unternehmen (KMU), einschließlich Start-ups, berücksichtigen.
Fazit
Das EU AI-Gesetz schafft ein vertrauenswürdiges und menschenzentriertes KI-Ökosystem, indem es Innovation mit dem Schutz grundlegender Rechte und öffentlicher Interessen in Einklang bringt. Durch die Einhaltung der Anforderungen des Gesetzes können Unternehmen die sichere und ethische Entwicklung und den Einsatz von KI-Technologien gewährleisten.
