Die KI-Verordnung der EU: Gehen Sie vorsichtig mit den Richtlinien um
Die KI-Verordnung der Europäischen Union wurde im Juni 2024 veröffentlicht. Es wird jedoch Jahre dauern, bis die interpretativen Leitlinien des Europäischen Gerichtshofs (CJEU) ankommen. In der Zwischenzeit ist die Europäische Kommission verpflichtet, Richtlinien zu veröffentlichen, um Entwicklern, Anbietern und anderen, die an diesem Gesetz interessiert sind, zu helfen. Obwohl diese Richtlinien rechtlich nicht bindend sind, sollten sie von den EU-Ländern bei der Durchsetzung des Gesetzes und der Verhängung von Strafen für Verstöße gegen KI-Entwickler und -Anbieter in Betracht gezogen werden.
Definition eines KI-Systems
Die Richtlinien zur Definition eines KI-Systems sind in einem Punkt eindeutig: Tabellenkalkulationen sind keine KI-Systeme. Es gibt sieben Hauptmerkmale, die ein KI-System definieren: (1) ein maschinenbasiertes System; (2) das entwickelt wurde, um mit unterschiedlichen Autonomiegraden zu arbeiten; (3) das nach der Bereitstellung Anpassungsfähigkeit zeigen kann; (4) und das, für explizite oder implizite Ziele; (5) aus den Eingaben, die es erhält, ableitet, wie Ausgaben zu generieren sind (bspw. Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen); (6) die die physische oder virtuelle Umgebung beeinflussen können.
Die Richtlinien bieten jedoch keine Klarheit darüber, ob „unterschiedliche Grade“ auch Nullautonomie umfassen. Die Richtlinien unterscheiden auch zwischen der Optimierung der Funktionsweise der Systeme und der Anpassung ihrer Entscheidungsmodelle.
Verbote
Die Richtlinien zu den Verboten sind eine marginale Verbesserung in Länge und Qualität. Es wird festgehalten, dass eine Einzelfallanalyse erforderlich ist, um zu beurteilen, ob ein spezifisches KI-System verboten ist. Die KI-Verordnung umfasst acht Verbote:
- Manipulation und Täuschung
- Ausnutzung von Verwundbarkeiten
- Soziale Bewertung
- Risikoabschätzung und -vorhersage von individuellen Straftaten
- Ungezieltes Scraping zur Entwicklung von Gesichtserkennungsdatenbanken
- Emotionserkennung in Arbeitsplätzen und Bildungseinrichtungen
- Biometrische Kategorisierung
- Echtzeit-Fernbiometrische Identifizierung (RBI)
Die Verbote gelten für die Verwendung eines KI-Systems, die nicht auf die beabsichtigte Nutzung beschränkt ist, sondern auch Missbräuche umfasst.
Biometrie
Das Verbot der Emotionserkennung gilt nur in Arbeitsplätzen und Bildungseinrichtungen. Die Richtlinien lassen jedoch zu wünschen übrig, wenn sie besagen, dass die Nutzung von Webcams und Spracherkennungssystemen in einem Callcenter zur Verfolgung der Emotionen von Kunden nicht verboten ist.
Fazit
Zusammenfassend ist zu sagen, dass KI-Systeme über die KI-Verordnung hinaus auch durch andere Gesetze, wie Antidiskriminierung und GDPR, verboten sein können. Die Richtlinien zu den Verboten können aktualisiert werden, während die Richtlinien zur Definition eines KI-Systems rechtlich nicht bindend sind.
