EU-Regulierungsbehörden legen acht schädliche KI-Praktiken fest, die aus Sicherheitsgründen unter dem neuen Gesetz verboten werden
Am 6. Februar 2025 haben die EU-Regulierungsbehörden die Arten von künstlicher Intelligenz (KI) vorgestellt, die als zu gefährlich erachtet werden und daher unter dem bahnbrechenden KI-Gesetz der EU verboten werden sollen. Diese Regelungen zielen darauf ab, den Missbrauch dieser aufstrebenden Technologie zu verhindern, ohne die Innovation in Europa zu behindern.
Hintergrund der Regelungen
Die EU-Regeln, die im letzten Jahr verabschiedet wurden, treten nun in Kraft, während die 27 Mitgliedstaaten der EU bis August Zeit haben, eine Regulierungsbehörde zu benennen, die die Vorschriften durchsetzen wird. Diese Gesetze gelten als die umfassendsten KI-Regulierungen weltweit und verfolgen einen risikobasierten Ansatz.
Verbotene KI-Praktiken
Die neuen Richtlinien bieten rechtliche Klarheit für Regulierungsbehörden und Unternehmen hinsichtlich der Praktiken, die ein vollständiges Verbot rechtfertigen. Die folgenden acht Praktiken wurden als inakzeptabel identifiziert:
- Identifizierung von Personen in Echtzeit unter Verwendung von Kameras in öffentlichen Räumen
Das Gesetz verbietet den Einsatz von KI-Systemen mit Kameras zur biometrischen Echtzeiterkennung in öffentlichen Räumen für Strafverfolgungszwecke. - Soziale Bewertung basierend auf persönlichen Daten, die nicht mit Risiken verbunden sind
Die Vorschriften verbieten die Verwendung von KI zur Bewertung der Wahrscheinlichkeit eines Zahlungsausfalls oder des Betrugs bei Sozialleistungen, basierend auf nicht kontextbezogenen persönlichen Daten. - Bewertung des kriminellen Risikos basierend auf biometrischen Daten allein
Die Polizei darf KI nicht verwenden, um das Risiko kriminellen Verhaltens nur anhand von Gesichtszügen oder anderen persönlichen Merkmalen vorherzusagen. - Durchsuchen von Online-Bildern zur Erstellung von Gesichtserkennungsdatenbanken
Das KI-Gesetz verbietet Werkzeuge, die das Internet und CCTV-Aufnahmen durchsuchen, um Gesichtsbilder zu extrahieren. - Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen
Organisationen dürfen keine Webcams oder Sprachsysteme zur Erkennung von Emotionen verwenden. - Verhaltensmanipulation mit KI
Es ist verboten, täuschende oder subliminale KI-Systeme in die Gestaltung von Benutzeroberflächen zu integrieren, um Nutzer zu Käufen zu bewegen. - Ausnutzen von Verwundbarkeiten im Zusammenhang mit Alter oder Behinderung
Die Regeln verbieten KI-basierte Spielzeuge oder Systeme, die darauf abzielen, potenziell schädliches Verhalten bei Kindern, älteren Menschen oder anderen schutzbedürftigen Personen zu fördern. - Schlussfolgerungen über politische Meinungen oder sexuelle Orientierung basierend auf biometrischen Daten
Systeme, die behaupten, politische Meinungen oder sexuelle Orientierungen anhand der Analyse von Gesichtern abzuleiten, sind unter dem KI-Gesetz in der EU nicht zulässig.
Konsequenzen bei Verstößen
Unternehmen, die gegen diese Regeln verstoßen, können mit Geldstrafen von bis zu sieben Prozent des weltweiten Jahresumsatzes oder Geldstrafen von bis zu 35 Millionen Euro (ca. 164 Millionen RM) rechnen, je nachdem, welcher Betrag höher ist.
Die EU-Regulierungsbehörden haben mit diesen Maßnahmen einen entscheidenden Schritt unternommen, um den verantwortungsbewussten Einsatz von KI zu fördern und die Bürger vor potenziellen Gefahren zu schützen.
