Einführung in den EU AI Act
Am 2. Februar 2025 trat der EU AI Act in Kraft, der harmonisierte Regeln für künstliche Intelligenz festlegt. Die ersten beiden Kapitel des Gesetzes befassen sich mit der KI-Literaturpflicht und dem Verbot von KI-Systemen, die unacceptable risks darstellen.
1. KI-Literaturpflichten
Ab dem 2. Februar 2025 sind Anbieter von KI-Systemen verpflichtet, Maßnahmen zu ergreifen, um ein ausreichendes Niveau der KI-Literatur für ihre Mitarbeiter und andere Personen, die mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, sicherzustellen.
Der EU AI Act definiert KI-Literatur als die Fähigkeiten, Kenntnisse und das Verständnis, die erforderlich sind, um die informierte Bereitstellung von KI-Systemen zu erleichtern und ein Bewusstsein für die Chancen und Risiken von KI sowie die möglichen Schäden, die sie verursachen kann, zu schaffen.
Obwohl derzeit keine spezifischen Sanktionen für Verstöße gegen die KI-Literaturpflichten vorgesehen sind, wird erwartet, dass die Einhaltung dieser Verpflichtungen von den zuständigen Behörden als Faktor bei der Berücksichtigung angemessener Sanktionen für andere Verstöße gegen den EU AI Act angesehen wird.
2. Verbotene KI-Systeme
Mit Inkrafttreten am 2. Februar 2025 sind KI-Systeme, die unacceptable risks für die Grundrechte und die Werte der Europäischen Union darstellen, gemäß Kapitel 2 des EU AI Act verboten. Zu den verbotenen KI-Praktiken gehören:
- Manipulation und täuschende Techniken: Der Einsatz von KI-Systemen, die subliminale, absichtlich manipulative oder täuschende Techniken verwenden, um das Verhalten von Menschen erheblich zu verzerren.
- Ausnutzung von Verwundbarkeiten: Der Einsatz von KI-Systemen, die Verwundbarkeiten von natürlichen Personen aufgrund von Alter, Behinderung oder sozioökonomischen Bedingungen ausnutzen.
- Soziale Bewertung: Der Einsatz von KI-Systemen zur Bewertung oder Klassifizierung von Personen basierend auf Verhaltens- oder persönlichen Merkmalen, was zu nachteiliger Behandlung führen kann.
- Risikobewertung und Vorhersage individueller Straftaten: KI-Systeme, die ausschließlich zur Profilerstellung von Einzelpersonen verwendet werden, um die Wahrscheinlichkeit kriminellen Verhaltens zu bewerten oder vorherzusagen.
- Unbefugte Gesichtserkennungsdatenbanken: Der Einsatz von KI-Systemen, die Gesichtserkennungsdatenbanken durch ungezieltes Scraping von Gesichtsbildern aus dem Internet oder von CCTV-Aufnahmen erstellen oder erweitern.
- Emotionserkennung in Arbeit und Bildung: Der Einsatz von KI-Systemen zur Erkennung von Emotionen in Arbeits- oder Bildungseinrichtungen ist verboten, es sei denn, dies ist aus medizinischen oder Sicherheitsgründen gerechtfertigt.
- Biometrische Kategorisierung: Der Einsatz von KI-Systemen zur Kategorisierung von Personen auf Basis biometrischer Daten zur Ableitung sensibler Informationen ist eingeschränkt.
- Einsatz durch Strafverfolgungsbehörden bei Echtzeit-Gesichtserkennung: Der Einsatz von Echtzeit-Gesichtserkennungssystemen in öffentlich zugänglichen Räumen durch Strafverfolgungsbehörden ist weitgehend verboten, es sei denn, es gibt eng definierte Ausnahmen.
Sanktionen für die Nichteinhaltung der oben genannten Verbote treten erst am 2. August 2025 in Kraft und sehen Verwaltungsstrafen von bis zu dem höheren Betrag von 35.000.000 EUR oder 7% des gesamten weltweiten Jahresumsatzes des betroffenen Unternehmens vor.
3. Gilt dies auch für Sie?
Der Geltungsbereich des EU AI Act ist umfassend und umfasst eine Vielzahl von KI-Aktivitäten und -Stakeholdern. Er gilt für Anbieter, die KI-Systeme oder -Modelle auf dem EU-Markt platzieren, unabhängig von ihrem Herkunftsland, sowie für Betreiber von KI-Systemen innerhalb der EU.
Organisationen, die an der Einfuhr, Verteilung oder Herstellung von Produkten beteiligt sind, die KI-Systeme integrieren, unterliegen ebenfalls den Anforderungen des EU AI Act.
