Die Aktualisierung des KI-Gesetzes der EU: Systeme mit ‚unacceptable risk‘ verboten
Die Europäische Union (EU) hat kürzlich neue Richtlinien für das Künstliche Intelligenz-Gesetz (KI-Gesetz) verabschiedet, das erstmals 2023 vorgestellt wurde. Diese neuen Regelungen verbieten die Nutzung von KI-Praktiken, deren Risiko als „unacceptable“ (unzulässig) eingestuft wird. Das Gesetz wurde von der Europäischen Kommission (EK) im April 2021 vorgeschlagen und im Mai 2024 im Europäischen Parlament verabschiedet.
Risikokategorisierung von KI-Systemen
Das KI-Gesetz definiert vier Risikostufen für KI-Systeme: unacceptable risk, high risk, limited risk und minimal risk.
KI-Systeme, die als unacceptable risk gelten, sind nun im EU-Raum verboten. Dazu gehören Praktiken wie sozialer Punktestand, das Scraping von Internet- oder CCTV-Material zur Erstellung von Gesichtserkennungsdatenbanken sowie schädliche Manipulationen, Täuschungen und die Ausnutzung von Verletzlichkeiten.
Überwachung von Hochrisiko-KI-Systemen
Die EK wird auch hochrisikobehaftete KI-Systeme überwachen, die zwar nicht verboten sind, aber potenziell katastrophale Folgen haben können, wenn etwas schiefgeht. Beispiele hierfür sind:
- KI-Sicherheitssysteme in kritischen Infrastrukturen, deren Ausfall das Leben und die Gesundheit der Bürger gefährden könnte, wie beispielsweise im Transportwesen.
- KI-Lösungen in Bildungseinrichtungen, die über den Zugang zu Bildung und die berufliche Laufbahn entscheiden könnten, wie z.B. bei der Prüfungsbewertung.
- KI-basierte Sicherheitskomponenten von Produkten, wie z.B. roboterassistierte Chirurgie.
- Verwendung von KI im Rechtsvollzug, die die grundlegenden Rechte der Menschen beeinträchtigen könnte, wie etwa bei der Bewertung von Beweismitteln.
Bevor ein hochriskantes KI-System auf den Markt gebracht werden kann, muss es eine Konformitätsbewertung durchlaufen und alle Anforderungen des KI-Gesetzes erfüllen. Das System muss dann eigenständig in einer Datenbank registriert werden und das Conformité Européene (CE) Mark tragen.
Durchsetzung des KI-Gesetzes
Die Durchsetzung des Gesetzes obliegt den nationalen Regulierungsbehörden. Unternehmen, die nicht konform sind, müssen mit hohen finanziellen Strafen von 35 Millionen Euro oder mehr rechnen, abhängig vom globalen Jahresumsatz. Darüber hinaus können Unternehmen, die verbotene KI-Praktiken anwenden, auch vom Betrieb in der EU ausgeschlossen werden.
Die EK stellt jedoch fest, dass die meisten in der EU verwendeten KI-Systeme geringes oder kein Risiko darstellen, sodass für die Mehrheit der KI-Entwickler in der Region keine dieser Maßnahmen erforderlich sein wird.
„Das KI-Gesetz stellt sicher, dass die Europäer dem, was KI zu bieten hat, vertrauen können“, erklärt die EK. „Während die meisten KI-Systeme ein begrenztes bis kein Risiko darstellen und zur Lösung vieler gesellschaftlicher Herausforderungen beitragen können, gibt es bestimmte KI-Systeme, die Risiken schaffen, die wir angehen müssen, um unerwünschte Ergebnisse zu vermeiden.“
