Was ist die Risikopyramide des EU AI Act?
Der EU AI Act ist ein bahnbrechendes Regelwerk, das einen risikobasierten Ansatz zur Regulierung von KI-Systemen verfolgt. Diese Systeme werden nicht gleich behandelt; ihre Regulierung hängt vom Risiko ab, das sie für die Sicherheit, Rechte und gesellschaftlichen Werte darstellen. Die EU klassifiziert KI-Systeme in vier Kategorien:
1. Unakzeptables Risiko
An der Spitze der Pyramide stehen KI-Systeme, die als so gefährlich für grundlegende Rechte (Würde, Freiheit und Privatsphäre) und das öffentliches Vertrauen gelten, dass sie völlig verboten sind. Beispiele hierfür sind:
- Soziale Bewertungssysteme (z.B. die Bewertung des Verhaltens von Bürgern für Belohnungen oder Bestrafungen).
- Prädiktive Polizeitools, die die Wahrscheinlichkeit bewerten, dass Personen Straftaten begehen.
- Echtzeitbiometrische Überwachung in öffentlichen Räumen, außer unter sehr engen und regulierten Ausnahmen (z.B. gezielte Strafverfolgung).
2. Hochrisiko-KI-Systeme
Diese Kategorie ist die umfassendste und komplexeste. Hochrisikosysteme sind erlaubt, aber unter strengen Bedingungen, da sie in Bereichen eingesetzt werden, in denen Fehler oder Vorurteile ernsthafte Folgen für Einzelpersonen haben könnten. Dazu gehören KI-Anwendungen in:
- Medizinischen Geräten
- Kritischer Infrastruktur wie Energie und Wasserversorgung
- Beschäftigung und Rekrutierung (z.B. Lebenslauffilterung oder automatisierte Interviews)
- Bildung (z.B. Prüfungsbewertung oder Notenvorhersagen)
- Finanzdienstleistungen (z.B. Kreditbewertung)
Die Anbieter von Hochrisiko-KI-Systemen müssen sieben Kriterien erfüllen, darunter:
- Risikomanagementsystem während des gesamten Lebenszyklus
- Hochwertige Datensätze, um Vorurteile zu minimieren und die Leistung sicherzustellen
- Menschliche Aufsicht, um Schäden durch Automatisierung zu verhindern
- Robuste technische Dokumentation und Aufzeichnungen
- Transparenz, um sicherzustellen, dass Benutzer verstehen, wie die KI funktioniert
- Sicherstellung von Genauigkeit, Robustheit und Cybersicherheit
- Ein vollständiges Qualitätsmanagementsystem, das mit den EU-Sicherheitsgesetzen übereinstimmt
Für viele Technologieunternehmen ist dies Neuland. Die meisten sind agile Entwicklung gewohnt, nicht die Einhaltung regulatorischer Anforderungen. Die Erfüllung dieser Verpflichtungen wird neue Ingenieurpraktiken, mehr interdisziplinäre Teams und erhebliche Investitionen erfordern.
3. Eingeschränktes Risiko
KI-Systeme in dieser Kategorie stellen keine ernsthaften Gefahren dar, erfordern jedoch von den Nutzern, dass sie wissen, wann KI beteiligt ist, weshalb sie weiterhin Transparenzverpflichtungen tragen. Beispiele sind:
- Chatbots müssen klarstellen, dass Benutzer mit einer Maschine interagieren.
- Generative KI-Tools müssen synthetische Inhalte kennzeichnen (z.B. KI-generierte Bilder oder Videos).
4. Minimales Risiko
An der Basis der Pyramide stehen KI-Systeme mit wenig bis gar keinem Risiko, alltägliche KI-Anwendungen mit geringen Einsätzen und ohne echte Auswirkungen auf Sicherheit oder Rechte, wie:
- Spamfilter
- KI, die in Videospielen verwendet wird
- Empfehlungsalgorithmen für Filme oder Musik
Sie müssen jedoch weiterhin die bestehenden Gesetze (wie Verbraucher- und Antidiskriminierungsgesetze) einhalten, und die Anbieter werden ermutigt, freiwillige Verhaltenskodizes zu befolgen.
Diese Risikopyramide des EU AI Act ist ein wichtiger Schritt in der Regulierung von KI-Technologien und wird es ermöglichen, Risiken angemessen zu steuern und gleichzeitig Innovationen zu fördern.
