Vorhersage von KI-Risiken unter dem EU KI-Gesetz: Was könnte verboten oder reguliert werden?
Im Rahmen des EU KI-Gesetzes wird bei der Bestimmung von Risikostufen das potenzielle Schadenspotenzial von KI-Systemen für Einzelpersonen, die Gesellschaft oder grundlegende Rechte berücksichtigt. KI-Technologien, die menschliches Verhalten manipulieren, Massenüberwachung durchsetzen oder lebensverändernde Entscheidungen mit wenig Aufsicht treffen, werden mit höherer Wahrscheinlichkeit als unvertretbares Risiko eingestuft und verboten.
Zu diesen Technologien gehören häufig KI-Tools in der Strafverfolgung, biometrischen Identifikation und sozialer Bewertung.
Hochrisiko-KI
Hochriskante KI umfasst Werkzeuge, die signifikante Auswirkungen auf Sicherheit, Rechte oder den Zugang zu wesentlichen Dienstleistungen haben könnten. Dazu gehören KI-Systeme, die in kritischer Infrastruktur, Gesundheitswesen, Beschäftigung, Finanzen und rechtlichen Entscheidungen eingesetzt werden. Diese Systeme müssen strenge regulatorische Anforderungen erfüllen, bevor sie eingesetzt werden dürfen.
Begrenztes Risiko
Begrenzte Risiken beziehen sich auf Systeme mit einem gewissen Schadenspotenzial, deren Risiken jedoch durch Transparenzanforderungen beherrschbar sind. KI-Chatbots, einige automatisierte Entscheidungsfindungswerkzeuge und Empfehlungsalgorithmen fallen möglicherweise in diese Kategorie.
Minimalrisiko
Minimalrisiko-KI umfasst die meisten Verbraucher-KI-Anwendungen, wie Unterhaltungs-Empfehlungsmaschinen, Produktivitätswerkzeuge und einige adaptive Lernsysteme. Diese werden voraussichtlich wenig bis gar keiner regulatorischen Intervention unterliegen.
Branchen mit den höchsten Risiken
Branchen wie Strafverfolgung, Grenzkontrolle und kritische Infrastruktur werden voraussichtlich die höchste Anzahl an unvertretbaren Risiken oder hochriskanten KI-Anwendungen enthalten. Im Gegensatz dazu könnten Bildung, allgemeine Arbeitsplatzautomatisierung und Finanzen mehr begrenzt riskante oder minimal riskante Technologien aufweisen, obwohl einige Ausnahmen existieren.
Mit diesem allgemeinen Rahmen im Hinterkopf werden die folgenden Abschnitte spezifische KI-Anwendungen untersuchen und wie sie unter das Gesetz eingeordnet werden könnten.
