Die Rechtsstaatlichkeit und die Ethik der KI: FRTs im Fokus
Die Implementierung von Künstlicher Intelligenz (KI) hat in mehreren Bereichen des Lebens erhebliche Vorteile gebracht, jedoch auch komplexe moralische, rechtliche und ethische Herausforderungen mit sich gebracht. Insbesondere die Einführung von Gesichtserkennungstechnologien (FRTs) durch Strafverfolgungsbehörden wirft ernsthafte Bedenken hinsichtlich Voreingenommenheit, Diskriminierung und der Achtung der Menschenrechte auf.
Gefahren des unregulierten Einsatzes von FRTs
Trotz ihrer weit verbreiteten Nutzung werden FRTs als Hochrisiko-KI-Systeme klassifiziert. Dies liegt an den inhärenten algorithmischen Voreingenommenheiten, die dazu führen, dass Personen, die nicht der weißen männlichen Norm entsprechen, mit erheblich höheren Raten fehlidentifiziert werden (Buolamwini et al., 2018). Eine Studie des NIST aus dem Jahr 2020 fand heraus, dass die Fehlidentifikationsraten noch höher sind, wenn die Betroffenen Gesichtsmasken tragen.
Im Kontext der Strafverfolgung haben diese Fehlidentifikationen zu Verletzungen grundlegender Menschenrechte geführt. Ein Beispiel ist der Fall von Nijeer Parks, einem afroamerikanischen Mann, der fälschlicherweise als Verdächtiger einer Diebstahlsanzeige identifiziert und 10 Tage lang inhaftiert wurde. Ein weiterer Fall betraf eine schwangere afroamerikanische Frau, die fälschlicherweise wegen Autodiebstahls verhaftet wurde und 11 Stunden lang befragt wurde, nachdem ein fehlerhaftes FRT-Ergebnis vorlag. Solche Vorfälle verdeutlichen die Gefahren des Einsatzes von FRTs in der Strafverfolgung ohne regulatorische Aufsicht.
Das Zusammenspiel zwischen Rechtsstaatlichkeit, KI-Ethischen und FRTs
Im Zeitalter der vierten industriellen Revolution können unregulierte KI-Systeme wie FRTs grundlegende Menschenrechte bedrohen und die Rechtsstaatlichkeit untergraben. Ein bedeutender Fall, Edward Bridges gegen den Polizeichef von South Wales [2020] EWHC Civ 1058, entschied, dass die Verwendung automatisierter FRTs durch die Polizei von South Wales gegen Daten-, Privatsphäre- und Gleichheitsgesetze verstieß.
Die Ethik der KI spielt eine entscheidende Rolle, da sie eine systematische normative Reflexion über die verantwortungsvolle Nutzung von KI-Technologien bietet. Der kürzlich verabschiedete Künstliche Intelligenz-Gesetz (AI Act) der Europäischen Union, der als erster umfassender rechtlicher Rahmen für KI weltweit gilt, zielt darauf ab, sicherzustellen, dass leistungsstarke KI-Systeme grundlegende Rechte und ethische Prinzipien respektieren.
Die Balance zwischen KI-getriebenen Innovationen und der Achtung grundlegender Menschenrechte
Die Pläne der jamaikanischen Polizei zur Einführung von FRTs spiegeln den Wunsch wider, moderne Strategien zur Verbrechensbekämpfung zu entwickeln. Angesichts der erheblichen Bedenken sollte Jamaika jedoch ein Moratorium für deren Einführung verhängen, bis eine rechtliche Regulierung erfolgt ist. Ein rechtlicher Rahmen für die Regulierung von FRTs sollte von einer menschenrechtszentrierten KI-Ethischen geleitet werden, um sicherzustellen, dass sie in einer Weise eingesetzt werden, die die Rechtsstaatlichkeit wahrt.
In der Schlussfolgerung erfordert eine verantwortungsvolle KI-Governance einen Ansatz, der die Konvergenz zwischen menschenrechtszentrierter KI-Ethischer und der Rechtsstaatlichkeit anerkennt und integriert. Durch die Annahme dieser Konvergenz können Gesetzgeber und andere Interessengruppen besser in der Lage sein, regulatorische Rahmenbedingungen für FRTs zu entwickeln, die grundlegende Menschenrechte respektieren und die Rechtsstaatlichkeit aufrechterhalten, ohne KI-getriebene Innovationen zu ersticken.
