Wie KI-Systeme die Rechtsstaatlichkeit gefährden
Die zunehmende Nutzung von KI-Systemen in verschiedenen gesellschaftlichen Bereichen hat neue Herausforderungen geschaffen, die die Rechtsstaatlichkeit untergraben können. Diese Systeme verursachen neuartige gesellschaftliche Schäden, die die Unabhängigkeit der Justiz gefährden und die Meinungsbildung manipulieren.
Risiken und gesellschaftliche Schäden
Ein zentrales Anliegen ist, ob die durch KI-Systeme verursachten gesellschaftlichen Schäden innerhalb der bestehenden rechtlichen Kategorien und Gesetze angemessen behandelt werden. Die Diskussion über diese Risiken konzentriert sich insbesondere auf die Rechtsstaatlichkeit.
Ein bedeutender Schritt in dieser Diskussion ist die Rahmenkonvention des Europarats über KI, Menschenrechte, Demokratie und Rechtsstaatlichkeit, die am 5. September 2024 abgeschlossen wurde. Diese Konvention schützt nicht nur die Menschenrechte, sondern auch die demokratischen Prozesse und die Rechtsstaatlichkeit im Kontext von KI.
Die Bedeutung von Artikel 5 der Rahmenkonvention
Artikel 5(1) der Rahmenkonvention fordert die Vertragsparteien auf, Maßnahmen zu ergreifen, um sicherzustellen, dass KI-Systeme nicht zur Untergrabung der Integrität demokratischer Prozesse und der Rechtsstaatlichkeit verwendet werden. Dieser Artikel betont die wesentlichen Elemente der Rechtsstaatlichkeit, einschließlich der Trennung der Gewalten, der justiziellen Unabhängigkeit und des Zugangs zur Justiz.
Algorithmische Schäden und gesetzliche Rahmenbedingungen
Bestimmte algorithmische Schäden werden von den bestehenden Rechtsgebieten, einschließlich des Menschenrechtsrechts, möglicherweise nicht erfasst. Jüngste gesetzliche Regelungen auf EU-Ebene, wie das Digital Services Act und das AI Act, zielen darauf ab, verschiedene rechtliche Kategorien zu schützen, die als „Proxy“ für die Rechtsstaatlichkeit fungieren.
Legitimität und Nicht-Arbitrarität bei der Nutzung von KI-Systemen
Gerichte haben bereits auf die dringenden Bedenken hinsichtlich robuster gesetzlicher Rahmenbedingungen und starker Schutzmaßnahmen hingewiesen. Beispiele wie Glukhin gegen Russland und Ed Bridges gegen South Wales Police zeigen, dass der Einsatz von Gesichtserkennungstechnologien nicht nur die Menschenrechte verletzt, sondern auch auf unzureichenden rechtlichen Rahmenbedingungen beruht.
Algorithmische Opazität und der Zugang zur Justiz
Die Opazität von Algorithmen behindert den Zugang zur Justiz und das Recht auf ein effektives Rechtsmittel. KI-Systeme, die privat entwickelt und im öffentlichen Sektor eingesetzt werden, sind oft durch vertragliche und geistige Eigentumsrechte vor Kontrolle geschützt.
Beeinflussung der Meinungsbildung und demokratische Prozesse
Artikel 5(2) der Rahmenkonvention verknüpft die Fähigkeit des Individuums, Meinungen frei zu bilden, mit demokratischen Prozessen. Manipulative Techniken, die auf menschliche Schwächen abzielen, gefährden die integrative Meinungsbildung.
Beispiele wie die Wahlen in Rumänien und die Rolle von Plattformen wie X und TikTok in der Verbreitung von Fehlinformationen verdeutlichen die Risiken für die Wahlen und die demokratischen Prozesse.
Schlussfolgerung
Die Herausforderungen, die durch die Nutzung von KI-Systemen entstehen, erfordern eine kritische Auseinandersetzung mit den bestehenden rechtlichen Rahmenbedingungen. Die Rahmenkonvention und die EU-AI-Gesetzgebung bieten Ansätze, um die Risiken zu mindern und die Rechtsstaatlichkeit zu wahren.
