Europa will KI-Schutzmaßnahmen abschwächen. Sie sollten verstärkt werden.
Die EU überdenkt das KI-Gesetz trotz wiederholter Warnungen der Zivilgesellschaft. Durch den Vorschlag zur KI-Gesetzgebung hat die Europäische Kommission Änderungen vorgeschlagen, die – weit entfernt von technischen Anpassungen – die Schutzmaßnahmen gegen KI-Systeme, die als besonders gefährlich für Gesundheit, Sicherheit und grundlegende Rechte gelten, erheblich schwächen würden. Der weithin kritisierte Vorschlag öffnete die Tür für weitreichendere Änderungen, die von Gruppen im Europäischen Parlament vorgeschlagen werden.
Während die Debatte weitergeht und die Beweise für die Schäden von KI ungebrochen zunehmen, wurden keine Vorschläge gemacht, um die Möglichkeiten für Rechtsmittel im Rahmen des KI-Gesetzes zu stärken, obwohl dies eine zentrale Schwäche der Gesetzgebung darstellt.
Schutzmaßnahmen und Rechtsmittel
Über das Recht auf eine Erklärung und die Existenz eines Beschwerdemechanismus hinaus bietet das KI-Gesetz nur wenig an Werkzeugen, damit Einzelpersonen ihre Rechte im Falle von Verletzungen oder Schäden ausüben können. Während diese Prozesse einen bedeutenden und notwendigen ersten Schritt darstellen, um den Zugang zu Informationen und Verantwortlichkeit sicherzustellen, sind sie unzureichend. Wie Wissenschaftler erläutert haben, kann das Recht auf eine Erklärung enger interpretiert werden als beabsichtigt.
Ähnlich bietet der Beschwerdemechanismus im KI-Gesetz – obwohl er für jede Person oder Entität offen ist, unabhängig davon, ob sie betroffen ist – keine Verfahrensgarantien für Beschwerdeführer und erfordert keine Antwort oder Untersuchung. Zudem unterliegt er keiner gerichtlichen Aufsicht oder Kontrolle.
Diese relativen Auslassungen aus dem KI-Gesetz sind absichtlich, da das Gesetz ausdrücklich feststellt, dass das EU-Recht bereits wirksame Rechtsbehelfe für Personen bietet, die durch den Einsatz von KI-Systemen negativ betroffen sind. Forschungsergebnisse zeigen jedoch, dass diese Annahme fehlgeleitet ist.
Herausforderungen für rechtsbasierte Rahmenbedingungen
Das erste Gesetz zur Gewährleistung von Transparenz und Verantwortlichkeit für KI-Systeme war die Datenschutz-Grundverordnung (DSGVO), die nun ebenfalls im Visier der Deregulierung der EU steht. Als technologie-neutrales, rechtsbasiertes Gesetz hat die DSGVO eine bedeutende Rolle bei der Schaffung von Leitplanken und umsetzbaren Mechanismen für Einzelpersonen gespielt, deren personenbezogene Daten von KI-Systemen verarbeitet werden.
Ein bemerkenswerter Beitrag der DSGVO zur Landschaft der effektiven Rechtsbehelfe ist die Existenz von Rechten und Klageberechtigungen für Einzelpersonen gegen sowohl Datenverarbeiter, die ihre Verpflichtungen gemäß der DSGVO nicht einhalten, als auch gegen Regulierungsbehörden, die das Gesetz nicht wie vorgesehen durchsetzen. In vielen Fällen stehen diese Mechanismen Einzelpersonen zur Verfügung, deren Daten von KI-Systemen oder -Modellen verarbeitet werden.
Allerdings verdeckt das Problem der vielen Beteiligten an der KI-Entwicklung die Verantwortungskette und die Rechenschaftspflicht. Bekannte KI-Taxonomien passen oft nur schwer zu den verantwortlichen Stellen gemäß der DSGVO, was Regulierungsbehörden veranlasst, diesbezüglich Leitlinien zu erarbeiten.
Rechtliche Rahmenbedingungen und kollektive Rechtsmittel
Mit einem expliziten Rahmen für kollektive Rechtsmittel bietet das EU-Verbraucherschutzrecht das Potenzial, viele der Probleme zu überwinden, die durch individuelle Rechtsbehelfe entstehen. Der rechtliche Rahmen steht jedoch unter dem ständigen Druck, sich an die komplexe digitale Umgebung anzupassen, die durch tief verwurzelte Machtasymmetrien und Intransparenz gekennzeichnet ist, während er seine prinzipienbasierte, technologie-neutrale Natur aufrechterhält.
Die zusätzliche Wertigkeit der Richtlinie zu kollektiven Rechtsmitteln ist jedoch nicht unkompliziert, da die Gesamtkosten solcher Maßnahmen für vertretende Stellen hoch sind und es Schwierigkeiten gibt, eine Finanzierung für solche Fälle zu erhalten. Es liegt im Ermessen der Mitgliedstaaten, einen Ansatz zur Kostensenkung für qualifizierte Stellen zu entscheiden. Obwohl es möglich ist, kollektive Rechtsmittel im Rahmen des KI-Gesetzes einzuführen, bleibt deren Effektivität und Nützlichkeit abzuwarten.
Fazit: Stärkung des KI-Gesetzes
In Anbetracht dieser Herausforderungen, die in verschiedenen Rahmenbedingungen vorhanden sind, sollten Maßnahmen ergriffen werden, um die substantiellen Lücken des KI-Gesetzes zu schließen und die bestehenden Gesetze zu stärken, um die Durchsetzung und die Verfahren für Rechtsbehelfe an die spezifischen Herausforderungen von KI anzupassen. Unter anderem ist es notwendig, kollektive Maßnahmen zu stärken, Verfahrensgarantien wie eine Umkehrung der Beweislast in Fällen, die KI betreffen, sowie sinnvolle Transparenzvorschriften zu verabschieden und umzusetzen.
Die Entscheidungsträger dürfen nicht aus den Augen verlieren, dass die Schwächen des KI-Gesetzes nicht weiter verstärkt werden sollten. Sie sollten sicherstellen, dass die Schutzmaßnahmen für Hochrisiko-KI-Systeme zügig anwendbar sind, die Schutzmaßnahmen für die Verarbeitung sensibler Daten verstärkt und Schlupflöcher geschlossen werden, die gefährlichen KI-Systemen erlauben, ohne Prüfung zu bleiben.
