Gemeinsames offenes Schreiben zur Ablehnung des Vorschlags zur Unterminierung der Transparenz im KI-Gesetz
CDT Europe hat zusammen mit 60 Organisationen ein offenes Schreiben von Access Now und European Digital Rights (EDRi) unterzeichnet, das sich an die EU-Institutionen richtet. Darin wird gefordert, den Entwurf zur Streichung des Artikels 49(2) des KI-Gesetzes, der eine Transparenzsicherung für hochriskante KI-Systeme vorsieht, abzulehnen.
Problematische Ausnahmeregelung
Eine stark kritisierte Ausnahmeregelung im KI-Gesetz ermöglicht es Anbietern, deren Systeme in den als hochriskant eingestuften Anwendungsfällen fallen, sich von der Kategorie der hochriskanten Systeme und den damit verbundenen Verpflichtungen zu befreien. Eine entscheidende Schutzmaßnahme gegen diese schädliche Ausnahmeregelung ist die Verpflichtung für Anbieter von KI-Systemen, die sich von der Kategorie der hochriskanten Systeme befreien, ihre Systeme dennoch in einer EU-Datenbank zu registrieren. Dies ermöglicht eine Überprüfung und Aufsicht über die potenzielle Ausnutzung dieser Ausnahmeregelung. Diese Schutzmaßnahme ist nun bedroht.
Wichtigkeit der Transparenz
Diese Transparenzsicherung stellt sicher, dass Anbieter von KI-Systemen die grundlegenden Verpflichtungen des KI-Gesetzes nicht umgehen können und zur Verantwortung gezogen werden, wenn sie dies versuchen. Wie bereits in einem früheren Bericht zum KI-Gesetz-Omnibus-Vorschlag aufgezeigt, führt das Versäumnis, die Selbstbewertung eines KI-Entwicklers offenzulegen, dazu, dass potenziell gefährliche KI-Systeme unbemerkt und ohne Einschränkungen verbreitet werden. Dies verhindert sowohl bei Regulierungsbehörden als auch bei Anwendern, sich ein fundiertes Urteil oder eine Beurteilung über die KI-Systeme zu bilden, die sie möglicherweise untersuchen oder vermeiden möchten.
Folgen der Streichung der Transparenzpflicht
Die Streichung der Transparenzpflicht wird erhebliche menschliche Kosten verursachen, während sie nur triviale Kosteneinsparungen für KI-Entwickler mit sich bringt. Dies wird die Durchsetzbarkeit des KI-Gesetzes drastisch untergraben und die Risiken für Gesundheit, Sicherheit und grundlegende Rechte verschärfen.
Der vollständige Brief kann hier eingesehen werden.
