Verteilung von Verantwortlichkeiten im AI Act für Hochrisikosysteme
Der AI Act der Europäischen Union reguliert Hochrisikosysteme, indem er Verantwortlichkeiten an bestimmte Akteure entlang der Wertschöpfungskette zuweist. In diesem Artikel wird die Verteilung dieser Verantwortlichkeiten untersucht und argumentiert, dass der lineare Ansatz des Gesetzes zwar die Compliance und Rechenschaftspflicht in jeder Phase des Systems fördert, jedoch auch bemerkenswerte Einschränkungen aufweist, die Risiken für Einzelpersonen darstellen könnten.
Einführung
Im Jahr 2024 verabschiedete die Europäische Union den AI Act, um die Nutzung von menschzentrierter und vertrauenswürdiger KI zu fördern und gleichzeitig die Gesundheit, Sicherheit und grundlegenden Rechte der Menschen zu schützen. Der Act verwendet einen risikobasierten Ansatz, der KI-Systeme in die Kategorien unzulässiges Risiko, hochriskant, eingeschränktes Risiko und niedriges Risiko einteilt, zusätzlich zu spezifischen Bestimmungen für allgemeine KI-Modelle.
Dieser Artikel konzentriert sich auf hochriskante KI-Systeme und untersucht, ob der AI Act die Verantwortlichkeiten angemessen über den Lebenszyklus der Systeme verteilt. Zunächst wird die Definition von hochriskanten KI-Systemen entschlüsselt und die wichtigsten Akteure in jeder Phase der Wertschöpfungskette identifiziert.
Analyse der Verantwortlichkeitsverteilung
Die Rollen und Verpflichtungen der Akteure sind linear in einem flexiblen regulatorischen Umfeld zugewiesen, um Transparenz, Compliance und Rechenschaftspflicht zu fördern. Allerdings wird argumentiert, dass eine weitere Verfeinerung notwendig ist, um besser auf die einzigartige Komplexität, Opazität und Autonomie von KI-Systemen einzugehen, die spezifische Haftungsfragen aufwerfen, die das Gesetz nicht vollständig adressiert.
Es wird betont, dass es notwendig ist, diese Flexibilität zu straffen, um einen besseren Schutz der Sicherheit, Gesundheit und grundlegenden Rechte der Einzelnen zu gewährleisten.
Entschlüsselung von hochriskanten KI-Systemen und ihren Schlüsselakteuren
Laut Artikel 6 des AI Act wird ein KI-System in zwei Fällen als hochriskant eingestuft: (1) wenn das KI-System als Sicherheitskomponente eines Produkts gedacht ist oder ein Produkt betrifft, das den EU-Gesetzen in Anhang I des Gesetzes unterliegt und eine dritte Partei zur Konformitätsbewertung benötigt (z.B. in vitro medizinische Geräte, Aufzüge, Spielzeug usw.); oder (2) wenn das System in Anhang III erwähnt wird (hauptsächlich in Bezug auf Grundrechtsanliegen).
Allerdings bietet Absatz 3 von Artikel 6 eine Ausnahme von dieser Kategorisierung. Er stellt klar, dass ein KI-System, das in Anhang III erwähnt wird, nicht als hochriskant angesehen wird, wenn es dazu bestimmt ist: (a) eine enge prozedurale Aufgabe auszuführen; (b) das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit zu verbessern; (c) Entscheidungsfindungsmuster oder -abweichungen zu erkennen und nicht dazu gedacht ist, die zuvor abgeschlossene menschliche Bewertung ohne angemessene menschliche Überprüfung zu beeinflussen; oder (d) eine vorbereitende Aufgabe der Bewertung im Zusammenhang mit den Anwendungsfällen unter Anhang III auszuführen.
Ein KI-System ist von der Einstufung ausgenommen, wenn es kein signifikantes Risiko für die Gesundheit, Sicherheit oder die grundlegenden Rechte natürlicher Personen darstellt. In diesem Fall müssen die Anbieter des Systems ihre Bewertung dokumentieren, bevor das System auf den Markt gebracht oder in Betrieb genommen wird, und sich selbst und das System in einer neuen EU-Datenbank registrieren.
Schlussfolgerung
Zusammenfassend wird deutlich, dass der AI Act zwar einen grundlegenden Rahmen für die Regulierung hochriskanter KI-Systeme bietet, jedoch eine genauere Betrachtung und Anpassung erforderlich ist, um den Herausforderungen und Risiken gerecht zu werden, die mit der Nutzung dieser Technologien verbunden sind. Ein strengerer Ansatz könnte dazu beitragen, die Rechte und das Wohlbefinden der Nutzer besser zu schützen.
