Die Angemessenheit der Regulierung mit KI
Dieser Artikel ist der fünfte Beitrag zu einem Symposium über KI und das administrative Verfahren. Zu den grundlegenden Prinzipien des Verwaltungsrechts gehört die Anforderung, dass Behörden „die relevanten Daten prüfen und eine zufriedenstellende Erklärung“ für ihre Entscheidungen abgeben, was als die Anforderung der begründeten Entscheidungsfindung bekannt ist. Dies bedeutet in der Praxis, dass Behörden ihre Vorgehensweise darlegen müssen, um zu zeigen, dass sie nicht willkürlich oder grundlos gehandelt haben.
Die Rolle von KI in der Regulierung
Mit den Fortschritten in der KI stellt sich die Frage, wie diese neuen Technologien mit den bestehenden Standards des Verwaltungsrechts in Einklang gebracht werden können. Drei Faktoren werden vorgeschlagen, um Gerichte bei der Überprüfung des Einsatzes von KI im regulatorischen Prozess zu leiten:
- Inwieweit hat der Kongress der Behörde bei ihrem gesetzlichen Auftrag einen breiten Ermessensspielraum eingeräumt;
- Wo und wie wird KI bei der Formulierung von Behördenschreiben eingesetzt;
- Ob das Thema der behördlichen Maßnahme Rechte oder Sicherheitsaspekte betrifft.
Gerichte sollten den Einsatz von KI in der Regulierung strenger überprüfen, wenn Behörden diese Technologie bei der Umsetzung breiter gesetzlicher Mandate oder in Bereichen einsetzen, die Rechte oder Sicherheitsfragen betreffen. Umgekehrt sollten Gerichte weniger skeptisch gegenüber dem Einsatz von KI sein, wenn sie in relativ engen gesetzlichen Mandaten oder in nicht sicherheitsrelevanten Bereichen eingesetzt wird.
Besonderheiten von KI-Systemen
KI-Systeme analysieren Muster in ihren Trainingsdaten und erzeugen Vorhersagen. Entwickler von KI-Systemen verfolgen nicht das Ziel, Wahrheiten zu erkennen, sondern logische Antworten zu generieren. Dies kann zu „Halluzinationen“ führen, bei denen Systeme fehlerhafte oder verzerrte Informationen ausgeben. Diese Eigenschaften werfen Fragen bezüglich der Zuverlässigkeit von KI auf, insbesondere wenn sie zur „Begründung“ von Entscheidungen verwendet wird.
Faktoren zur Bewertung des KI-Einsatzes
Unter dem ersten Faktor sollten Gerichte die Breite des gesetzlichen Ermessens überprüfen, das einer Behörde für eine bestimmte Maßnahme eingeräumt wurde. Je breiter der Ermessensspielraum, desto mehr Sorgfalt sollte die Behörde im Umgang mit KI walten lassen.
Der zweite Faktor betrifft den Zeitpunkt des KI-Einsatzes im regulatorischen Prozess. Der Einsatz von KI zur Unterstützung von Experten durch die Generierung von Dokumentzusammenfassungen sollte weniger kritisch betrachtet werden. Wenn jedoch KI zur Erstellung wesentlicher Regelungsentwürfe eingesetzt wird, sollte die Überprüfung durch die Gerichte strenger ausfallen.
Der dritte Faktor betrifft die Verwendung von KI bei der Formulierung von Richtlinien, die Rechte oder Sicherheitsaspekte betreffen. In diesen Fällen ist besondere Vorsicht geboten, da fehlerhafte KI-Ausgaben erhebliche Auswirkungen auf das Leben von Menschen haben können.
Schlussfolgerung
Die genannten Faktoren sind als vorläufige Leitlinien gedacht, um Gerichte, Gesetzgeber und die Öffentlichkeit anzuleiten, wenn es darum geht, ob eine Behörde ihrer grundlegenden Verpflichtung, ihre Entscheidungen zu begründen, nachgekommen ist. Angesichts der rasanten Entwicklungen im Bereich der KI wird es entscheidend sein, wie sich das Verwaltungsrecht an die Nutzung von KI anpasst.
