Richtung Mindeststandards für die Nutzung von KI durch Behörden
Ein Großteil des aufkommenden Denkens über die Beziehung zwischen Verwaltungsrecht und generativer künstlicher Intelligenz beruht auf der Annahme, dass KI-Systeme eine führende Rolle bei der Gestaltung und Erklärung behördlicher Maßnahmen spielen könnten. Dies ist nachvollziehbar, da eines der Hauptmerkmale des Verwaltungsverfahrensgesetzes darin besteht, dass Entscheidungsträger nachvollziehbare, schriftliche Darstellungen ihrer Überlegungen anbieten müssen, eine Aufgabe, die oft kompliziert und zeitaufwendig ist. Aktuelle große Sprachmodelle sind bereits in der Lage, schnell hochwertige Texte zu generieren, auch zu technischen Themen.
Die Aussicht, dass Behörden KI einsetzen, um regulatorische Vorschläge zu erstellen und zu rechtfertigen, erscheint nicht mehr weit hergeholt. Es gab Berichte über Vorschläge, KI zu nutzen, um die Aufhebung von bundesstaatlichen Vorschriften zu erleichtern. KI könnte den Regelungsprozess revolutionieren, indem sie erhebliche Zeitersparnisse bei der Forschung, dem Schreiben und der Analyse öffentlicher Kommentare verspricht.
Rechtliche Herausforderungen
Die Nutzung von KI könnte rechtliche Hürden mit sich bringen. Regeln, die von großen Sprachmodellen erstellt werden, könnten besonders anfällig für Herausforderungen gemäß dem Verwaltungsverfahrensgesetz sein. Dieses Gesetz erfordert, dass bestimmte Formen menschlicher Beteiligung im Regelungsprozess vorhanden sind, was es den Behörden verbieten würde, ihre Arbeit vollständig an KI auszulagern.
Verantwortung und menschliche Beteiligung
Das Verwaltungsverfahrensgesetz verpflichtet die Gerichte, behördliche Maßnahmen, die „willkürlich“ oder „unüberlegt“ sind, aufzuheben. Der Einsatz von KI könnte dazu führen, dass Fehler gemacht werden, die gegen diese Anforderungen verstoßen. Die Behörden müssen erklären, wie sie ihre Modelle gewählt haben, wie sie die Ausgaben validiert haben und warum sie diese für zuverlässig halten. Ein einfaches Absegnen der Ergebnisse eines fehleranfälligen Werkzeugs könnte als willkürlich und unüberlegt angesehen werden.
Öffentliche Kommentare und Transparenz
Behörden sind verpflichtet, bedeutende öffentliche Kommentare zu berücksichtigen. Wenn eine Behörde sich auf KI verlässt, um auf öffentliche Kommentare zu reagieren, könnte dies als Verstoß gegen die gesetzlichen Anforderungen angesehen werden, insbesondere wenn die KI dazu neigt, verzerrte Bewertungen zu generieren. Eine angemessene unabhängige menschliche Überprüfung ist notwendig, um sicherzustellen, dass wichtige Überlegungen nicht ignoriert werden.
Schlussfolgerung
Die Analyse zeigt, dass die Mindeststandards, die für den Einsatz von KI in der Entscheidungsfindung gelten, nicht nur eine formale Anforderung sind, sondern auch sicherstellen sollen, dass die Behörde weiterhin die Verantwortung für ihre Entscheidungsprozesse trägt. Die Einführung von KI in den Regelungsprozess erfordert sorgfältige Überlegungen zur Gewährleistung von Transparenz und zur Vermeidung willkürlicher Entscheidungen. Die Diskussion über die Rolle der KI in der Verwaltung wird voraussichtlich weiterhin im Mittelpunkt rechtlicher und politischer Debatten stehen.
