Staaten können bei der Implementierung von KI führen – so geht’s
Stellen Sie sich vor, Sie sind ein technologieorientierter Führer auf staatlicher Ebene. Jüngste Fortschritte in der künstlichen Intelligenz versprechen, die Genehmigung von Kleinunternehmenslizenzen zu beschleunigen, das Lernen von K-12-Schülern zu verbessern oder sogar die Compliance zwischen Behörden zu standardisieren. All dies verspricht, die Erfahrungen Ihrer Staatsbürger zu verbessern. Um diese neue Technologie verantwortungsbewusst einzusetzen, suchen Sie nach Orientierung bei Kollegen in anderen Bundesstaaten. Ihre Antworten variieren stark, und in Ermangelung bundesstaatlicher Anleitung wird schnell klar, dass es kein standardisiertes Vorgehen gibt. Sie müssen den Weg selbst ebnen, mit viel begrenzteren Ressourcen.
Dieses Szenario wird immer häufiger, da KI-Systeme schnell in verbraucherorientierte Dienstleistungen integriert werden. Ohne bundesstaatliche Maßnahmen tragen die Führungskräfte der staatlichen Regierungen zunehmend die Verantwortung, sowohl die Verbraucher vor möglichen algorithmischen Schäden zu schützen als auch verantwortungsvolle Innovationen zu unterstützen, um die Dienstleistungsbereitstellung für ihre Bürger zu verbessern. Staaten haben strukturelle Vorteile, die es ihnen ermöglichen, mit regulatorischen Ansätzen zu experimentieren: kürzere gesetzgeberische Zyklen, die schnellere Kurskorrekturen ermöglichen, die Autorität zur Durchführung von Pilotprogrammen und die Verwendung von Auslaufbestimmungen, die es einfacher machen, frühe Governance-Modelle zu überarbeiten oder zu beenden. Dies positioniert Staaten oft als die agilsten Regulierer, die schnell Rahmenbedingungen für sich rasch entwickelnde KI-Technologien schaffen können, die ihre Bewohner betreffen.
Regulatorische Agilität und erforderliche Kapazitäten
Diese regulatorische Agilität muss jedoch mit der notwendigen Kapazität der Regierung einhergehen, um erfolgreich zu sein. Der derzeitige Mangel an bundesstaatlichen Maßnahmen zwingt die Staaten nicht nur dazu, neue KI-Gesetze zu verabschieden, sondern auch erhebliche Implementierungsherausforderungen zu bewältigen, ohne die KI-Expertise, die typischerweise in Bundesbehörden oder großen privaten Unternehmen zu finden ist. Der Aufbau dieser Kapazitäten innerhalb der staatlichen Regierungen erfordert Ressourcen und technisches Fachwissen, die die meisten Staaten erst jetzt beginnen zu ermitteln. Ohne gezielte Investitionen in Transparenz und Talente könnten selbst die am besten ausgearbeiteten Gesetze ihre beabsichtigten Ziele nicht erreichen. Wenn die gesetzgeberischen Zyklen der Staaten im Jahr 2026 wieder beginnen, sollten die politischen Entscheidungsträger Vorschläge vorantreiben, die Transparenz, Verantwortlichkeit und die Einbindung neuer technischer Experten in die Regierung erhöhen, um den aktuellen Bedarf zu decken.
Erhöhte Transparenz zur Schaffung von öffentlichem Vertrauen
Eine der unmittelbarsten Möglichkeiten für die Staatslegislaturen, mit der Verabschiedung von Gesetzen zur Verbesserung der Transparenz voranzukommen, besteht in der Einführung von Anwendungsfallinventaren. Ein Anwendungsfallinventar ist eine öffentliche Veröffentlichung algorithmischer Werkzeuge und deren spezifischer Anwendungen. Sie geben bekannt, wann und wo staatliche Regierungen algorithmische Werkzeuge in verbraucherorientierten Transaktionen wie Anträgen auf Sozialprogramme und öffentliche Hilfsleistungen nutzen. Sie werden typischerweise von Regierungen als Mechanismus für Transparenz durchgeführt und um Drittanbieter-Audits der Ergebnisse zu erleichtern.
Die Vorteile der öffentlichen Bekanntmachung von KI-Anwendungsfallinventaren sind weitreichend: Sie erhöhen die Transparenz der automatisierten Entscheidungsfindung, können wertvolle Einblicke für private Produktanbieter bieten, Drittaudits und Bias-Tests erleichtern und sogar den interagentlichen Austausch bewährter Praktiken fördern, wenn KI-Tools effektiv eingesetzt werden. Sie sind besonders wichtig bei risikobehafteten Entscheidungen, die staatliche Leistungen und Dienstleistungen betreffen. Umgekehrt kann ein Mangel an Transparenz bei kostspieligen Beschaffungen von privaten und Drittfirmen bedeuten, dass eine Behörde oder Einrichtung nicht weiß, welche Werkzeuge sie erworben hat und ob diese sicher in verbraucherorientierten Umgebungen ohne Verzerrungen oder andere Ungenauigkeiten eingesetzt werden können.
Fallstudie: Implementierungsherausforderungen in Kalifornien
Während die bundesstaatliche Erfahrung zeigt, dass KI-Anwendungsfallinventare funktionieren können, zeigt sie auch eine wichtige Einschränkung: Transparenzmechanismen erfordern technisches Talent und fokussierte Implementierung, um erfolgreich zu sein. Kalifornien bietet ein warnendes Beispiel. Im Jahr 2023 verabschiedete die Staatslegislative ein Gesetz, das das Staatsministerium für Technologie aufforderte, eine umfassende Inventur aller hochriskanten automatisierten Entscheidungssysteme durchzuführen, die von staatlichen Behörden verwendet werden, und der Legislative bis zum 1. Januar 2025 und jährlich danach einen Bericht vorzulegen. Wichtig ist, dass das Gesetz Systeme abdeckte, die dazu verwendet werden, menschliche Entscheidungsfindung zu unterstützen oder zu ersetzen. Das Gesetz wurde als kritischer erster Schritt angesehen, um Einblicke in die Verwendung von KI in verbraucherorientierten Interaktionen durch staatliche Regierungsbehörden zu gewinnen. Es war auch eine Reaktion auf öffentliche Berichte über voreingenommene Technologien, die bei Anträgen auf öffentliche Dienstleistungen und Leistungen eingesetzt wurden.
Die anfängliche Implementierungsfrist für das Gesetz verstrich jedoch Anfang 2025, und der einzige Bericht, der der Öffentlichkeit vorgelegt wurde, war ein einziges Dokument, das besagte, dass „keine hochriskanten ADS-Tools von staatlichen Behörden verwendet werden“. Diese Tatsache kann leicht durch eine einfache Internetsuche widerlegt werden. Zum Beispiel nutzt die staatliche Gesundheitsagentur automatisierte Dokumentenverarbeitungstools, um die Berechtigung für bezahlbare Krankenversicherungen zu überprüfen; das Arbeitsamt verwendet ein algorithmisches Tool, das von einem privaten Unternehmen entwickelt wurde, um Bewerber hinsichtlich der Wahrscheinlichkeit einer betrügerischen Bewerbung zu bewerten; und das Finanzministerium plant sogar den Einsatz von generativen KI-Tools im Rahmen der Haushaltsanalyse und -arbeit des Staates.
Talente im öffentlichen Sektor skalieren
Die Erfahrung Kaliforniens bei der Implementierung eines Anwendungsfallinventars ist leider nicht einzigartig. Im ganzen Land wird gut gemeinte Gesetzgebung häufig verabschiedet, um dann bei der Umsetzung zu scheitern. Nach der Verabschiedung sind die Mitarbeiter der Behörden damit beauftragt, komplexe Richtlinien zu operationalisieren, oft ohne das notwendige technische Fachwissen, die personelle Kapazität oder die finanziellen Ressourcen, um erfolgreich zu sein. Ohne gezielte Investitionen in diesen Bereichen wird die Verantwortung für die ordnungsgemäße Regulierung neuer Technologien und den Schutz der Verbraucher auf staatliche Mitarbeiter verlagert, die schlecht ausgestattet sind, um den wachsenden Umfang und die technische Komplexität ihrer Arbeitslasten zu bewältigen. Aus diesem Grund müssen Staaten zusätzlich zur Transparenz Wege finden, um schnell technisches Talent und Fachwissen in digitalen Technologien zu gewinnen, um die effektive Umsetzung der kommenden Gesetzesvorlagen voranzutreiben.
Fazit
Ohne einen bundesstaatlichen Rahmen werden die staatlichen Regierungen die Haupttreiber für die erforderliche Rechenschaftspflicht und Transparenz sein müssen, um sicherzustellen, dass KI dem öffentlichen Interesse dient und nicht demokratische Normen untergräbt. Dies bietet den politischen Entscheidungsträgern auf staatlicher Ebene ein wichtiges Zeitfenster, sowohl Prozesse zur Förderung der Transparenz zu etablieren als auch robuste Talentpipelines zu schaffen, die eine verantwortungsvolle Bereitstellung ermöglichen. So lässt sich das öffentliche Vertrauen wiederherstellen und Schäden verhindern, bevor KI-Systeme weiter in kritische öffentliche Dienstleistungen integriert werden. Staaten, die transparente KI-Anwendungsfallinventare aufbauen und in technische Expertise investieren, werden am besten positioniert sein, um hohe regulatorische Prinzipien in echte Schutzmaßnahmen für ihre Bürger zu übersetzen und gleichzeitig ein gerechteres, vertrauenswürdigeres Innovationsumfeld zu fördern.
