Warum Kalifornien erneut von ehrgeiziger KI-Regulierung Abstand genommen hat
Zusammenfassung:
Ein Gesetzesentwurf, der die Offenlegung und Berufungsmöglichkeiten für eine Vielzahl von KI-Entscheidungen vorschreibt, wurde für das dritte Jahr in Folge bis zum nächsten Jahr verzögert. Gouverneur Gavin Newsom wird voraussichtlich in die Maßnahme konsultiert.
Nach drei Jahren des Versuchs, den Kaliforniern das Recht zu geben, zu erfahren, wann KI eine entscheidende Entscheidung über ihr Leben trifft, und diese anzufechten, sagte die Abgeordnete Rebecca Bauer-Kahan, dass sie und ihre Unterstützer erneut warten müssen, bis nächstes Jahr.
Der San Ramon Demokrat kündigte am Freitag an, dass der Gesetzentwurf zur Versammlung 1018, der die Versammlung und zwei Senatsausschüsse passiert hat, als Zweijahresgesetz eingestuft wurde, was bedeutet, dass er im nächsten Jahr wieder Teil der Legislaturperiode werden kann. Diese Entscheidung fiel in den letzten Stunden der kalifornischen Legislaturperiode, die heute endet.
Inhalt des Gesetzentwurfs
Ihr Gesetzesentwurf würde Unternehmen und Behörden verpflichten, Personen zu informieren, wenn automatisierte Systeme verwendet werden, um wichtige Entscheidungen über sie zu treffen, einschließlich für Wohnungsvermietungen, Schulzulassungen und im Arbeitsumfeld für Einstellung, Entlassung, Beförderungen und Disziplinarmaßnahmen. Der Gesetzentwurf umfasst auch Entscheidungen im Bildungsbereich, im Gesundheitswesen, in der Strafjustiz, bei staatlichen Leistungen, im Finanzdienstleistungssektor und in der Versicherungsbranche.
Automatisierte Systeme, die Menschen Punkte zuweisen oder Empfehlungen aussprechen, können Kalifornier daran hindern, Arbeitslosengeld zu erhalten, sie für willkürliche Gründe als weniger qualifiziert erklären, die nichts mit der Arbeitsleistung zu tun haben, oder Menschen die Gesundheitsversorgung verweigern oder Hypotheken aufgrund ihrer Rasse verweigern.
„Diese Pause spiegelt unser Engagement wider, diese kritische Gesetzgebung richtig zu gestalten, nicht einen Rückzug von unserer Verantwortung, die Kalifornier zu schützen“, sagte Bauer-Kahan in einer Erklärung.
Weitere KI-Gesetzentwürfe im kalifornischen Parlament
Kalifornien hat mehr KI-Regulierung als jeder andere Bundesstaat verabschiedet, hat jedoch noch kein Gesetz wie das von Bauer-Kahan oder andere Gesetze verabschiedet, die die Offenlegung von entscheidenden KI-Entscheidungen vorschreiben, wie das Colorado AI Act oder das EU AI Act.
Die Pause erfolgt zu einem Zeitpunkt, an dem Politiker in Washington D.C. weiterhin gegen KI-Regulierung sind, die ihrer Meinung nach den Fortschritt behindern könnte. Präsident Donald Trump veröffentlichte im Juli einen AI Aktionsplan, der eine Deregulierung der Technologie auf Bundes- und Landesebene fordert.
Wenn ein automatisiertes System einen Fehler macht, gibt AB 1018 den Menschen das Recht, diesen Fehler innerhalb von 30 Tagen zu korrigieren. Es wird auch betont, dass Algorithmen „vollständige und gleiche“ Unterkünfte für alle bieten müssen und nicht gegen Menschen aufgrund von Merkmalen wie Alter, Rasse, Geschlecht, Behinderung oder Einwanderungsstatus diskriminieren dürfen.
Entwickler müssen Auswirkungen bewerten, um unter anderem Vorurteile in ihren Systemen zu testen. Wenn eine solche Bewertung für ein KI-System nicht durchgeführt wird und dieses System zur Entscheidungsfindung über das Leben von Menschen verwendet wird, drohen dem Entwickler Geldstrafen von bis zu 25.000 Dollar pro Verstoß oder rechtliche Schritte durch den Generalstaatsanwalt, öffentliche Staatsanwälte oder das Civil Rights Department.
Widerstand und Herausforderungen
AB 1018 sah sich dem Widerstand von Branchenverbänden, großen Technologieunternehmen, dem größten Gesundheitsdienstleister des Bundesstaates, Risikokapitalfirmen und dem Justizrat Kaliforniens, einem politischen Gremium für die Staatsgerichte, gegenüber.
Eine Koalition von Krankenhäusern, Kaiser Permanente und dem Gesundheitssoftware- und KI-Unternehmen Epic Systems forderte die Gesetzgeber auf, gegen 1018 zu stimmen, da sie befürchteten, dass das Gesetz die Patientenversorgung negativ beeinflussen, die Kosten erhöhen und die Entwickler zwingen würde, ab 2030 mit Drittanbietern zu vertraglichen Vereinbarungen zur Einhaltung zu kooperieren.
Ein Zusammenschluss von Unternehmensgruppen lehnte den Gesetzentwurf ab, weil die Verallgemeinerung der Sprache und die Besorgnis, dass die Einhaltung für Unternehmen und Steuerzahler teuer sein könnte, Bedenken aufwarfen.
Die Koalition Technet, die versucht, die Politik landesweit zu gestalten und deren Mitglieder Unternehmen wie Apple, Google, Nvidia und OpenAI umfassen, argumentierte, dass AB 1018 das Wachstum von Arbeitsplätzen behindern, die Kosten erhöhen und die am schnellsten wachsenden Branchen des Bundesstaates bestrafen würde.
Die Schätzung der Justizbehörde, dass die Verabschiedung von AB 1018 den Bundesstaat bis zu 300 Millionen Dollar pro Jahr kosten könnte, wurde von einem politischen Führer im Justizwesen geäußert.
Supporter und ihre Argumente
Die Unterstützung für den Gesetzentwurf kam von Gewerkschaften, die versprochen haben, KI in Tarifverträgen zu erörtern, einschließlich der California Nurses Association und der Service Employees International Union, sowie von Gruppen wie der Citizen’s Privacy Coalition, Consumer Reports und der Consumer Federation of California.
Die Mitautoren von AB 1018 umfassen wichtige demokratische Befürworter der KI-Regulierung im kalifornischen Parlament, darunter die Mehrheitsführerin der Versammlung, Cecilia Aguilar-Curry, und den Abgeordneten Chris Ward.
Die Antidiskriminierungssprache in AB 1018 ist wichtig, weil Technologieunternehmen und ihre Kunden oft der Meinung sind, dass sie von den Antidiskriminierungsgesetzen ausgenommen sind, wenn die Diskriminierung durch automatisierte Systeme erfolgt.
Die Entscheidung, die Überprüfung von Entwicklern auf 2030 zu verschieben und generative KI-Modelle von der Abdeckung durch das Gesetz auszunehmen, könnte verhindern, dass es große KI-Unternehmen oder laufende Projekte im Bereich generativer KI beeinflusst.
„Es ist enttäuschend, dass AB 1018 in dieser Zeit nicht die Priorität für die KI-Politik hat“, sagte ein KI-Forscher der UC Berkeley, der die Algorithmen auf Diskriminierung überprüft hat.
