Kalifornisches Gesetz zur Regulierung von Hochrisiko-KI scheitert im Landesgesetzgeber
Ein kalifornisches Gesetz über künstliche Intelligenz, das die Verwendung automatisierter Entscheidungssysteme bei Einstellungsverfahren und anderen wichtigen Angelegenheiten regeln sollte, konnte in den letzten Stunden der Legislaturperiode 2025 im Landtag nicht vorankommen.
Gesetzesentwurf AB 1018
Der Gesetzesentwurf (AB 1018) hätte Unternehmen und Regierungsbehörden verpflichtet, Einzelpersonen zu benachrichtigen, wenn automatisierte Entscheidungssysteme für „bedeutsame Entscheidungen“ wie Beschäftigung, Wohnraum, Gesundheitsversorgung und Finanzdienstleistungen eingesetzt werden.
Die demokratische Abgeordnete Rebecca Bauer-Kahan, Autorin des Gesetzes, pausierte die Abstimmung über den Gesetzentwurf bis zum nächsten Jahr, um „zusätzliche Gespräche mit den Interessengruppen und produktive Gespräche mit dem Büro des Gouverneurs“ zu ermöglichen.
„Diese Pause spiegelt unser Engagement wider, diese wichtige Gesetzgebung richtig zu gestalten, und ist kein Rückzug von unserer Verantwortung, die Kalifornier zu schützen“, sagte Bauer-Kahan in einer Erklärung. „Wir bleiben verpflichtet, durchdachte Schutzmaßnahmen gegen algorithmische Diskriminierung voranzutreiben.“
Widerstand gegen den Gesetzesentwurf
Die Business Software Alliance, eine globale Handelsorganisation, die große Technologieunternehmen vertritt, führte eine Gegenkampagne gegen den Gesetzentwurf an und argumentierte, dass die Gesetzgebung Unternehmen, die KI-Systeme einsetzen, „in ein ungetestetes Audit-Regime“ zwingen würde, das die verantwortungsvolle Einführung von KI-Tools im gesamten Bundesstaat gefährden könnte.
„Klare, umsetzbare und konsistente Erwartungen für Hochrisiko-Anwendungen von KI festzulegen, fördert letztlich die Einführung von Technologie und verbreitet deren Vorteile“, sagte Craig Albright, Senior Vice President der BSA, in einer schriftlichen Erklärung.
Änderungen und Anpassungen des Gesetzesentwurfs
Seit seiner Einführung im Februar wurde der Gesetzesentwurf geändert, um zu präzisieren, wann KI-Audits erforderlich sind, welche Arten von Systemen und „hochriskanten“ Entscheidungen abgedeckt sind, niedrigriskante Tools wie Spam-Filter auszunehmen und Schutz für Geschäftsgeheimnisse hinzuzufügen, während die Details der Audits, die öffentlich gemacht werden müssen, eingeschränkt wurden.
Der Gesetzentwurf verfeinerte auch, wie Klagen und Berufungen funktionieren, und alignierte sich klarer mit bestehenden Bürgerrechtsgesetzen.
Vergleich mit Colorado
Das Scheitern von AB 1018 folgt auf die Entscheidung des Gesetzgebers in Colorado, die Umsetzung des Colorado AI Act zu verzögern, das die Hochrisiko-KI-Regulierung des Bundesstaates betrifft, bis Ende Juni nächsten Jahres, fünf Monate nach dem geplanten Inkrafttreten des Gesetzes. Ähnlich wie Kaliforniens KI-Gesetz würde auch der Colorado AI Act hochriskante KI-Systeme in Bereichen wie Beschäftigung, Kreditvergabe, Wohnraum, Versicherungen und Regierungsdienstleistungen regulieren.
