Kalifornien setzt nationalen Präzedenzfall mit bahnbrechendem AI-Sicherheitsgesetz
Kalifornien hat einen historischen Schritt zur Regulierung künstlicher Intelligenz unternommen und das Transparency in Frontier Artificial Intelligence Act (SB 53) verabschiedet — das erste bundesstaatliche Gesetz in den Vereinigten Staaten, das sich ausschließlich mit der Sicherheit und Verantwortung von KI befasst. Unterzeichnet von Gouverneur Gavin Newsom Ende September 2025, verpflichtet das Gesetz bedeutende KI-Entwickler dazu, Sicherheitsrahmen zu veröffentlichen, schwerwiegende Vorfälle zu melden und Mitarbeiter zu schützen, die Verstöße melden.
Ein zurückhaltendes Gesetz nach jahrelangen Debatten
Das Gesetz stellt einen Kompromiss nach zuvor umfassenderen Vorschlägen dar. Im Jahr 2024 wurde SB 1047 eingeführt, das Drittanbieterprüfungen und obligatorische „Kill-Switches“ für leistungsstarke KI-Modelle gefordert hätte. Gouverneur Newsom hat diese Version jedoch mit der Warnung, dass übermäßige Regulierung die Innovation in Kaliforniens Technologiebranche behindern könnte, vetoisiert.
Im Gegensatz dazu konzentriert sich SB 53 auf Transparenz statt auf Durchsetzung. Es fordert Unternehmen, die „Frontier-Modelle“ trainieren — Systeme, die enorme Rechenleistung nutzen — dazu auf, Informationen darüber zu teilen, wie sie katastrophale Risiken wie Missbrauch des Modells oder unkontrolliertes Verhalten identifizieren und mindern. Das Gesetz verpflichtet die Entwickler auch dazu, innerhalb von 15 Tagen alle „kritischen Sicherheitsvorfälle“ an das Notfalldienstbüro des Staates zu melden.
Transparenz über Kontrolle
Im Gegensatz zum AI-Gesetz in Europa oder dem Lizenzierungsregime in China geht Kaliforniens Ansatz nicht so weit, wie Unternehmen ihre KI-Systeme entwerfen oder einsetzen müssen. Stattdessen zielt es darauf ab, die Entwicklung von KI für Regulierungsbehörden, Forscher und die Öffentlichkeit sichtbarer zu machen.
Das Gesetz führt Whistleblower-Schutz für Mitarbeiter und Auftragnehmer ein, sodass sie Sicherheitsbedenken ohne Vergeltungsmaßnahmen melden können. Es enthält auch eine „Deemed Compliance“-Klausel, die es Unternehmen erlaubt, die Anforderungen des Staates durch gleichwertige Bundesvorschriften zu erfüllen, falls diese später eingeführt werden — ein Signal, dass Kalifornien erwartet, dass Washington letztendlich aufholt.
Dennoch sagen Kritiker, dass das Gesetz möglicherweise nicht weit genug geht. Da es keine Drittanbieterprüfungen oder unabhängige Überprüfungen erfordert, wird die Durchsetzung weitgehend von der Integrität und Transparenz der Unternehmen selbst abhängen.
Eine neue Ära der staatlichen Aufsicht
Das kalifornische Department of Technology wird die Umsetzung überwachen, die Definitionen wie „Frontier-Modell“ jährlich überprüfen und Aktualisierungen empfehlen, während sich die Technologie weiterentwickelt. Dieser Schritt wird von anderen Bundesstaaten und von den Bundesregulierungsbehörden in Washington genau beobachtet, die bislang noch keine umfassenden KI-Vorschriften vorgeschlagen haben.
Experten sagen, dass SB 53 die Art und Weise gestalten könnte, wie andere Jurisdiktionen ihre eigenen Regeln entwerfen. „Kalifornien war oft das Testfeld für nationale Technologie-Regulierungen“, sagte ein Politikanalyst des Cyber Policy Centers in Stanford. „Was hier passiert, könnte zum Modell für das ganze Land werden.“
Den Ton für verantwortungsvolle Innovation angeben
Als Heimat des Silicon Valley und einiger der weltweit führenden KI-Firmen signalisiert Kaliforniens erstes Gesetz seiner Art einen Wendepunkt im Gleichgewicht zwischen Innovation und Sicherheit. Ob es ein Modell für kluge Governance oder eine Warnung vor regulatorischem Übergriff wird, hängt davon ab, wie sowohl die Industrie als auch die Regierung seine Umsetzung navigieren.
In den Worten eines an der Entwicklung des Gesetzes beteiligten Legislative-Mitarbeiters: „Dies ist nicht das Ende der Debatte — es ist der Beginn des Aufbaus von Sicherheitsvorkehrungen für eine Ära, in die wir gerade erst eingetreten sind.“
