Transparenz im Frontier Artificial Intelligence Act (SB-53)
Am 29. September unterzeichnete Gouverneur Gavin Newsom ein Gesetz, das Kalifornien als ersten Bundesstaat zur Einführung standardisierter Sicherheitsoffenlegungen von Entwicklern fortschrittlicher künstlicher Intelligenz (KI) macht.
In Ermangelung umfassender bundesweiter Gesetzgebung zur KI-Sicherheit gehört Kalifornien zu einer wachsenden Anzahl von Bundesstaaten, die in Fragen der KI-Sicherheit führend sein wollen. Colorado war der erste Bundesstaat, der ein umfassendes KI-Gesetz verabschiedete, das umfassende Offenlegungs-, Risikomanagement- und Transparenzpraktiken für Entwickler von Hochrisiko-KI-Systemen vorschreibt, jedoch wurde die Umsetzung bis Juni 2026 verzögert.
Überblick über den TFAIA
Der TFAIA verlangt von den Entwicklern, wie sie Sicherheitsrisiken managen, und führt neue Mechanismen für Transparenz, Verantwortlichkeit und Durchsetzung ein. Entwickler, die bei Inkrafttreten des Gesetzes im Januar 2026 nicht konform sind, müssen mit zivilrechtlichen Strafen von bis zu 1.000.000 USD pro Verstoß rechnen, die vom Generalstaatsanwalt von Kalifornien durchgesetzt werden.
Betroffene Entwickler
Der TFAIA gilt für Entwickler von Frontier-AI-Modellen, die als Modelle definiert sind, die mit mehr als 10^26 FLOPs trainiert wurden. Diese Schwelle entspricht dem AI Executive Order 2023 und übersteigt die Schwelle des EU AI Acts von 10^25 FLOPs.
Veröffentlichung eines allgemeinen Sicherheitsrahmen
Große Entwickler müssen einen zugänglichen allgemeinen Sicherheitsrahmen veröffentlichen, der zeigt, wie sie nationale und internationale Standards sowie branchenspezifische Best Practices einbeziehen und wie sie potenzielle katastrophale Risiken bewerten und mindern.
Transparenz bei der Bereitstellung
Wenn ein neues oder erheblich modifiziertes Modell veröffentlicht wird, muss der Entwickler einen Transparenzbericht veröffentlichen, der das Veröffentlichungsdatum, die Modalitäten, die beabsichtigten Verwendungen und Einschränkungen enthält.
Meldung kritischer Sicherheitsvorfälle
Entwickler müssen das Büro für Notfalldienste von Kalifornien über kritische Sicherheitsvorfälle innerhalb von 15 Tagen informieren. Bei unmittelbaren Risiken für Leben oder schwere Verletzungen muss die Meldung innerhalb von 24 Stunden erfolgen.
Whistleblower-Schutz
Das Gesetz etabliert starken Schutz für Whistleblower, prohibiert Vergeltungsmaßnahmen und erfordert die Einrichtung anonymer Meldekanäle.
CalCompute-Konsortium
Der TFAIA sieht die Gründung eines Konsortiums vor, das einen staatlich unterstützten Cloud-Computing-Cluster namens CalCompute entwerfen soll, um fortschrittliche Rechenkapazitäten für sichere und gerechte KI-Innovation bereitzustellen.
Aktualisierungen des Gesetzes
Das Gesetz erkennt an, dass sich die KI-Technologie ständig weiterentwickelt und wird daher jährlich überprüft, um sicherzustellen, dass die Definitionen von Frontier-Modell und großen Frontier-Entwicklern aktuell bleiben.
Ausblick auf die KI-Sicherheitsregulierung
Weitere KI-spezifische Gesetze werden in Kalifornien in den Jahren 2025 und 2026 in Kraft treten, darunter Transparenzanforderungen, die Entwickler zur Offenlegung von Trainingsdaten und das Einbetten unsichtbarer Wasserzeichen in KI-generierte Inhalte verpflichten.
