Kaliforniens wegweisendes KI-Gesetz fordert Transparenz von führenden KI-Entwicklern
Am 29. September 2025 unterzeichnete Gouverneur Gavin Newsom das Gesetzesentwurf Senate Bill 53, auch bekannt als das Transparency in Frontier Artificial Intelligence Act (TFAIA). Dieses bahnbrechende Gesetz stellt die bedeutendste Regulierung von KI-Entwicklern in Kalifornien bis heute dar.
Kalifornien ist der erste Bundesstaat der USA, der von großen KI-Entwicklern verlangt, öffentlich ein Sicherheitsrahmenwerk offenzulegen, das allgemein akzeptierte Sicherheitsstandards berücksichtigt und beschreibt, inwieweit ein Modell „katastrophale Risiken“ darstellen und mindern kann. Das Gesetz zwingt Modellentwickler zudem, zum ersten Mal Transparenzberichte über die beabsichtigten Verwendungen und Einschränkungen eines Modells zu veröffentlichen und verpflichtet große Entwickler, ihre Bewertungen der katastrophalen Risiken eines Modells zusammenzufassen. Darüber hinaus schreibt das TFAIA vor, dass Entwickler der Regierung „kritische Sicherheitsvorfälle“ melden müssen und bietet Whistleblower-Schutz für Mitarbeiter von Modellentwicklern.
TFAIA und seine Anwendung
Das TFAIA richtet sich an eine kleine, aber wachsende Anzahl von Unternehmen. Das Gesetz gilt für „Frontier-Entwickler“ – Unternehmen, die ein „Frontier-Modell“ trainiert haben oder gerade trainieren. Es werden zusätzliche Anforderungen an „große Frontier-Entwickler“ gestellt, die über einen Jahresumsatz von mehr als 500 Millionen US-Dollar im Vorjahr verfügen. Ein „Frontier-Modell“ wird durch die Menge an Rechenleistung definiert, die zum Training, Verfeinern oder Modifizieren des Modells verwendet wurde, nämlich „eine Menge an Rechenleistung, die größer ist als 10^26 Ganzzahl- oder Fließkommaoperationen (FLOP)“.
Es ist wichtig zu beachten, dass derzeit nur wenige Modelle die hohen technischen Anforderungen für ein „Frontier-Modell“ erfüllen, aber die Trends deuten darauf hin, dass in naher Zukunft viele weitere hinzukommen werden. Laut einer Analyse könnte es bis Anfang 2027 „etwa 30 solcher Modelle“ geben, die über 10^26 FLOP nutzen, und bis Anfang 2030 über 200 Modelle.
Erforderliche Offenlegungen für Frontier-Entwickler
Das TFAIA legt bedeutende regulatorische Anforderungen an Frontier-Entwickler und große Frontier-Entwickler fest, indem es Transparenz in mehreren Bereichen vorschreibt:
- Die Einrichtung von Whistleblower-Schutz für Mitarbeiter, die für Frontier-Entwickler arbeiten.
- Die Förderung der Schaffung einer öffentlichen Cloud-Computing-Infrastruktur zur Unterstützung der KI-Forschung.
Ein Modell für andere Bundesstaaten
Kalifornien könnte als Modell für andere Bundesstaaten und Jurisdiktionen dienen, die KI-Entwickler regulieren. In New York wartet ein Gesetz auf die Unterschrift von Gouverneurin Kathy Hochul, das Responsible AI Safety and Education (RAISE) Act, das Entwickler von Frontier-KI-Modellen verpflichtet, Sicherheitsprotokolle zu erstellen und bedeutende Sicherheitsvorfälle an den Staat zu melden. Darüber hinaus haben andere Bundesstaaten spezifische KI-Gesetze erlassen, die die Nutzung von KI in bestimmten Bereichen regulieren.
Das TFAIA stellt eine abgeschwächte Version eines KI-Sicherheitsgesetzes dar, das Gouverneur Newsom im Jahr 2024 ablehnte. Die derzeitigen Anforderungen an Transparenz und Whistleblower-Schutz könnten als Vorbild für andere Staaten dienen, die versuchen, KI-bezogene Gesetze schnell zu erlassen.
Nächste Schritte
Frontier-Entwickler und große Frontier-Entwickler sollten das TFAIA überprüfen und rechtlichen Rat einholen, um die Auswirkungen des Gesetzes auf ihre Geschäftstätigkeiten zu bewerten. Es könnte sinnvoll sein, die aktuellen Transparenzpraktiken zu beurteilen, Rahmenwerke für Frontier-KI zu entwerfen und Transparenzberichte zu erstellen, wo dies angebracht ist, sowie kritische Sicherheitsvorfälle zu melden und katastrophale Risiken zu bewerten.
