Gesetze zur KI-Sicherheit in den Bundesstaaten Kalifornien und New York
KPMG Regulatory Insights
Die bahnbrechende Konvergenz: Obwohl Kaliforniens TFAIA das erste landesweite Gesetz war, das potenziell katastrophale Risiken durch KI adressiert, hat der Gouverneur von New York die meisten Bestimmungen Kaliforniens übernommen, um einen einheitlichen Maßstab zwischen den Bundesstaaten zu schaffen.
Große Entwickler und Modelle: Derzeit erfüllen nur wenige Unternehmen und Modelle die Anforderungen an Umsatz und Rechenleistung; diese Anforderungen werden jährlich evaluiert und können basierend auf technologischen Entwicklungen oder Standards angepasst werden.
Unklare Zukunft: Einige Bundesstaaten könnten mit ihren KI-Gesetzen gegen die Executive Order 14365 herausgefordert oder darin bestärkt werden; es ist unklar, ob die Möglichkeit, sich auf Bundesgesetze oder -richtlinien zu berufen, einige oder alle dieser Risiken mindern kann.
Einführung
Ende 2025 erließen Kalifornien und New York Gesetze, die den sicheren Einsatz großer Frontier-KI-Modelle fördern sollen. Diese Gesetze zielen darauf ab, katastrophale Risiken dieser leistungsstarken Modelle zu mindern, indem sie Entwickler verpflichten, Informationen über ihre Sicherheitsprotokolle, einschließlich Risikobewertungen, zu veröffentlichen und kritische Sicherheitsvorfälle dem Staat zu melden.
Wesentliche Bestimmungen und Vergleich der Gesetze
- Kernanforderung: Ein dokumentiertes technisches und organisatorisches Protokoll zur Verwaltung, Bewertung und Minderung katastrophaler Risiken.
- Modelle: Umfasst Modelle, die mit mehr als 1026 Operationen trainiert wurden.
- Entwickler: Ein „Frontier-Entwickler“ ist eine Person, die ein Frontier-Modell trainiert hat.
- Risiko: Katastrophales Risiko, das zu einem erheblichen Vorfall führen kann.
- Meldefrist für Vorfälle: Kalifornien verlangt die Berichterstattung über kritische Sicherheitsvorfälle innerhalb von 15 Tagen, New York innerhalb von 72 Stunden.
- Öffentliche Offenlegung: Ein vollständiger „Frontier AI Framework“ muss veröffentlicht werden.
- Wesentliche Strafen: Bis zu 1 Million US-Dollar pro Verstoß in Kalifornien; bis zu 3 Millionen US-Dollar für wiederholte Verstöße in New York.
Schlussfolgerung
Die neuen Gesetze in Kalifornien und New York markieren bedeutende Schritte zur Regulierung der KI-Sicherheit, indem sie Entwickler dazu verpflichten, Transparenz zu schaffen und Risiken aktiv zu managen. Diese rechtlichen Rahmenbedingungen sind entscheidend, um sicherzustellen, dass KI-Technologien verantwortungsbewusst entwickelt und eingesetzt werden.
