Kaliforniens neues KI-Gesetz: Die tatsächlichen Compliance-Probleme
Frontier-KI-Unternehmen haben im letzten Jahrzehnt mit sehr wenigen Richtlinien in vollem Tempo gearbeitet. Obwohl lange Regulierungen gemunkelt wurden, sind diese nur langsam eingetroffen, was eine Atmosphäre geschaffen hat, in der Compliance ein Versprechen ist, das Entwickler nie einhalten mussten.
Ein neues kalifornisches Gesetz, das am 29. September 2025 von der Regierung unterzeichnet wurde, räumt mit den Gerüchten auf und zeigt den Entwicklern der Frontier-Technologien, nach welchen Regeln sie künftig spielen müssen. Das Gesetz zur Transparenz in der Frontier-Künstlichen Intelligenz (TFAIA) legt einen regulatorischen Rahmen fest, der laut Büro des Gouverneurs „das Vertrauen der Öffentlichkeit stärken und gleichzeitig Innovationen in diesen neuen Technologien fördern“ soll. Selbst Unternehmen, die nie selbst Modelle trainieren, werden die Auswirkungen spüren, da die Anbieter, auf die sie angewiesen sind, nun denselben Standards unterliegen.
Ein Kurswechsel für Frontier-Entwickler
Frühere Bedenken hinsichtlich der KI-Compliance konzentrierten sich hauptsächlich auf Anwendungsfälle. Gesetzgeber fokussierten sich darauf, wie KI angewendet wird und wo sie potenziell Schaden anrichten könnte. Das TFAIA ändert den Kurs und richtet die Kontrollen nicht auf die Verwendung, sondern auf die Fähigkeit. Die Hauptsorge des Gesetzes ist nicht, wo KI eingesetzt wird, sondern wie viel Power sie einer Anwendung verleiht. Die Berechnungsgrenze, die die Rechenleistung identifiziert, die zur Schulung eines KI-Modells verwendet wird, steht im Mittelpunkt.
Entwickler, deren Modelle die angegebene Berechnungsgrenze überschreiten — die unter TFAIA auf mehr als 1026 Ganzzahl- oder Fließkommaoperationen (FLOPs) festgelegt ist — müssen Rahmenbedingungen annehmen, die darauf ausgelegt sind, Systeme zu schützen, die katastrophalen Schaden verursachen könnten. Diese Rahmenbedingungen müssen entwickelt, implementiert und öffentlich gemacht werden, um die Schritte zu zeigen, die Unternehmen unternehmen, um die Risiken ihrer Modelle zu verwalten und zu mindern.
Ein Aufruf zur Operationalisierung von KI-ethischen Standards
Vor einem Jahrzehnt, als Künstliche Intelligenz eine mächtige Idee war, die eines Tages zum Mainstream werden könnte, gab es viele Diskussionen über ethische Standards für KI. Doch als KI zur Realität wurde, in allem von sozialen Medien bis hin zu selbstfahrenden Autos, wurde das Thema Ethik von Sicherheitsfragen überlagert.
Das TFAIA signalisiert, dass es an der Zeit ist, die Diskussion über Ethik zurückzuführen, fordert jedoch mehr als nur Gespräche. Die Anforderungen des Gesetzes erfordern letztlich eine Operationalisierung von KI-ethischen Standards.
Eine compliant-by-design-Kultur gestalten
Die Erwartungen an Frontier-Entwickler, Ethik über Effizienz zu stellen, sind hoch. Die effektive Governance unter dem neuen Gesetz erfordert mehr als nur politische Memos. Das TFAIA besagt, dass jeder kalifornische Frontier-Entwickler ein Frontier-KI-Rahmenwerk erstellen, umsetzen, einhalten und klar auf seiner Website veröffentlichen muss, das erklärt, wie er die Bedrohung durch katastrophale Risiken bestimmt und sich davor schützt.
Wenn trotz präventiver Maßnahmen Probleme auftreten, verlangt das TFAIA von den Entwicklern, diese zu melden. Wer einen „kritischen Sicherheitsvorfall“ erlebt, der reale Schäden durch unbefugten Zugriff auf KI-Modelle umfasst, muss Kaliforniens Notfallmanagementbüro informieren. Die Nichteinhaltung bringt zivilrechtliche Strafen mit sich, und Whistleblower sind durch das Gesetz geschützt.
Die sicherste Möglichkeit für Entwickler, compliant zu bleiben, besteht darin, ethische Standards in ihre Arbeitsabläufe zu integrieren. Eine compliant-by-design-Kultur beginnt damit, die Anforderungen des TFAIA als Betriebsanleitung für die KI-Entwicklung zu behandeln, die allen Teams klar kommuniziert, welche Rolle sie spielen.
Das TFAIA bringt ethische Standards in den Mittelpunkt des Marktes und verlangt von Frontier-Entwicklern, Verantwortung für die Macht zu übernehmen, die sie erschaffen, indem sie Kulturen schaffen, die sich genauso stark für Rechenschaftspflicht wie für Innovation einsetzen.
