OpenAI bestreitet Vorwurf der Verletzung des neuen KI-Sicherheitsgesetzes in Kalifornien
OpenAI wird vorgeworfen, mit der Veröffentlichung seines neuesten Codierungsmodells gegen das neue KI-Sicherheitsgesetz in Kalifornien verstoßen zu haben. Ein solcher Verstoß könnte das Unternehmen potenziell Millionen von Dollar an Geldstrafen kosten und einen wegweisenden Test der Bestimmungen des neuen Gesetzes darstellen.
Ein Sprecher von OpenAI wies die Position der Aufsichtsgruppe zurück und erklärte, das Unternehmen sei „zuversichtlich in unsere Einhaltung der Sicherheitsgesetze“. Der Streitpunkt dreht sich um GPT-5.3-Codex, das neueste Codierungsmodell von OpenAI, das letzte Woche veröffentlicht wurde. Dieses Modell ist Teil der Bemühungen von OpenAI, seine Führungsposition im Bereich der KI-gestützten Codierung zurückzugewinnen, und zeigt laut veröffentlichten Benchmark-Daten eine deutlich höhere Leistung bei Codierungsaufgaben als frühere Modelle.
Cybersecurity-Bedenken
Das Modell hat jedoch auch beispiellose Cybersecurity-Bedenken aufgeworfen. Der CEO des Unternehmens erklärte, dass das Modell als das erste in die Kategorie „hohes Risiko“ für Cybersecurity eingestuft wurde. Dies bedeutet, dass OpenAI das Modell als fähig genug klassifiziert, um potenziell erheblichen cybertechnischen Schaden zu verursachen, insbesondere wenn es automatisiert oder in großem Maßstab verwendet wird.
Die Midas Project-Gruppe behauptet, dass OpenAI seine eigenen Sicherheitsverpflichtungen nicht eingehalten hat, die nun gesetzlich bindend sind. Das kalifornische Gesetz SB 53, das im Januar in Kraft trat, verlangt von großen KI-Unternehmen, ihre eigenen Sicherheitsrahmen zu veröffentlichen und einzuhalten, um katastrophale Risiken zu verhindern.
Interpretation der Sicherheitsrichtlinien
OpenAI erklärt, dass die Interpretation des Midas Project bezüglich der Formulierungen in seinem Sicherheitsrahmen falsch sei. Das Unternehmen gibt an, dass zusätzliche Sicherheitsmaßnahmen nur erforderlich sind, wenn ein hohes Cyberrisiko „in Verbindung mit“ langfristiger Autonomie auftritt. OpenAI glaubt, dass GPT-5.3-Codex diese Autonomie nicht besitzt, weshalb die Sicherheitsmaßnahmen nicht erforderlich waren.
Einige Sicherheitsforscher haben jedoch OpenAIs Interpretation angezweifelt und argumentieren, dass die Kriterien klar seien. Das Midas Project argumentiert, dass OpenAI nicht eindeutig beweisen kann, dass das Modell nicht die erforderliche Autonomie für zusätzliche Maßnahmen aufweist. Sollte eine Untersuchung eröffnet werden und sich die Vorwürfe als zutreffend erweisen, erlaubt SB 53 erhebliche Strafen, die potenziell in die Millionen gehen könnten.
Fazit
Die potenziellen rechtlichen Konsequenzen für OpenAI könnten erheblich sein, insbesondere wenn sich die Vorwürfe als wahr herausstellen. Das Unternehmen muss sicherstellen, dass es transparent und ehrlich über seine Sicherheitsmaßnahmen kommuniziert, um künftige Konflikte zu vermeiden und den neuen gesetzlichen Anforderungen gerecht zu werden.
