OpenAI contesta l’affermazione del watchdog sulla violazione della legge sulla sicurezza dell’IA in California
OpenAI potrebbe aver violato la nuova legge californiana sulla sicurezza dell’IA con il rilascio del suo ultimo modello di codifica, secondo le accuse di un gruppo di vigilanza sull’IA.
Una violazione potrebbe esporre l’azienda a multe milionarie e il caso potrebbe diventare un primo test stabile del nuovo provvedimento legislativo.
Un portavoce di OpenAI ha contestato la posizione del watchdog, affermando che l’azienda è “fiduciosa nella nostra conformità alle leggi di sicurezza all’avanguardia, incluso il SB 53”.
Il modello controverso: GPT-5.3-Codex
La controversia ruota attorno a GPT-5.3-Codex, il nuovo modello di codifica di OpenAI, rilasciato la scorsa settimana. Questo modello fa parte di uno sforzo dell’azienda per riconquistare la leadership nel settore della codifica supportata dall’IA e, secondo i dati di benchmark pubblicati, mostra performance nettamente superiori rispetto alle versioni precedenti e ai concorrenti.
Tuttavia, il modello ha sollevato preoccupazioni senza precedenti in materia di sicurezza informatica. Il CEO ha dichiarato che il modello è il primo a rientrare nella categoria di “alto” rischio per la sicurezza informatica nel sistema di classificazione dei rischi utilizzato dall’azienda. Ciò implica che OpenAI classifica il modello come sufficientemente capace da potenzialmente facilitare danni significativi, specialmente se utilizzato in modo automatizzato o su larga scala.
Le accuse del Midas Project
Il Midas Project afferma che OpenAI non ha rispettato i propri impegni di sicurezza, ora legalmente vincolanti ai sensi della legge californiana, con il lancio di questo modello ad alto rischio. Il SB 53, entrato in vigore a gennaio, richiede alle principali aziende di IA di pubblicare e attenersi ai propri quadri di sicurezza, dettagliando come impediranno rischi catastrofici.
Il quadro di sicurezza di OpenAI richiede misure speciali per i modelli con alto rischio informatico, progettate per prevenire comportamenti problematici. Tuttavia, il Midas Project sostiene che tali misure non sono state implementate prima del rilascio di GPT-5.3-Codex.
La risposta di OpenAI
OpenAI ha affermato che l’interpretazione del Midas Project è errata, ma ha anche riconosciuto che il linguaggio del proprio quadro è “ambiguo”. L’azienda ha cercato di chiarire l’intento di tale linguaggio nel rapporto di sicurezza rilasciato con il modello, dichiarando che le misure aggiuntive sono necessarie solo quando il rischio informatico si verifica “congiuntamente” a una certa autonomia a lungo termine.
Tuttavia, alcuni ricercatori di sicurezza contestano questa interpretazione, sostenendo che OpenAI sta evitando di ammettere di non aver seguito il proprio piano. Il Midas Project ha anche affermato che OpenAI non può dimostrare definitivamente che il modello manchi dell’autonomia richiesta per le misure aggiuntive.
Implicazioni e rischi
Se viene avviata un’indagine e le accuse si rivelano accurate, il SB 53 prevede sanzioni sostanziali per le violazioni, che potrebbero ammontare a milioni di dollari. Un rappresentante dell’ufficio del procuratore generale della California ha affermato che il dipartimento è “impegnato a far rispettare le leggi del nostro stato”, ma non ha potuto commentare eventuali indagini in corso.
Conclusioni
Questa situazione mette in evidenza le sfide e le responsabilità che le aziende di IA devono affrontare nel conformarsi a leggi emergenti sulla sicurezza. La questione della trasparenza e della responsabilità nel rilascio di modelli ad alto rischio è cruciale, non solo per la reputazione delle aziende, ma anche per la sicurezza pubblica.
