Una nuova legge statale mira a promuovere standard di sicurezza per l’IA
Con l’aumento delle preoccupazioni riguardo ai potenziali pericoli dei sistemi di intelligenza artificiale, si prevede che la California intervenga per incentivare la creazione di standard di sicurezza. Recentemente, il Senato statale ha approvato un progetto di legge volto a creare una nuova commissione che avrà l’autorità di riconoscere ufficialmente organizzazioni terze private che sviluppano standard di sicurezza e utilizzarli per valutare modelli specifici di IA.
Il ruolo della commissione
La commissione avrà il compito di valutare e consigliare le agenzie e i funzionari statali riguardo agli standard sviluppati da queste organizzazioni. Secondo il legislatore, esiste la necessità di legislazione e regolamenti per garantire la sicurezza dell’IA e stabilire misure di protezione. Tuttavia, la creazione di norme governative tende a essere lenta e potrebbe non tenere il passo con il rapido sviluppo dell’IA.
Standard di valutazione
Il progetto di legge non stabilirà standard specifici né creerà un’organizzazione per la definizione degli standard. Piuttosto, istituirà la Commissione per gli Standard e la Sicurezza dell’IA, con il compito di supervisionare le organizzazioni che sviluppano e applicano standard per l’IA. Le organizzazioni terze dovranno presentare un piano che descriva come intendono valutare i rischi per la sicurezza dei modelli di IA e garantire che i loro sviluppatori seguano le migliori pratiche.
Le organizzazioni dovranno anche stabilire protocolli per monitorare i modelli di IA dopo la valutazione iniziale, assicurandosi che eventuali modifiche non introducano nuovi rischi e che gli sviluppatori rispettino gli impegni presi.
Implicazioni e rischi
Il sistema di standardizzazione creato dal progetto di legge sarà volontario. Gli sviluppatori non saranno obbligati a far valutare i loro modelli, ma il riconoscimento da parte della commissione fungerà da incentivo per le aziende, offrendo un “marchio di approvazione” che potrebbe aiutare nella competizione di mercato.
Il legislatore ha sottolineato che è chiaro che è necessario fare qualcosa per stabilire standard di sicurezza per l’IA, dato che il pubblico chiederà sempre più misure di protezione. Tuttavia, è emerso che l’industria privata potrebbe non essere motivata quanto necessario riguardo alla questione della sicurezza.
Conclusione
Il progetto di legge rappresenta un tentativo significativo di affrontare i rischi associati all’intelligenza artificiale e di stabilire un quadro di riferimento per la sicurezza. Mentre l’approvazione finale rimane incerta, l’idea di un approccio basato su organizzazioni indipendenti per la definizione e l’applicazione degli standard potrebbe delineare un nuovo percorso per garantire la sicurezza nell’era dell’IA.
