Nuova legge della California richiederà trasparenza e misure di divulgazione sull’IA
Il 19 settembre 2024, il governatore della California, Gavin Newsom, ha firmato la legge California AI Transparency Act, che richiederà ai fornitori di sistemi di intelligenza artificiale generativa (IA) di:
- rendere disponibile uno strumento di rilevamento dell’IA;
- offrire agli utenti dell’IA l’opzione di includere una divulgazione manifest che indichi che il contenuto è generato dall’IA;
- includere una divulgazione latente nel contenuto generato dall’IA;
- stipulare un contratto con i licenziatari che richieda loro di mantenere la capacità del sistema di IA di includere tale divulgazione latente nel contenuto creato o alterato dal sistema.
La legge entrerà in vigore il 1 gennaio 2026 ed è la legge più completa e specifica sulla marcatura dell’IA negli Stati Uniti.
Definizioni chiave
Le disposizioni della legge si applicano ai “fornitori coperti”, definiti come “una persona che crea, codifica o produce un sistema di intelligenza artificiale generativa che ha oltre 1.000.000 di visitatori o utenti mensili e è accessibile pubblicamente” all’interno della California.
Inoltre, un “sistema di intelligenza artificiale generativa” è definito come:
Un’intelligenza artificiale che può generare contenuti sintetici derivati, inclusi testo, immagini, video e audio, che emulano la struttura e le caratteristiche dei dati di addestramento del sistema.
La legge definisce anche “intelligenza artificiale” come:
Un sistema ingegnerizzato o basato su macchine che varia nel suo livello di autonomia e che può, per obiettivi espliciti o impliciti, inferire dall’input ricevuto come generare output che possono influenzare ambienti fisici o virtuali.
I fornitori coperti saranno tenuti a conformarsi alla legge a partire dalla data in cui entrerà in vigore; ossia il 1 gennaio 2026.
Requisiti per i fornitori coperti
Le misure di trasparenza della legge richiederanno ai fornitori coperti di fare divulgazioni sull’uso dei sistemi di IA generativa. Prima di tutto, i fornitori coperti saranno tenuti a rendere disponibili — senza costi per l’utente — strumenti di rilevamento dell’IA che consentiranno agli utenti di valutare se il contenuto di immagini, video o audio è stato creato o alterato utilizzando un sistema di IA generativa.
Questi strumenti dovranno anche fornire dati di provenienza del sistema riguardo al contenuto, al fine di consentire agli utenti di verificare i dispositivi, i sistemi o i servizi utilizzati per generare tale contenuto e l’autenticità del contenuto.
Inoltre, i fornitori coperti saranno tenuti a fornire agli utenti sia divulgazioni latenti nel contenuto generato dall’IA sia un’opzione per includere una divulgazione manifest in tale contenuto. Le divulgazioni manifest — che identificano il contenuto come generato dall’IA in modo chiaro, evidente e permanente — saranno richieste.
Le divulgazioni latenti, invece, saranno presenti nei metadati del contenuto generato dall’IA e dovranno trasmettere (nella misura tecnicamente fattibile e ragionevole) il nome del fornitore coperto, il nome e il numero di versione del sistema di IA generativa, la data e l’ora della creazione o alterazione del contenuto e un identificativo unico.
Le divulgazioni latenti devono anche essere rilevabili dallo strumento di rilevamento dell’IA, in linea con standard industriali ampiamente accettati, e devono essere permanenti o estremamente difficili da rimuovere.
Infine, i fornitori coperti che concedono in licenza i loro sistemi di IA generativa a terzi dovranno garantire che i licenziatari mantengano tali requisiti di divulgazione. Se i fornitori coperti sanno che i licenziatari di terze parti non sono in grado di includere tali divulgazioni, saranno tenuti a revocare le loro licenze entro 96 ore.
La legge sarà applicata dal Procura Generale della California, da un avvocato cittadino o da un avvocato di contea, e prevede sanzioni civili di 5.000 dollari al giorno se un fornitore coperto viene trovato in violazione.
Considerazioni per le parti interessate
La California si unisce a Colorado, Utah e Illinois nel richiedere trasparenza riguardo all’uso dell’IA. Tuttavia, a differenza di quegli altri stati, la legge della California è la prima a creare requisiti specifici e completi relativi alla marcatura. Le aziende che sviluppano sistemi di IA generativa dovrebbero prestare attenzione a questi requisiti tecnici specifici mentre investono tempo e risorse nello sviluppo di tecnologie in ambito di questa legge. I licenziatari e i licenziatari di sistemi di IA coperti dovrebbero considerare di aggiornare i loro accordi per affrontare tali requisiti contrattuali.
