Quali sono le principali considerazioni nell’approccio predominante a livello statale per governare l’IA nel processo decisionale consequenziale?
In tutti gli Stati Uniti, i legislatori statali si stanno concentrando sempre più sulla regolamentazione dell’IA utilizzata nelle “decisioni consequenziali”, ovvero quelle che hanno un impatto significativo sui mezzi di sussistenza e sulle opportunità di vita degli individui. Questo approccio è progettato per promuovere l’equità, la trasparenza, la supervisione e la responsabilità, in particolare nelle aree tradizionalmente coperte dalle leggi sui diritti civili come l’istruzione, l’alloggio, i servizi finanziari, l’assistenza sanitaria e l’occupazione. Il panorama normativo è complesso, ma le principali considerazioni definiscono questo approccio predominante.
Definizione dell’ambito
I legislatori spesso seguono un quadro di riferimento in cinque parti per definire l’ambito dei “sistemi di IA ad alto rischio” o degli “strumenti decisionali automatizzati”:
- Definizione di IA: La maggior parte degli stati si allinea alla definizione dell’OCSE: un sistema di IA deduce dagli input per generare output come previsioni, contenuti o decisioni che influenzano ambienti fisici o virtuali.
- Contesto rilevante: La regolamentazione si concentra principalmente sui settori protetti dalle leggi sui diritti civili, in cui l’IA ha un impatto sull’istruzione, l’occupazione, l’alloggio, la finanza, i servizi governativi essenziali, l’assistenza sanitaria, le assicurazioni e i servizi legali. Alcune proposte, come l’AB 2930 della California, sono più prescrittive e includono servizi di pubblica utilità essenziali, giustizia penale, servizi di adozione, servizi riproduttivi e voto.
- Impatto e ruolo dell’IA: Questa è l’area più dibattuta. I legislatori considerano termini come “facilitare il processo decisionale” (soglia più bassa), “fattore sostanziale” (mediana) e “fattore di controllo” (più alta). La questione centrale è bilanciare l’ampiezza normativa con la chiarezza operativa per gli innovatori.
- Entità regolamentate: L’approccio distingue tipicamente tra sviluppatori (coloro che costruiscono sistemi di IA) e implementatori (coloro che li utilizzano), assegnando obblighi specifici per ruolo per la trasparenza, le valutazioni del rischio e la governance.
- Eccezioni comuni: Spesso esistono eccezioni per tecnologie specifiche (calcolatrici, database, ecc.), settori già disciplinati dalle leggi esistenti, piccole imprese e attività di interesse pubblico.
Affrontare la discriminazione algoritmica
Mitigare la discriminazione algoritmica nei confronti delle classi protette è un obiettivo primario. La maggior parte delle proposte la definisce come un trattamento differenziale ingiustificato basato sulla classe protetta. Alcuni quadri legislativi stabiliscono un divieto generale contro la discriminazione algoritmica, mentre altri quadri come in Colorado creano un dovere di diligenza per prevenire la discriminazione algoritmica. Le interazioni tra le nuove leggi e le leggi sui diritti civili esistenti non sono attualmente chiare, il che porta a confusione e incertezza. Inoltre, esiste una disparità tra le opinioni dei consumatori e dei rappresentanti del settore, in cui i consumatori cercano una maggiore protezione, mentre le industrie richiedono meno vincoli.
Obblighi per sviluppatori e implementatori
Gli obblighi comuni sia per gli sviluppatori che per gli implementatori ruotano attorno a:
- Trasparenza: Ciò include avvisi agli individui sull’uso dell’IA, misure di trasparenza pubblica e documentazione condivisa tra sviluppatori e implementatori.
- Valutazioni: Esistono differenze sostanziali tra il test dei sistemi di intelligenza artificiale per valutare gli aspetti tecnici in base a determinate metriche come l’accuratezza e l’affidabilità per la distorsione basata su caratteristiche protette e le valutazioni o valutazioni dell’impatto dell’IA che valutano e documentano se e in che misura un sistema di intelligenza artificiale pone un rischio di discriminazione per gli individui.
- Programmi di governance dell’IA: Sono necessari quadri strutturati per supervisionare e gestire lo sviluppo e l’implementazione dell’IA in modo responsabile.
Diritti dei consumatori
I quadri stabiliscono diritti per gli individui colpiti dai sistemi di IA, tra cui:
- Diritto all’avviso e alla spiegazione: Gli individui devono essere informati sull’uso dell’IA e sul suo impatto.
- Diritto di rettifica: Opportunità di correggere informazioni inesatte utilizzate nel processo decisionale.
- Diritto di rinuncia o appello: Possibilità di rinunciare alle decisioni automatizzate o di appellarsi per una revisione umana.
Applicazione
L’applicazione è in genere gestita dall’ufficio del procuratore generale dello stato. Gli strumenti normativi includono la segnalazione affermativa e la produzione di documenti, insieme a meccanismi di applicazione come i diritti di correzione e le presunzioni confutabili di conformità. Attualmente, la maggior parte dei legislatori statali è stata riluttante a includere un diritto privato di azione nelle leggi sull’IA e sulla privacy dei dati, a causa del potenziale onere legale.
In che modo gli approcci specifici per tecnologia alla regolamentazione dell’IA affrontano sfide uniche, considerando esempi di IA generativa e modelli di frontiera?
Mentre molti stati degli Stati Uniti stanno adottando un approccio basato sul rischio alla regolamentazione dell’IA, alcuni legislatori stanno perseguendo regole specifiche per tecnologia. Queste si concentrano sui rischi unici associati a determinati tipi di IA, in particolare l’IA generativa e i modelli di frontiera.
IA Generativa: Trasparenza e Informazioni
Le normative per l’IA generativa mirano principalmente ad aumentare la trasparenza. Ciò comporta:
- Avvisi ai Consumatori: Informare gli utenti quando interagiscono con i sistemi di IA generativa. Un buon esempio di questo è l’SB 149 dello Utah, che richiede alle entità di divulgare quando un individuo sta interagendo con l’IA generativa.
- Etichettatura dei Contenuti: Contrassegnare chiaramente i contenuti come sintetici o generati dall’IA.
- Filigrana: Implementare filigrane per identificare i contenuti creati dall’IA.
- Strumenti di Rilevamento dell’IA: Come nella SB 942 della California, fornire strumenti per verificare se il contenuto è stato generato o modificato dall’IA.
- Divulgazione della Documentazione: La AB 2013 della California impone agli sviluppatori di IA generativa di divulgare pubblicamente i dati utilizzati per addestrare i loro sistemi.
Modelli di Frontiera: Sicurezza e Supervisione
Le normative per l’IA di frontiera o i Modelli di Fondazione (grandi modelli di IA che possono essere utilizzati in un’ampia varietà di casi d’uso e applicazioni, a volte indicati come “IA per scopi generali”) affrontano i rischi derivanti dalla loro scala e potenza. Le aree chiave in esame includono:
- Protocolli di Sicurezza: Richiedere agli sviluppatori di avere protocolli di sicurezza documentati. Un esempio viene dalla proposta di legge californiana del 2024, SB 1047.
- Capacità di Arresto: Garantire la capacità di spegnere tempestivamente i modelli se necessario. La SB 1047 approvata dalla legislatura è un esempio di questo.
Sfide nella Regolamentazione dei Modelli di Frontiera/Fondazione
La regolamentazione di tali modelli pone sfide uniche:
- Complessità e Scala: Le complessità di questi modelli rendono difficile stabilire standard efficaci.
- Potenza di Calcolo come Soglia: Alcune proposte utilizzano la potenza di calcolo (ad esempio, FLOP) come restrizione predefinita. I critici sostengono che questa misurazione non è sempre un indicatore di rischio affidabile. Sostengono che ci sia troppa attenzione sui rischi speculativi rispetto ai rischi evidenti, come il bias algoritmico.
- Impatto sull’Open Source: I requisiti imposti agli sviluppatori potrebbero limitare la disponibilità e la modifica dei modelli open source. Rispondendo alle preoccupazioni sull’impatto sull’open source, la SB 1047 della California ha ricevuto emendamenti per escludere i modelli creati mediante la messa a punto di un modello coperto, utilizzando un costo di calcolo inferiore a dieci milioni di dollari.
Quali obblighi e diritti specifici relativi ai sistemi di IA sono tipicamente stabiliti per sviluppatori, implementatori e consumatori, e come vengono fatti rispettare?
La legislazione statale sull’IA si sta concentrando sempre più sulla definizione di diritti e obblighi specifici per sviluppatori, implementatori e consumatori al fine di garantire equità, trasparenza e responsabilità. Analizziamo cosa comporta tipicamente ciascun ruolo.
Obblighi per gli sviluppatori
Gli sviluppatori, che costruiscono sistemi di IA, devono adempiere a obblighi relativi a:
- Trasparenza e documentazione: Fornire una documentazione completa sulla funzionalità del sistema di IA, sullo scopo previsto e sui potenziali rischi. Ciò include spesso la divulgazione di informazioni sui dati utilizzati per addestrare il modello.
- Valutazione del rischio: Testare i sistemi per individuare vulnerabilità di pregiudizio e discriminazione e fornire queste informazioni agli implementatori.
- Diligenza ragionevole: Negli stati con un modello normativo di obbligo di diligenza, gli sviluppatori si assumono la responsabilità di “diligenza ragionevole” per proteggere i consumatori dalla discriminazione algoritmica.
Obblighi per gli implementatori
Gli implementatori, che utilizzano i sistemi di IA, sono generalmente responsabili di:
- Trasparenza e avviso: Informare gli individui quando e come un sistema di IA viene utilizzato per prendere decisioni conseguenziali che li riguardano.
- Programmi di governance dell’IA: Implementare programmi strutturati e politiche di gestione del rischio per supervisionare l’utilizzo dell’IA. Questi programmi spesso richiedono specifiche riguardanti la mitigazione del rischio e aggiornamenti iterativi.
- Monitoraggio post-implementazione: Monitorare continuamente i sistemi di IA per individuare pregiudizi, accuratezza e rischi di discriminazione.
- Fornire diritti individuali: Onorare i diritti dei consumatori (dettagliati di seguito), che spesso includono la correzione di informazioni inaccurate utilizzate nel processo decisionale.
Diritti dei consumatori
Ai consumatori vengono concessi nuovi diritti ai sensi della legislazione sull’IA proposta:
- Diritto all’avviso e alla spiegazione: Ricevere informazioni chiare e accessibili sull’uso dell’IA nei processi decisionali. Ciò include la comprensione dello scopo del sistema e del suo funzionamento.
- Diritto di rettifica: Correggere i dati personali errati utilizzati da un sistema di IA, in particolare se è stata presa una decisione sfavorevole.
- Diritto di ricorso o di esclusione: Alcune legislazioni prevedono il diritto di presentare ricorso contro una decisione guidata dall’IA per la revisione umana o di rinunciare completamente al processo decisionale automatizzato.
Meccanismi di applicazione
L’applicazione è tipicamente gestita dal Procuratore Generale dello Stato. I meccanismi comuni includono:
- Segnalazione affermativa: Sviluppatori che divulgano potenziali rischi associati ai sistemi di IA.
- Produzione di documenti: Richiedere a sviluppatori e implementatori di mantenere e produrre documentazione.
- Diritto di rimedio: Concedere alle organizzazioni l’opportunità di correggere le violazioni entro un intervallo di tempo specifico.
- Presunzione confutabile: Fornire una “presunzione confutabile” di conformità se le aziende rispettano i requisiti normativi.
- Difesa affermativa: Fornire difese contro l’azione se gli sviluppatori risolvono eventuali violazioni entro 30 giorni e sono conformi ai framework di gestione del rischio riconosciuti.
Vale la pena notare che i legislatori statali sono riluttanti a includere un diritto di azione privato nella legislazione sull’IA, perché ciò potrebbe potenzialmente portare a un contenzioso eccessivo.
