Perché la California ha nuovamente rinviato un’ambiziosa regolamentazione sull’IA
Un disegno di legge che richiede la divulgazione e il diritto di appello per un’ampia gamma di decisioni dell’IA è stato rinviato fino all’anno prossimo per la terza sessione legislativa consecutiva. Il Governatore Gavin Newsom è previsto consultare sulla misura.
Dopo tre anni di tentativi di garantire ai californiani il diritto di sapere quando l’IA sta prendendo una decisione importante sulla loro vita e di fare appello quando le cose vanno male, l’Assemblea Rebecca Bauer-Kahan ha annunciato venerdì che il Disegno di Legge dell’Assemblea 1018, che ha superato l’Assemblea e due comitati del Senato, è stato designato come un disegno di legge biennale. Ciò significa che potrà tornare come parte della sessione legislativa dell’anno prossimo.
Il disegno di legge richiederebbe a imprese e agenzie governative di avvisare gli individui quando vengono utilizzati sistemi automatizzati per prendere decisioni importanti, inclusi affitti di appartamenti, ammissioni scolastiche e, nel luogo di lavoro, assunzioni, licenziamenti, promozioni e azioni disciplinari. Le decisioni riguardano anche l’istruzione, la salute, la giustizia penale, i benefici governativi, i servizi finanziari e le assicurazioni.
Le conseguenze delle decisioni automatizzate
I sistemi automatizzati che assegnano punteggi o fanno raccomandazioni possono impedire ai californiani di ricevere benefici di disoccupazione a cui hanno diritto, dichiarare i candidati al lavoro meno qualificati per ragioni arbitrarie che non hanno nulla a che fare con le prestazioni lavorative o negare assistenza sanitaria o un mutuo a causa della loro razza.
“Questa pausa riflette il nostro impegno a fare le cose per bene, non un ritiro dalla nostra responsabilità di proteggere i californiani”, ha dichiarato Bauer-Kahan in un comunicato.
Il contesto della legislazione sull’IA in California
La California ha proposto 30 nuove misure per controllare l’IA, ma il rinvio del disegno di legge è avvenuto in un momento in cui i politici a Washington D.C. continuano a opporsi alla regolamentazione dell’IA, sostenendo che potrebbe ostacolare i progressi. Nel luglio 2025, il Presidente Donald Trump ha rilasciato un “Piano d’Azione per l’IA” che chiede la deregolamentazione della tecnologia a livello federale e statale.
Quando un sistema automatizzato commette un errore, l’AB 1018 darebbe alle persone il diritto di far correggere l’errore entro 30 giorni. Riafferma inoltre che gli algoritmi devono fornire “accommodamenti completi ed equi” a tutti e non possono discriminare le persone in base a caratteristiche come età, razza, genere, disabilità o stato di immigrazione.
Le opposizioni e le sfide del disegno di legge
Il disegno di legge ha affrontato l’opposizione di gruppi industriali, grandi aziende tecnologiche, l’ente sanitario più grande dello stato, società di capitale di rischio e il Consiglio giudiziario della California. Una coalizione di ospedali, Kaiser Permanente e la società di software sanitario ed IA Epic Systems ha esortato i legislatori a votare contro l’AB 1018, sostenendo che avrebbe influenzato negativamente l’assistenza ai pazienti, aumentato i costi e richiesto agli sviluppatori di contrattare con auditor di terze parti per valutare la conformità entro il 2030.
Il Consiglio giudiziario ha stimato che l’approvazione dell’AB 1018 potrebbe costare allo stato fino a 300 milioni di dollari all’anno.
Le prospettive future
Il supporto per il disegno di legge proviene da sindacati e gruppi come la Citizen’s Privacy Coalition, Consumer Reports e la Consumer Federation of California. I coautori dell’AB 1018 includono importanti sostenitori della regolamentazione dell’IA nel Legislativo della California.
La questione della discriminazione è cruciale, poiché le aziende tecnologiche e i loro clienti spesso si considerano esenti dalle leggi sulla discriminazione se la discriminazione viene effettuata da sistemi automatizzati.
È evidente che la lotta per la regolamentazione dell’IA in California non è finita. La speranza è che l’AB 1018 possa finalmente vedere la luce nel prossimo ciclo legislativo.
