California Introduce un Nuovo Progetto di Legge Anti-Discriminazione per l’IA: Cosa Devono Sapere i Datori di Lavoro
Un nuovo progetto di legge proposto in California cerca di regolare gli strumenti di decisione automatizzati basati sull’intelligenza artificiale (IA) in ambito lavorativo e in altri settori chiave. Ma questa proposta avrà lo stesso destino degli sforzi legislativi falliti dello scorso anno?
Introdotto il 20 febbraio da un membro dell’assemblea, il Assembly Bill 1018 impone un rigoroso controllo sui sistemi di decisione automatizzati (ADS) per prevenire la discriminazione sul posto di lavoro e in altri ambiti. La legge stabilisce ampie obbligazioni per i sviluppatori e i distributori di IA, inclusi valutazioni delle prestazioni, audit di terze parti, requisiti di conservazione dei dati e trasparenza nelle decisioni automatiche che influenzano l’occupazione, la salute, l’abitazione e altri settori critici. Se approvata, l’AB 1018 rappresenterebbe il tentativo più completo della California di regolare il pregiudizio dell’IA, imponendo significativi oneri di conformità ai datori di lavoro che utilizzano strumenti di assunzione e gestione della forza lavoro basati sull’IA.
Aspetti Chiave della Proposta di Legge
L’AB 1018 introduce un robusto quadro normativo per gli strumenti di decisione basati sull’IA. Ecco i componenti più critici per i datori di lavoro:
1. Diritti di Opt-Out e Requisiti di Revisione Umana
I datori di lavoro devono offrire ai dipendenti e ai candidati la possibilità di rinunciare alle decisioni basate su ADS in alcuni casi e devono divulgare se è prevista una revisione umana prima di finalizzare una decisione automatica. La legge definisce ampiamente “ADS” come qualsiasi sistema basato su machine learning che assiste o sostituisce il processo decisionale umano e ha un impatto significativo sugli individui, comprese le decisioni relative all’occupazione.
2. Trasparenza e Diritti di Appello
I datori di lavoro devono fornire ai candidati e ai dipendenti informazioni sulle decisioni basate sull’IA, consentire loro di rinunciare in determinati casi e fornire un processo di appello per i risultati avversi.
3. Definizione Espansa di “Decisioni Conseguenti”
La legge copre non solo l’assunzione e il licenziamento, ma anche stipendi, benefici, programmazione, promozioni, valutazioni delle prestazioni, accesso alla formazione e decisioni sulla sicurezza sul lavoro, ampliando così gli obblighi di conformità per le funzioni HR che utilizzano l’IA.
4. Obblighi per i Datori di Lavoro che Modificano i Sistemi di IA
I datori di lavoro che ottimizzano uno strumento di IA al di fuori del suo ambito originale possono assumere responsabilità legali tipicamente assegnate agli sviluppatori di IA, aumentando i rischi di conformità per le aziende che personalizzano gli strumenti di IA.
5. Valutazioni delle Prestazioni Obbligatorie
Gli sviluppatori di IA devono condurre audit annuali e divulgare i potenziali impatti disparati dei loro sistemi.
6. Audit di Terze Parti per i Datori di Lavoro
Le aziende che utilizzano strumenti di IA nell’assunzione, nelle promozioni e nei licenziamenti devono sottoporsi ad audit indipendenti se i loro sistemi di IA influenzano 6.000 o più individui in tre anni.
7. Regole Severe di Gestione e Conservazione dei Dati
I datori di lavoro devono conservare la documentazione relativa all’IA non redatta per 10 anni, inclusi risultati di audit, valutazioni delle prestazioni e appelli dei dipendenti, con la non conformità che può portare a sanzioni.
8. Ufficiali di Conformità e Obblighi di Revisione Interna
Le aziende che distribuiscono strumenti decisionali basati sull’IA devono designare almeno un ufficiale di conformità responsabile della supervisione dell’aderenza alla legge e dell’indagine su eventuali reclami legati all’IA.
9. Vigilanza dell’Attorney General e Obblighi di Reporting
I datori di lavoro possono essere tenuti a presentare valutazioni delle prestazioni non redatte al procuratore generale della California su richiesta, con tali registri esenti dalle richieste di accesso ai documenti pubblici per proteggere i dati sensibili per le aziende.
10. Considerazioni sulla Conformità alla California Consumer Privacy Act (CCPA)
Le aziende soggette alla CCPA devono conformarsi alle normative sulla privacy relative all’IA, con future regolamentazioni che probabilmente espanderanno gli obblighi dei datori di lavoro riguardo all’IA e ai dati dei dipendenti.
11. Applicazione e Sanzioni
L’Attorney General, il Dipartimento dei Diritti Civili e il Commissario del Lavoro dello stato possono imporre sanzioni fino a $25.000 per violazione.
Come Si Confronta con Altre Regolazioni sull’IA?
L’AB 1018 segue le orme della legge pionieristica dell’IA del Colorado, che impone requisiti anti-discriminazione su sviluppatori e utenti di IA. Tuttavia, a differenza della legge del Colorado, che si concentra principalmente sugli sviluppatori di IA, la legge della California pone significative responsabilità sulle aziende che utilizzano l’IA nelle decisioni riguardanti l’occupazione.
Altri territori hanno adottato approcci diversi:
- Illinois’s AI Video Interview Act regola le valutazioni di assunzione basate sull’IA ma è molto più limitata.
- Il EU AI Act classifica i sistemi di IA per livello di rischio e impone obblighi rigorosi sulle applicazioni ad alto rischio, come quelle relative all’occupazione.
- La legge dell’IA della Virginia (in attesa di azione da parte del governatore) si concentrerebbe di più sulla protezione dei consumatori e sulla trasparenza, senza i vasti mandati legati all’occupazione dell’AB 1018.
Se approvata, la legge della California si affermerà come uno dei quadri normativi sull’IA più espansivi del paese, influenzando i futuri sforzi legislativi a livello nazionale.
Cosa Aspettarsi? Comprendere il Processo Legislativo della California
L’AB 1018 è appena stato introdotto, il che significa che deve navigare nel lungo processo legislativo della California. La legge passerà prima attraverso i comitati di politica e fiscale, inclusi quelli per la privacy, dove sono probabili modifiche. Se avanza, procederà all’Assemblea, al Senato Statale e infine alla scrivania del Governatore. L’AB 1018 potrebbe raggiungere il Governatore entro metà settembre, se guadagna sufficiente supporto. Il Governatore avrà fino al 12 ottobre per firmare o porre il veto alla legislazione.
Questa Legge Avrà Traction?
I tentativi precedenti di regolare il pregiudizio dell’IA in California sono falliti a causa dell’opposizione delle imprese e delle preoccupazioni riguardo ai costi di conformità. Infatti, simili legislazioni sono state tentate lo scorso anno ma si sono arenate prima di raggiungere un voto finale.
Tuttavia, l’AB 1018 è stato redatto con l’input di gruppi di advocacy per i lavoratori e i consumatori, il che potrebbe conferirgli una maggiore forza. I gruppi aziendali, in particolare quelli nella Silicon Valley, si aspettano di spingere per esenzioni o modifiche, rendendo incerta la sua forma finale.
La posizione del Governatore Newsom sulla regolamentazione dell’IA è stata mista. Sebbene supporti la privacy dei consumatori e la supervisione tecnologica, ha anche sostenuto politiche amiche dell’innovazione, portandolo a porre il veto a un’altra legislazione sull’IA lo scorso anno. Se alla fine firmerà l’AB 1018 dipenderà da quanto la versione finale bilancerà la regolamentazione con le preoccupazioni aziendali.
Cosa Dovrebbero Fare Ora i Datori di Lavoro?
Anche se l’AB 1018 non passa durante questa sessione, i suoi principi fondamentali influenzeranno probabilmente le future normative sull’IA. I datori di lavoro dovrebbero proattivamente:
- Valutare gli Strumenti di IA nelle Decisioni di Assunzione e HR: Condurre audit interni per comprendere come i sistemi di IA influenzano assunzioni, promozioni e licenziamenti.
- Implementare Politiche di Governance dell’IA: Stabilire chiare strutture di governance dell’IA, incluse le misure di mitigazione dei pregiudizi e di trasparenza.
- Prepararsi a Potenziali Obblighi di Conformità: Collaborare con i team legali e di conformità per allineare l’uso attuale dell’IA con i requisiti normativi previsti.
- Monitorare gli Sviluppi Legislativi: Rimanere informati sui progressi dell’AB 1018 e essere pronti a eventuali cambiamenti di conformità futuri.
