Il Procuratore Generale del New Jersey e la Divisione dei Diritti Civili Iniziano il 2025 con Linee Guida sull’Uso dell’IA nell’Assunzione
Il 9 gennaio 2025, il Procuratore Generale del New Jersey, Matthew J. Platkin, insieme alla Divisione dei Diritti Civili (DCR) del New Jersey, ha annunciato il lancio di un’Iniziativa per i Diritti Civili e la Tecnologia per affrontare i rischi di discriminazione e molestie basate su pregiudizi derivanti dall’uso dell’intelligenza artificiale (IA) e di altre tecnologie avanzate. Nell’ambito di questa iniziativa, la DCR ha emesso una linea guida su come la Legge contro la Discriminazione del New Jersey (LAD) si applica alla discriminazione derivante dall’uso dell’IA.
Panoramica
La linea guida chiarisce che la LAD si applica alla “discriminazione algoritmica”, ovvero la discriminazione che deriva dall’uso da parte di un datore di lavoro di strumenti di decisione automatizzati. Anche se il datore di lavoro non ha sviluppato lo strumento IA e non è a conoscenza della sua discriminazione algoritmica, può comunque essere ritenuto responsabile per la discriminazione risultante dall’uso di tale strumento.
Discriminazione per Trattamento Disparato e Impatto Disparato
La guida fornisce diversi esempi di discriminazione algoritmica. Ad esempio, gli strumenti IA possono comportarsi in modo discriminatorio se progettati o utilizzati per trattare i membri di una classe protetta in modo diverso. Un’entità potrebbe essere responsabile di tale discriminazione se utilizza selettivamente l’IA solo per valutare i membri di una particolare classe, come nel caso di screening solo per candidati neri.
Inoltre, anche se uno strumento IA non viene utilizzato in modo selettivo e non considera direttamente una caratteristica protetta, potrebbe comunque “fare raccomandazioni basate su un proxy vicino a una caratteristica protetta”, come la razza o il sesso.
Gli strumenti IA possono anche impegnarsi nella discriminazione per impatto disparato in violazione della LAD se i loro criteri apparentemente non discriminatori hanno un effetto negativo sproporzionato sui membri di una classe protetta. La guida menziona un esempio di un’azienda che utilizza l’IA per valutare le offerte contrattuali, che esclude sproporzionatamente le offerte delle aziende di proprietà femminile.
Accommodamenti Ragionevoli
La guida avverte che l’uso di strumenti IA da parte di un datore di lavoro potrebbe violare la LAD se essi “escludono o ostacolano la fornitura di accomodamenti ragionevoli”. Quando utilizzata durante il processo di assunzione, l’IA potrebbe escludere sproporzionatamente candidati che potrebbero svolgere il lavoro con un accomodamento ragionevole.
Responsabilità
È interessante notare che la guida adotta una visione ampia di chi può essere ritenuto responsabile per la discriminazione algoritmica. Secondo la LAD, i datori di lavoro non possono trasferire la responsabilità ai fornitori di IA o agli sviluppatori esterni, anche se l’entità non conosce i dettagli interni dello strumento.
Pratiche Migliori
Per ridurre il rischio di responsabilità sotto la LAD, i datori di lavoro dovrebbero adottare alcune misure per garantire che gli strumenti IA utilizzati per prendere decisioni lavorative non siano coinvolti in pregiudizi algoritmici o violino la LAD. Questi passi includono:
- Creare un gruppo IA responsabile della supervisione dell’implementazione degli strumenti IA, composto da membri di vari dipartimenti, come legale, risorse umane, privacy, comunicazione e IT.
- Implementare politiche e procedure relative all’IA.
- Condurre formazione sugli strumenti IA e sul pregiudizio algoritmico, consentendo solo ai dipendenti che hanno completato la formazione di utilizzare gli strumenti IA.
- Valutare attentamente i fornitori e gli strumenti IA.
- Assicurarsi che le disposizioni contrattuali con i fornitori di IA includano la conformità a tutte le leggi applicabili.
- Affrontare rapidamente eventuali problemi identificati negli audit o nei test.
- Esaminare eventuali polizze assicurative per la responsabilità nelle pratiche lavorative per verificare la disponibilità di copertura.
- Garantire che ci sia ancora un elemento umano in qualsiasi processo decisionale che coinvolga uno strumento IA.
Questa iniziativa rappresenta un passo importante verso la regolamentazione dell’uso dell’IA nel mondo del lavoro, mirando a proteggere i diritti civili in un’era di crescente automazione.
