AI = Responsabilità + Inclusione
Il concetto di intelligenza artificiale (AI) sta diventando sempre più centrale nel modo in cui le organizzazioni, i governi e la società operano. Tuttavia, con l’adozione rapida dell’AI, emergono implicazioni e conseguenze negative, spesso dovute a una mancanza di governance responsabile. È fondamentale che i professionisti che guidano le strategie AI collaborino con esperti di Diversità, Equità e Inclusione (DE&I) per garantire che i principi umanocentrici siano integrati nel loro utilizzo.
Diversità, Equità e Inclusione nell’AI
Le applicazioni dell’AI in ambito risorse umane sono tra le più discusse, specialmente nei processi di selezione dei candidati. Grandi aziende, come Unilever, utilizzano piattaforme di assunzione basate sull’AI per ottimizzare le proprie pratiche di reclutamento. Tuttavia, l’uso dell’AI per la valutazione individuale solleva dibattiti accesi. Ad esempio, la piattaforma HireVue è stata oggetto di critiche per pratiche ingannevoli, che utilizzavano un algoritmo opaco per valutare le qualifiche di un candidato basandosi sulla sua apparenza. Questo ha portato HireVue a eliminare le analisi facciali e a pubblicare un insieme di principi etici per l’AI.
Questa storia è considerata da molti un “happy ending”, ma pone interrogativi importanti: cosa succede se l’algoritmo utilizzato per filtrare i curricula contiene pregiudizi e rifiuta candidati appartenenti a gruppi sottorappresentati? Inoltre, se esternalizziamo troppe attività all’AI, i collaboratori junior potrebbero perdere opportunità vitali per svilupparsi professionalmente.
La Governance Responsabile dell’AI
Le organizzazioni devono avere una strategia chiara per la governance e la supervisione etica dell’AI. Le pratiche consolidate nel campo della DE&I possono informare i decisori su come gestire queste tecnologie. Un modello di governance efficace è quello della “casa DE&I”, che combina comunicazione, educazione, metriche e conformità per trasformare la cultura aziendale.
Il percorso verso un’AI responsabile si articola in tre fasi principali: dati, design e consegna. Ogni fase è cruciale per il successo e deve essere affrontata con attenzione.
Fase dei Dati
Il primo passo è la cura del dataset utilizzato per addestrare i modelli di AI. Molti esempi di AI discriminatoria derivano da dataset non rappresentativi. Per esempio, gli algoritmi di riconoscimento facciale usati nelle forze dell’ordine hanno fallito nel riconoscere correttamente tutti i toni della pelle, portando a identificazioni errate di persone di colore. È essenziale che i dataset siano inclusivi e rappresentativi di tutti i gruppi demografici per minimizzare i pregiudizi e garantire equità.
Fase di Design e Sviluppo
Una volta preparato il dataset, è possibile progettare e sviluppare il modello di AI. È fondamentale integrare meccanismi di audit e valutazione per rilevare e mitigare i pregiudizi degli algoritmi. I sistemi di AI devono essere progettati tenendo conto di tutti gli utenti finali, considerando esperienze utente diverse, esigenze di accessibilità e sensibilità culturali.
Fase di Consegna
La fase di consegna è quando il prodotto AI viene messo in uso. È importante testare le innovazioni AI su diversi segmenti della società e raccogliere feedback per monitorare come la soluzione impatta ciascun gruppo demografico. Le organizzazioni devono anche garantire un accesso equo alle soluzioni AI, affrontando problemi come la alfabetizzazione digitale e l’affordabilità che possono colpire in modo sproporzionato le comunità marginalizzate.
Domande DE&I da porre ai team AI
È utile che le organizzazioni creino un “consiglio etico” interno che riunisca i team di AI e DE&I per discutere una serie di domande in ciascuna fase. Questo esercizio dovrebbe essere ripetuto regolarmente per garantire che i processi di governance responsabile rimangano sulla giusta strada.
Incorporando i principi e le intuizioni della DE&I nei percorsi dell’AI, possiamo promuovere un approccio più giusto ed etico all’innovazione tecnologica, che avvantaggi infine tutta la società.
