Comprendere il Diritto all’Spiegazione e il Processo Decisionale Automatizzato nel GDPR e nell’AI Act Europeo
I sistemi di decisione automatizzati (ADM) sono utilizzati per sostituire o supportare il processo decisionale umano, a seconda della progettazione del sistema e del suo utilizzo. L’obiettivo è migliorare l’accuratezza, l’efficienza, la coerenza e l’oggettività delle decisioni precedentemente prese solo dagli esseri umani. Esempi includono sistemi automatizzati di reclutamento, triage sanitario, moderazione dei contenuti online e polizia predittiva.
Nei democrazie liberali, le persone si sono abituate a decisioni consequenziali in aree come istruzione, assistenza sociale, occupazione, sanità e giustizia, soggette a procedure standardizzate e processi di appello aperti al controllo pubblico. Questo riflette una comprensione di base che i decisori umani non sono infallibili né sempre equi, ma è possibile limitare l’impatto dei fallimenti umani stabilendo standard contro cui valutare l’equità delle decisioni consequenziali.
Normative Europee: GDPR e AI Act
Come per il processo decisionale umano, che è soggetto a controllo pubblico, le disposizioni pertinenti nel Regolamento Generale sulla Protezione dei Dati (GDPR) e nell’AI Act sono destinate a garantire l’equità sostanziale e procedurale delle decisioni automatizzate. In termini ampi, l’equità sostanziale implica considerazioni come giustizia distributiva, non discriminazione, proporzionalità, accuratezza e affidabilità, mentre l’equità procedurale richiede trasparenza, giusto processo, coerenza, supervisione umana e il diritto a una spiegazione.
Esempi recenti di sistemi di intelligenza artificiale che non hanno soddisfatto questi requisiti includono i sistemi di rilevazione delle frodi nel welfare ad Amsterdam e nel Regno Unito, famiglie erroneamente segnalate per indagini su abusi infantili in Giappone, e residenti a basso reddito negati sussidi alimentari nello stato indiano di Telangana.
Il Diritto all’Spiegazione
Nel GDPR, il diritto all’ spiegazione si applica alle decisioni basate esclusivamente su elaborazioni automatizzate che producono effetti legali o simili riguardanti una persona fisica (art. 22). Questo diritto è dettagliato negli Articoli 13-15, i quali richiedono la fornitura di “informazioni significative sulla logica coinvolta, così come sul significato e le conseguenze previste di tale elaborazione.”
Negli AI Act (art. 86), il termine rilevante si riferisce al “diritto di ottenere dal fornitore spiegazioni chiare e significative sul ruolo del sistema di intelligenza artificiale nel procedimento decisionale e sugli elementi principali della decisione presa.”
Le Difficoltà Tecniche e le Implicazioni Etiche
Ci sono molte discussioni tra esperti legali e politici riguardo a come interpretare il requisito di “informazioni significative sulla logica coinvolta” nel GDPR e che tipo di spiegazione è richiesta dall’AI Act. Tuttavia, spesso viene trascurata la difficoltà tecnica di fornire spiegazioni per le uscite dei modelli utilizzati nell’ADM, nonché l’inadeguatezza di implementare ADM predittive in domini in cui è presente l’agenzia umana.
Le preoccupazioni riguardo all’accuratezza, affidabilità, robustezza e equità dell’ADM portano a disposizioni che forniscono il diritto di fornire consenso esplicito per essere soggetti a decisioni automatizzate e di essere informati sull’uso dell’ADM (GDPR art 13, 14 & 15 e AIA art 26).
AI Spiegabile
Il campo dell’AI Spiegabile (XAI) si concentra su modi per garantire che le uscite dei sistemi di intelligenza artificiale possano essere spiegate e comprese dalle persone colpite. Ci sono due ampie categorie di metodi per raggiungere questo obiettivo: metodi intrinseci e post-hoc.
I metodi intrinseci sono possibili quando il modello di intelligenza artificiale è sufficientemente semplice da rendere interpretabili le relazioni tra input e output. Al contrario, i metodi post-hoc sono utilizzati quando il modello è troppo complesso per tracciare il percorso di ragionamento. Questi metodi, come i Valori di Shapley e LIME, forniscono insight sul ragionamento del modello senza avere accesso alla sua struttura interna.
Conclusioni
In ultima analisi, il diritto all’ spiegazione nell’ADM è praticabile solo quando i modelli di intelligenza artificiale sono interpretabili. Tuttavia, modelli più complessi tendono anche ad essere più accurati, lasciando le persone con una scelta tra spiegabilità e prestazioni. Ciò implica che le disposizioni per salvaguardare l’ADM dovrebbero limitare le decisioni completamente automatizzate a modelli interpretabili, il cui output dovrebbe includere una spiegazione chiara della decisione. Inoltre, le decisioni che influiscono sulle circostanze in cui l’agenzia umana è un fattore non dovrebbero essere automatizzate, per evitare ingiustizie e garantire che i cittadini abbiano accesso a processi equi e trasparenti.
