Trasparenza e Spiegabilità nei Sistemi di Intelligenza Artificiale
Il concetto di trasparenza nel contesto dell’Intelligenza Artificiale (IA) abbraccia molteplici significati. In particolare, si concentra sulla necessità di dichiarare quando viene utilizzata l’IA, sia che si tratti di una previsione, di una raccomandazione o di una decisione. Ad esempio, è fondamentale informare l’utente quando interagisce direttamente con un agente intelligente, come un chatbot. La divulgazione dovrebbe essere proporzionata all’importanza dell’interazione.
Con l’aumento della diffusione delle applicazioni di IA, la desiderabilità, l’efficacia e la fattibilità della divulgazione possono variare in base al contesto.
Comprendere i Sistemi di IA
La trasparenza implica anche la possibilità per le persone di comprendere come un sistema di IA è stato sviluppato, addestrato, funziona e implementato nel dominio applicativo pertinente. Ciò consente ai consumatori di fare scelte più informate. Inoltre, la trasparenza si riferisce alla capacità di fornire informazioni significative e chiare riguardo a quali informazioni vengono fornite e perché.
È importante notare che la trasparenza non si estende generalmente alla divulgazione del codice sorgente o di altri dati proprietari, che possono risultare troppo complessi per essere utili nella comprensione di un risultato. Il codice sorgente e i dataset possono anche essere soggetti a proprietà intellettuale, inclusi i segreti commerciali.
Discorso Pubblico e Fiducia
Un ulteriore aspetto della trasparenza concerne la facilitazione di un discorso pubblico e multistakeholder, nonché l’istituzione di enti dedicati, se necessario, per promuovere la consapevolezza e la comprensione dei sistemi di IA, aumentando così l’accettazione e la fiducia.
Spiegabilità nei Sistemi di IA
La spiegabilità significa consentire alle persone colpite da un risultato di un sistema di IA di comprendere come è stato raggiunto. Questo comporta la fornitura di informazioni facilmente comprensibili a coloro che sono interessati, permettendo a chi è stato svantaggiato di contestare il risultato. È importante fornire, per quanto praticabile, i fattori e la logica che hanno portato a un determinato esito.
La spiegabilità può essere realizzata in modi diversi a seconda del contesto, come la significatività dei risultati. Ad esempio, per alcuni tipi di sistemi di IA, richiedere la spiegabilità potrebbe influire negativamente sull’accuratezza e sulle prestazioni del sistema, poiché potrebbe richiedere di ridurre le variabili a un insieme sufficientemente piccolo da essere comprensibile per gli esseri umani, il che potrebbe risultare subottimale.
Considerazioni Pratiche
Quando gli attori dell’IA forniscono una spiegazione di un risultato, dovrebbero considerare di presentare, in termini chiari e semplici e in modo appropriato al contesto, i fattori principali in una decisione, i fattori determinanti, i dati, la logica o l’algoritmo dietro il risultato specifico. Questo dovrebbe essere fatto in modo da permettere agli individui di comprendere e contestare il risultato, rispettando nel contempo le obbligazioni di protezione dei dati personali, se pertinente.
