Cos’è la Trasparenza dell’IA?
Con l’aumento dell’uso dell’IA, la trasparenza riguardante tali sistemi e le loro uscite diventa cruciale. Questo articolo esamina cosa si intende per trasparenza dell’IA e IA spiegabile, delineando come possono essere implementate.
La definizione di trasparenza dell’IA
L’intelligenza artificiale (IA) è un termine ampio che descrive sistemi algoritmici programmati per raggiungere obiettivi definiti dall’uomo. Molti di questi sistemi sono noti come sistemi “a scatola nera”, dove i meccanismi interni del modello non sono noti all’utente o non sono interpretabili dagli esseri umani. In tal caso, il modello può essere considerato privo di trasparenza.
La trasparenza dell’IA è un termine ombrello che comprende concetti come l’IA spiegabile (XAI) e l’interpretabilità: comprende ampiamente tre livelli:
- Spiegabilità dei componenti tecnici – quanto sono spiegabili i meccanismi interni dell’algoritmo
- Governance del sistema – se ci sono processi e documentazione adeguati delle decisioni chiave
- Trasparenza dell’impatto – se le capacità e lo scopo degli algoritmi sono comunicati in modo chiaro e aperto agli stakeholder pertinenti
Spiegabilità dei componenti tecnici
La spiegabilità dei componenti tecnici del sistema si riferisce alla capacità di spiegare cosa sta accadendo all’interno di un sistema IA ed è basata su quattro tipi di spiegazioni: specifiche del modello, agnostiche, globali e locali.
- Spiegabilità specifica del modello – un modello ha spiegabilità integrata nella sua progettazione e sviluppo
- Spiegabilità agnostica al modello – una tecnica matematica è applicata alle uscite di qualsiasi algoritmo per fornire un’interpretazione dei fattori decisionali del modello
- Spiegabilità a livello globale – comprensione del comportamento dell’algoritmo a un livello alto/insieme di dati/livello populazionale
- Spiegabilità a livello locale – comprensione del comportamento dell’algoritmo a un livello basso/sottogruppo/individuo
Governance del sistema
Il secondo livello di trasparenza, governance, include l’istituzione e l’implementazione di protocolli per documentare le decisioni prese riguardo a un sistema dalle prime fasi di sviluppo fino al suo impiego. La governance può includere anche l’istituzione di responsabilità per le uscite di un sistema e l’inclusione di ciò all’interno di contratti o documentazione pertinenti.
Ad esempio, i contratti dovrebbero specificare se la responsabilità per eventuali danni o perdite ricade sul fornitore o venditore di un sistema, sull’entità che impiega un sistema o sui progettisti e sviluppatori specifici del sistema. Ciò incoraggia una maggiore diligenza, poiché una particolare parte può essere ritenuta responsabile per un sistema.
Trasparenza dell’impatto
Il terzo livello di trasparenza riguarda la comunicazione delle capacità e dello scopo di un sistema IA agli stakeholder, siano essi direttamente o indirettamente coinvolti. Le comunicazioni devono essere emesse in modo tempestivo e devono essere chiare, accurate e ben visibili.
Per rendere più trasparente l’impatto dei sistemi, le informazioni sui tipi di dati utilizzati dall’algoritmo e sulla loro fonte dovrebbero essere comunicate a chi è interessato. È fondamentale che gli utenti siano informati che stanno interagendo con un sistema IA e di quale forma prendono le uscite del sistema.
Perché abbiamo bisogno della trasparenza dell’IA?
Una delle principali motivazioni per la trasparenza e l’esplorabilità dell’IA è che possono costruire fiducia nei sistemi IA, dando agli utenti e ad altri stakeholder maggiore sicurezza che il sistema venga utilizzato in modo appropriato. Conoscere le decisioni che un sistema prende e come le prende può anche dare agli individui maggiore agenzia sulle loro decisioni, permettendo loro di fornire un consenso informato quando interagiscono con un sistema.
Inoltre, la trasparenza può avere diversi vantaggi aziendali:
In primo luogo, catalogando tutti i sistemi utilizzati all’interno di un’azienda, si possono prendere misure per garantire che gli algoritmi siano impiegati in modo efficiente, evitando di complicare processi semplici con algoritmi complessi per compiti minori.
In secondo luogo, se un’azione legale viene intrapresa contro un’organizzazione, la trasparenza nei loro sistemi IA facilita una chiara spiegazione di come funziona il sistema e perché potrebbe aver preso determinate decisioni. Questo può aiutare a scagionare le organizzazioni da accuse di negligenza o intenzione malevola. Un esempio applicato di questo è l’azione intentata contro Apple per la loro Apple Card, che ha dato un limite di credito molto più alto a un uomo rispetto a sua moglie, nonostante lei avesse un punteggio di credito più alto.
Infine, l’obiettivo principale della trasparenza dell’IA è stabilire un ecosistema di fiducia attorno all’uso dell’IA, in particolare tra i cittadini o gli utenti dei sistemi, e soprattutto nelle comunità che sono a maggior rischio di danni da parte dei sistemi IA.
