AI Spiegabilità: Una Guida Pratica per Costruire Fiducia e Comprensione

Quali sono i principali tipi di spiegazione?

Mentre l’IA continua a permeare i processi decisionali critici, non è più sufficiente avere semplicemente un modello che funzioni bene. Le parti interessate e le autorità di regolamentazione richiedono trasparenza, spingendo la necessità di rendere i sistemi di IA spiegabili. Questa sezione approfondisce i principali tipi di spiegazioni cruciali per costruire la fiducia e garantire la conformità.

Il tipo di spiegazione richiesto varia a seconda del contesto, del contesto socio-culturale e del pubblico a cui è offerto. Anche se non esiste un approccio “unico per tutti” per spiegare le decisioni assistite da AI/ML, questi sei tipi comuni di spiegazioni sono progettati per aiutare il team del tuo progetto AI a costruire spiegazioni concise e chiare. Ognuno è correlato a un principio SSAFE-D (Sostenibilità, Sicurezza, Responsabilità, Equità, Spiegabilità e Gestione dei dati):

• Spiegazione razionale: Affronta il “perché” dietro una decisione dell’IA.
• Spiegazione di responsabilità: Chiarisce chi è responsabile durante l’intero ciclo di vita del modello di IA, fornendo un punto di contatto per la revisione umana.
• Spiegazione dei dati: Dettaglia i dati utilizzati, le loro fonti e come sono stati gestiti per raggiungere una decisione.
• Spiegazione di equità: Descrive le misure adottate per garantire decisioni di IA imparziali ed eque.
• Spiegazione di sicurezza: Descrive le misure messe in atto per massimizzare le prestazioni, l’affidabilità, la sicurezza e la robustezza dei risultati dell’IA.
• Spiegazione di impatto: Spiega cosa è stato considerato riguardo ai potenziali effetti di un sistema di supporto decisionale dell’IA su un individuo e sulla società.

Queste spiegazioni possono essere ulteriormente suddivise in due ampie tipologie:

Spiegazioni basate sul processo

Queste spiegazioni dimostrano i processi di buona governance e le migliori pratiche che sono state seguite durante la progettazione e l’implementazione del sistema di IA. Mostrano come la sostenibilità, la sicurezza, l’equità e la gestione responsabile dei dati siano state considerate end-to-end nel ciclo di vita del progetto.

Ad esempio, se si cerca di spiegare l’equità e la sicurezza, le componenti della spiegazione implicheranno la dimostrazione di aver adottato misure adeguate in tutta la produzione e l’implementazione del sistema per garantire che il suo risultato sia equo e sicuro.

Spiegazioni basate sul risultato

Queste spiegazioni si concentrano sul ragionamento alla base degli output del modello, delineando fattori contestuali e relazionali. Dovrebbero essere comunicate in un linguaggio semplice, accessibile alle parti interessate colpite.

È importante prendere in considerazione anche l’IA spiegabile per i bambini. Quando si considerano i diritti dei bambini in relazione ai sistemi di IA, ciò comporta garantire che i bambini comprendano come i sistemi di IA abbiano un impatto su di essi, nonché utilizzare un linguaggio adeguato all’età.

Ricorda, fornire spiegazioni sia basate sul processo che sul risultato è fondamentale per promuovere la fiducia, dimostrare la responsabilità e, in definitiva, garantire l’implementazione responsabile dei sistemi di IA.

Quali considerazioni dovrebbero essere affrontate quando si costruiscono sistemi di IA adeguatamente spiegabili?

Man mano che i sistemi di IA diventano più integrati nei processi decisionali critici, specialmente in settori come il legal-tech, la conformità e la governance, comprendere e spiegare la loro logica è fondamentale. La chiave di questo è garantire che i progetti di IA siano sostenibili, equi, sicuri, responsabili e mantengano la qualità e l’integrità dei dati. Ciò implica enfatizzare la comunicabilità, fornendo spiegazioni chiare e accessibili, adattate al contesto socioculturale e al pubblico.

Analizziamo le considerazioni chiave:

Trasparenza e Responsabilità

La trasparenza dei risultati e dei processi è fondamentale. La documentazione che descrive in dettaglio come un sistema di IA è stato progettato, sviluppato e distribuito aiuta a giustificare azioni e decisioni durante l’intero ciclo di vita del progetto. Questo si collega direttamente all’articolo 5(1) del GDPR del Regno Unito, che impone che i dati personali siano “trattati in modo lecito, corretto e trasparente”. I team di progetto devono soddisfare tutti gli aspetti di questo principio.

• Divulgare l’Uso dell’IA: Informare proattivamente le persone, in anticipo, sull’uso dell’IA nelle decisioni che le riguardano. Essere aperti sul perché, quando e come l’IA viene utilizzata.
• Spiegare Significativamente le Decisioni: Fornire una spiegazione coerente e veritiera, presentata in modo appropriato e fornita al momento giusto.

La responsabilità implica garantire un’adeguata supervisione ed essere responsabili nei confronti delle parti interessate interne ed esterne, inclusi gli enti regolatori e le persone interessate. Ciò include l’assunzione di responsabilità per la conformità ai principi di protezione dei dati e la dimostrazione di tale conformità attraverso misure tecniche e organizzative appropriate; protezione dei dati by design e by default.

• Assegnare la Responsabilità: Identificare e assegnare la responsabilità all’interno dell’organizzazione per la gestione e la supervisione dei requisiti di “spiegabilità” dei sistemi di IA, incluso un punto di contatto umano per chiarimenti o per contestare le decisioni.
• Giustificare ed Evidenziare: Considerare attivamente e documentare le scelte giustificate sulla progettazione e l’implementazione di modelli di IA adeguatamente spiegabili. Documentare queste considerazioni e dimostrare che sono presenti nella progettazione e nell’implementazione del modello. Mostrare prove delle spiegazioni fornite agli individui.

Contesto e Impatto

Non esiste un approccio valido per tutti. Le considerazioni contestuali implicano la prestazione di attenzione a vari elementi interrelati che possono influenzare la spiegazione delle decisioni assistite dall’IA e la gestione dell’intero processo. Questa dovrebbe essere una valutazione continua durante l’intero ciclo di vita del progetto.

• Scegliere Modelli e Spiegazioni Appropriati: In base al contesto, all’impatto potenziale e a ciò che una persona ha bisogno di sapere su una decisione, selezionare un modello di IA appropriatamente spiegabile e dare priorità ai tipi di spiegazione pertinenti.
• Adattare la Governance e la Spiegazione: Garantire pratiche di governance robuste, adattate all’organizzazione e alle circostanze e alle esigenze specifiche di ciascuna parte interessata.
• Identificare il Pubblico: Considerare il pubblico e adattare le spiegazioni al loro livello di competenza e comprensione. Quale livello di spiegazione è adatto allo scopo, sia per gli utenti finali, gli implementatori, gli auditor o gli individui colpiti dalla decisione? Considerare le vulnerabilità e gli aggiustamenti ragionevoli per coloro che richiedono spiegazioni.

Riflettere sugli impatti dei sistemi di IA aiuta a dimostrare che le tecniche algoritmiche non danneggeranno o comprometteranno il benessere individuale. Ciò include la valutazione degli scopi e degli obiettivi etici del progetto di IA nelle fasi iniziali e la rivisitazione e la riflessione su tali impatti durante lo sviluppo per mitigare i potenziali danni.

Implementazione Pratica e Considerazioni Chiave

Quando si cercano gradi più elevati di spiegabilità per i modelli e una migliore interpretabilità degli output, considerare quanto segue:

• Esigenze Specifiche del Dominio: Valutare il contesto, l’impatto potenziale e le esigenze specifiche del dominio quando si determinano i requisiti di interpretabilità. Ciò include la considerazione del tipo di applicazione, delle aspettative specifiche del dominio, delle norme e delle regole e delle tecnologie esistenti. In che modo la soluzione influenzerà gli standard di settore e altri pareri governativi?
• Tecniche Standard di Interpetazione: Utilizzare tecniche standard di interpretazione quando possibile, bilanciando i rischi e le esigenze specifiche del dominio con le risorse di dati disponibili, la conoscenza del dominio e le tecniche di IA/ML appropriate.
• Sistemi di IA a Scatola Nera: Quando si considerano i sistemi di IA ‘a scatola nera’, soppesare attentamente i potenziali impatti e rischi, esplorare opzioni per strumenti di interpretabilità supplementari e formulare un piano d’azione per ottimizzare la spiegabilità. Creare report dettagliati per aiutare il processo decisionale dei modelli.
• Comprensione Umana: Tenere presente che l’interpretabilità deve essere espressa in termini di capacità e limiti della cognizione umana, dando la priorità alla semplicità e alla parsimonia informativa per un’IA accessibile.

Tipi di Spiegazioni

Il contesto determina quali informazioni sono richieste, utili od accessibili per spiegare le decisioni che coinvolgono l’IA e, pertanto, quali tipi di spiegazioni sono i più appropriati. Esistono diversi tipi di spiegazioni che sono stati progettati per aiutare il team del tuo progetto di IA a creare spiegazioni concise e chiare:

• Spiegazione della Razionalità: Aiuta le persone a capire le ragioni che hanno portato ad un determinato risultato decisionale.
• Spiegazione della Responsabilità: Aiuta le persone a capire chi è coinvolto nello sviluppo e nella gestione del modello di IA, e chi contattare per una revisione umana di una decisione.
• Spiegazione dei Dati: Aiuta le persone a capire quali dati su di loro, e quali altre fonti di dati, sono stati utilizzati in una particolare decisione di IA, così come i dati utilizzati per addestrare e testare il modello di IA.
• Spiegazione dell’Equità: Aiuta le persone a capire quali passi sono stati fatti per assicurare che le decisioni dell’IA siano generalmente imparziali e eque, e se siano state trattate o meno in modo equo loro stesse.
• Spiegazione della Sicurezza: Aiuta le persone a capire le misure che sono state messe in atto e i passi compiuti per massimizzare le prestazioni, l’affidabilità, la sicurezza e la robustezza dei risultati dell’IA, così come qual è la giustificazione per il tipo di sistema di IA scelto.
• Spiegazione dell’Impatto: Aiuta le persone a capire le considerazioni che sono state prese riguardo agli effetti che il sistema di supporto decisionale dell’IA può avere su un individuo e sulla società.

Che cos’è l’interpretabilità nel contesto dei sistemi AI/ML?

Nel mondo in rapida evoluzione dell’IA e dell’apprendimento automatico (ML), l’interpretabilità è emersa come una preoccupazione critica per i regolatori, i responsabili della conformità e chiunque implementi questi sistemi. In parole povere, l’interpretabilità è il grado in cui un essere umano può capire come e perché un modello AI/ML ha fatto una particolare previsione o decisione in un contesto specifico. Si tratta di qualcosa di più che aprire la “scatola nera”; si tratta di rendere accessibile e comprensibile la logica del modello agli utenti umani.

Il nucleo dell’interpretabilità

L’interpretabilità va oltre la comprensione astratta; si concentra sulla capacità di un essere umano di afferrare l’interfunzionamento e la logica sottostante di un sistema di IA. Idealmente, le parti interessate dovrebbero essere in grado di analizzare le ragioni alla base dei risultati o dei comportamenti di un modello, individuando come varie caratteristiche di input, interazioni e parametri hanno contribuito a un risultato specifico. Ciò richiede la traduzione di complessi componenti matematici in un linguaggio semplice e quotidiano che i destinatari delle decisioni possano comprendere.

Preoccupazioni normative e implicazioni pratiche

I regolatori sottolineano sempre più l’interpretabilità come pietra angolare dello sviluppo e dell’implementazione responsabile dell’IA. La necessità di trasparenza crea tensione in contesti di alto livello come la sicurezza nazionale, dove spiegare un sistema di IA può esporre delle vulnerabilità. Tuttavia, la mancanza di interpretabilità solleva preoccupazioni riguardo a:

• Bias ed equità: Senza capire come funziona un modello, è difficile rilevare e mitigare i pregiudizi discriminatori incorporati nei dati o negli algoritmi.
• Responsabilità: Se un sistema di IA commette un errore o produce un risultato ingiusto, è fondamentale tracciare il processo decisionale e identificare le parti responsabili.
• Conseguenze non intenzionali: L’incapacità di interpretare il comportamento di un modello può portare a rischi mancati e impatti negativi inaspettati, specialmente sulle popolazioni vulnerabili.

Per i sistemi di IA che hanno un impatto sui bambini, la posta in gioco è particolarmente alta. Regolamenti come l’Age Appropriate Design Code del Regno Unito sottolineano spiegazioni adatte ai bambini e pratiche trasparenti con i dati. La Policy Guidance on AI for Children dell’UNICEF aggiunge che i sistemi dovrebbero essere sviluppati tenendo conto dei bambini più vulnerabili, indipendentemente dalla loro comprensione.

Strumenti pratici per la costruzione di sistemi interpretabili

Sebbene l’utilizzo di modelli meno complessi come la regressione lineare possa migliorare l’interpretabilità, a volte i modelli “a scatola nera” come le reti neurali o le foreste casuali offrono prestazioni più potenti. La soluzione è quindi incorporare tecniche di interpretabilità “post-hoc” – metodi applicati dopo la costruzione di un modello per spiegarlo esternamente. Ecco due tecniche principali che possono aiutare con tali modelli:

• Spiegazioni locali: Tecniche come LIME (Local Interpretable Model-agnostic Explanations) forniscono spiegazioni per singola istanza, ovvero perché il modello ha preso quella decisione esplicita.
• Spiegazioni globali: PDP (Partial Dependence Plots) e ALE (Accumulated Local Effects Plot) offrono approfondimenti sull’importanza “media” delle caratteristiche per spiegare e valutare un modello a livello globale.

Costruire sistemi AI/ML esplicabili non è facile, ma è fondamentale. I team devono prendere decisioni giustificate e trasparenti sulla progettazione e l’implementazione dei modelli e devono essere in grado di spiegare chiaramente come l’IA ha influenzato decisioni specifiche.

Quali sono gli aspetti chiave dell’essere trasparenti nello sviluppo dell’IA?

Con l’accelerazione dell’adozione dell’IA, la trasparenza non è più un’opzione, ma un requisito fondamentale. La trasparenza nell’IA, secondo gli standard del settore, comprende due aspetti fondamentali. In primo luogo, implica l’interpretabilità del sistema di IA: la capacità di capire come e perché un modello si comporta in un certo modo, “aprendo” efficacemente la scatola nera. In secondo luogo, la trasparenza impone la dimostrazione che i processi di progettazione, sviluppo e implementazione del sistema di IA siano sostenibili, sicuri, equi e supportati da dati gestiti in modo responsabile. Ciò significa una chiara documentazione e giustificazione in ogni fase del ciclo di vita dell’IA.

Approfondimenti Chiave

Essere trasparenti nello sviluppo dell’IA dipende da diversi aspetti chiave:

• Divulgare l’Uso dell’IA: Essere chiari sull’uso dell’IA nei processi decisionali prima di prendere decisioni. Dichiarare chiaramente quando e perché l’IA viene utilizzata.
• Spiegare Sensatamente le Decisioni: Fornire alle parti interessate spiegazioni veritiere, coerenti e presentate in modo appropriato al momento giusto.
• Registrazione della Trasparenza: Sfruttare framework come l’Algorithmic Transparency Recording Standard (ATRS) del Regno Unito per pubblicare apertamente informazioni sugli strumenti algoritmici utilizzati nei processi decisionali del settore pubblico. L’ATRS offre un modo strutturato per comunicare sugli strumenti algoritmici e sul loro impatto.

Preoccupazioni Regolamentari

La trasparenza dell’IA non è solo una best practice; è un imperativo di conformità. L’articolo 5(1) del GDPR del Regno Unito richiede che il trattamento dei dati personali sia lecito, corretto e trasparente. Questo mandato legale sta plasmando il modo in cui le organizzazioni affrontano lo sviluppo e l’implementazione dell’IA. L’Information Commissioner’s Office (ICO) del Regno Unito ha anche sviluppato una guida sulla spiegazione delle decisioni prese con l’IA, che sottolinea la necessità di spiegazioni chiare e accessibili.

Tuttavia, possono emergere conflitti, soprattutto in aree come la sicurezza nazionale, dove gli interessi di sicurezza potrebbero scontrarsi con la necessità di trasparenza. Inoltre, i team di progetto devono affrontare i potenziali rischi per la sicurezza dell’IA, come gestiscono le informazioni generate su tali rischi e in che misura le spiegazioni del modello e dei processi del progetto di IA sono rese disponibili.

Implicazioni Pratiche

Affinché le organizzazioni implementino efficacemente la trasparenza dell’IA, è necessario seguire alcuni passaggi concreti:

• Spiegazioni Basate sul Processo: Dimostrare buone pratiche di governance durante la progettazione e l’uso del sistema di IA. Documentare come la sostenibilità, la sicurezza, l’equità e la gestione responsabile dei dati sono integrate nel ciclo di vita del progetto.
• Spiegazioni Basate sui Risultati: Offrire spiegazioni chiare e accessibili dei risultati del modello in un linguaggio semplice. Giustificare come si giunge a giudizi assistiti dall’IA, soprattutto nei sistemi human-in-the-loop.
• Affrontare le Preoccupazioni sull’Equità dei Dati: La trasparenza richiede un fermo impegno per l’equità dei dati al fine di garantire l’inclusione di una vasta gamma di dati; la rendicontazione trasparente dovrebbe anche dimostrare che questo obiettivo è stato raggiunto. Ciò richiede di affrontare il modo in cui i set di dati sono costruiti, gestiti e utilizzati, con un’attenzione continua alla mitigazione dei potenziali pregiudizi.

Considerazioni Speciali: IA Centrata sul Bambino

La trasparenza non è “taglia unica” e richiede una cura speciale per i gruppi vulnerabili. Numerosi documenti di orientamento incentrati sui bambini, come la guida politica dell’UNICEF sull’IA per i bambini, il codice di progettazione appropriato all’età dell’ICO del Regno Unito, menzionano la trasparenza. Ciò comporta garantire che i bambini comprendano come i sistemi di IA abbiano un impatto su di loro. Devono anche essere forniti in modo appropriato all’età. Ciò comporta informare i bambini quando interagiscono con un sistema di IA anziché con un essere umano; fornire chiare informazioni sulla privacy; fornire spiegazioni “brevi” all’utente quando i dati personali vengono utilizzati per la formazione, pubblicare politiche chiare, standard della comunità e termini di utilizzo; e utilizzare rappresentazioni delle informazioni a misura di bambino che siano adattate a età specifiche.

Quali sono gli aspetti chiave per essere responsabili nello sviluppo dell’IA?

La responsabilità è fondamentale per uno sviluppo dell’IA sostenibile, equo e sicuro. Si tratta di giustificare i processi e gli esiti dell’IA ed essere responsabili nei confronti delle parti interessate interne, delle autorità di regolamentazione e degli individui interessati.

Concetti fondamentali: dalla trasparenza alla spiegabilità

La responsabilità richiede trasparenza, ma non sono intercambiabili. La trasparenza implica l’interpretabilità (“aprire la scatola nera”) e la dimostrazione che i processi di progettazione/sviluppo sono sostenibili, sicuri ed equi.

La spiegabilità, che è incentrata sulla pratica, si concentra sull’operatività della trasparenza sia negli esiti supportati dall’IA che nei processi di sviluppo.

Preoccupazioni normative e quadri giuridici

Il Regolamento generale sulla protezione dei dati (GDPR) del Regno Unito inquadra la responsabilità come principio fondamentale, richiedendo la responsabilità per la conformità ai principi di protezione dei dati. Ciò comprende l’implementazione di misure tecniche e organizzative appropriate.

L’Information Commissioner’s Office (ICO) del Regno Unito e iniziative come l’Algorithmic Transparency Recording Standard (ATRS) riflettono la crescente enfasi sulle pratiche di IA responsabili.

Implicazioni pratiche e misure attuabili

Essere responsabili significa diverse azioni chiave per i team tecnici e legali:

• Assegnare responsabilità: Designare all’interno dell’organizzazione individui che gestiscano i requisiti di spiegabilità, garantendo un chiaro punto di contatto per richieste o contestazioni delle decisioni.
• Giustificare e dimostrare: Prendere attivamente e documentare scelte giustificabili relative alla progettazione e all’implementazione spiegabili. Dimostrare tali scelte durante tutto il ciclo di vita del progetto, fornendo spiegazioni significative agli individui.
• Trasparenza: I team di progetto devono essere onesti su come e perché utilizzano i dati personali.
• Spiegare significativamente le decisioni: Fornire alle parti interessate una spiegazione coerente che sia:
  • Veritiera e significativa;
  • Scritta o presentata in modo appropriato; e
  • Fornita al momento giusto.

Le organizzazioni devono dimostrare l’impegno a spiegare le decisioni prese con l’IA, concentrandosi sui processi e sulle azioni durante tutto il ciclo di vita del modello AI/ML (progettazione, approvvigionamento/outsourcing e implementazione).

IA incentrata sui bambini: raddoppiare la responsabilità

Quando i sistemi di IA hanno un impatto sui bambini, la responsabilità è fondamentale. L’adesione all’Age Appropriate Design Code dell’ICO del Regno Unito è fondamentale. Le linee guida dell’UNICEF richiedono di garantire che i sistemi di IA proteggano e responsabilizzino i bambini utenti, indipendentemente dalla loro comprensione del sistema. Le organizzazioni devono anche tenere conto dei diritti dei bambini, inclusa la supervisione di esperti e organismi indipendenti con particolare attenzione ai loro diritti.

In definitiva, la responsabilità nell’IA è un percorso continuo, che richiede una riflessione continua, una valutazione dell’impatto e un impegno a costruire sistemi affidabili.

Come può essere costruito un sistema AI/ML appropriato per estrarre informazioni rilevanti per una gamma di tipi di spiegazione?

Costruire un sistema AI/ML in grado di fornire informazioni rilevanti per vari tipi di spiegazione richiede un’attenta considerazione di diversi fattori, tra cui la selezione del modello, la gestione dei dati e i processi di governance.

Considerazioni chiave per l’interpretabilità

• Contesto, impatto e dominio: Valutare il contesto specifico, l’impatto potenziale e le esigenze specifiche del dominio quando si stabiliscono i requisiti di interpretabilità del progetto.
• Tecniche standard: Fare affidamento su tecniche interpretabili standard quando possibile, bilanciando i rischi specifici del dominio, i dati disponibili e le tecniche AI/ML appropriate.
• Modelli “Black Box”: Se si utilizza un sistema AI “black box”, valutare attentamente i potenziali impatti e i rischi associati, considerare le opzioni per strumenti di interpretabilità supplementari e formulare un piano d’azione per ottimizzare la spiegabilità.
• Comprensione umana: Prestare attenzione sia alle capacità che alle limitazioni della cognizione umana quando si considerano le esigenze di interpretabilità.

Diversi compiti possono facilitare la progettazione e l’implementazione di sistemi AI trasparenti e spiegabili, aiutando a chiarire i risultati per le parti interessate:

Compiti per la gestione della garanzia di spiegabilità

• Compito 1: Selezionare le spiegazioni prioritarie: Identificare i tipi di spiegazione più rilevanti (Motivazione, Responsabilità, Dati, Equità, Sicurezza, Impatto) in base al dominio, al caso d’uso e al potenziale impatto sugli individui.
• Compito 2: Raccogliere e pre-elaborare: Raccogliere e preparare i dati in modo consapevole della spiegazione, considerando le fonti dei dati, la qualità e i potenziali bias. Questo aiuta a costruire varie spiegazioni.
• Compito 3: Progettazione del sistema per l’estrazione di informazioni: Costruire il sistema per estrarre informazioni rilevanti per una gamma di tipi di spiegazione e per costruire modelli interpretabili. Utilizzare la selezione e la formazione del modello in funzione delle esigenze di spiegazione e anche in funzione della scelta tra modelli più spiegabili e sistemi ‘black box’.
• Compito 4: Tradurre la motivazione: Tradurre la motivazione del sistema, incorporandola nel vostro processo decisionale. Le implementazioni degli output dal vostro sistema di intelligenza artificiale dovranno riconoscere ciò che è rilevante per la decisione del risultato a un utente interessato.
• Compito 5: Preparare gli attuatori: Per assicurarsi che utilizzino il modello AI/ML in modo responsabile ed equo. La formazione che ricevono dovrebbe coprire le basi dell’apprendimento automatico, i suoi limiti e come gestire i bias cognitivi.
• Compito 6: Costruire e presentare le spiegazioni: Considerare come le decisioni dovrebbero essere fornite e come altri individui, in base al contesto, potrebbero aspettarsi che spieghiate le vostre decisioni come utente della tecnologia automatizzata assistita dall’AI. Siate aperti a spiegazioni e dettagli aggiuntivi sui rischi di certe azioni o scenari.

Affrontare le preoccupazioni normative e le considerazioni etiche

Quando si sviluppano sistemi di intelligenza artificiale – e in particolare quelli che trattano dati sensibili o decisioni ad alto impatto – il rispetto del GDPR del Regno Unito e di altre normative è fondamentale. Ecco come integrare la spiegabilità in un quadro di conformità:

• Trasparenza: Rendere ovvio l’uso dei processi decisionali AI/ML e spiegare le decisioni in modo logico.
• Responsabilità: Assicurare una supervisione appropriata ed essere ritenuti responsabili da organismi interni ed esterni per qualsiasi decisione assistita da AI/ML.
• Contesto: Non esiste una soluzione “taglia unica” — è fondamentale adattare le spiegazioni al caso d’uso e al pubblico.
• Impatti: Coinvolgere attivamente la supervisione umana nei processi decisionali per evitare effetti potenzialmente dannosi per un utente finale.

Standard di registrazione della trasparenza

Le organizzazioni possono utilizzare risorse come l’Algorithmic Transparency Recording Standard (ATRS), che è un quadro che cattura informazioni sugli strumenti algoritmici e sui sistemi di intelligenza artificiale. Questo aiuta gli enti del settore pubblico a pubblicare apertamente informazioni sui servizi che utilizzano per i processi decisionali.

Compromessi tra sicurezza e spiegabilità

Fate attenzione ai compromessi tra sicurezza e spiegabilità. Mentre la trasparenza può creare delle vulnerabilità, la sua mancanza solleva preoccupazioni su bias, equità e responsabilità. Bilanciare questi aspetti è essenziale.

Come devono prepararsi all’implementazione gli addetti ai sistemi di IA?

L’implementazione responsabile dei sistemi di IA richiede un’attenta preparazione, soprattutto quando l’esplicabilità e la responsabilità sono fondamentali. Gli addetti all’implementazione hanno bisogno di una conoscenza approfondita delle capacità e dei limiti del sistema per garantirne un’applicazione etica ed efficace.

Preparativi chiave per l’implementazione del sistema di IA

Gli addetti all’implementazione devono ricevere una formazione adeguata che comprenda:

• Fondamenti dell’apprendimento automatico: Una comprensione di base del funzionamento degli algoritmi di apprendimento automatico.
• Limitazioni dell’IA: Riconoscimento dei vincoli e delle potenziali insidie dell’IA e delle tecnologie automatizzate di supporto decisionale.
• Analisi rischio-beneficio: Consapevolezza dei vantaggi e dei rischi associati all’implementazione di sistemi di IA per il supporto decisionale.
• Gestione dei pregiudizi cognitivi: Tecniche per mitigare i pregiudizi cognitivi, come il pregiudizio di automazione (eccessiva dipendenza dagli output dell’IA) e il pregiudizio di sfiducia nell’automazione (insufficiente dipendenza dagli output dell’IA).

Gestione per la garanzia dell’esplicabilità

Un’implementazione di successo richiede anche un’accurata gestione per la garanzia dell’esplicabilità, che comprenda queste attività chiave:

• Prioritizzazione delle spiegazioni: Determinazione dei tipi di spiegazioni più importanti (razionale, responsabilità, ecc.) in base al dominio, al caso d’uso e al potenziale impatto sugli individui.
• Raccolta e pre-elaborazione dei dati: Garantire la qualità dei dati, la rappresentatività e affrontare i potenziali pregiudizi durante la raccolta e la pre-elaborazione dei dati. Fondamentale è l’etichettatura corretta dei dati.
• Progettazione del sistema per l’estrazione di informazioni: Costruire il sistema di IA per estrarre informazioni rilevanti per vari tipi di spiegazione, riconoscendo i costi e i benefici dell’utilizzo di modelli di IA più nuovi ma possibilmente meno esplicabili.
• Traduzione della logica del modello: Convertire la logica tecnica dei risultati del sistema in termini comprensibili e giustificare l’incorporazione di inferenze statistiche.
• Costruire e presentare spiegazioni di facile utilizzo: Sviluppare spiegazioni che facilitino la collaborazione tra gli operatori sanitari e i familiari.

Considerazioni quando sono coinvolti dati di bambini

Quando sono in gioco i dati o il benessere dei bambini, sono necessarie ulteriori considerazioni:

• Gli addetti all’implementazione dovrebbero essere formati nella progettazione incentrata sul bambino, una consapevolezza che li aiuterà a implementare misure di salvaguardia che tengano conto delle esigenze e dei diritti speciali dei bambini.
• Comprensione delle normative sulla protezione dei dati, come il Regolamento generale sulla protezione dei dati (GDPR) e il Codice di progettazione adeguato all’età dell’ICO del Regno Unito
• Gli addetti all’implementazione dovrebbero anche essere sottoposti a controlli sui precedenti (ad esempio, il Disclosure and Barring Service – DBS, che è il servizio di controllo dei precedenti del Regno Unito) e ricevere una formazione sulla gestione e sul lavoro efficace con i bambini.

Prepararsi all’implementazione significa qualcosa di più di una configurazione tecnica; significa coltivare un ecosistema di responsabilità, equità e trasparenza.