Auditabilità dell’IA: cosa rende un sistema verificabile (e come dimostrarlo)

In sintesi

• L’auditabilità indica il grado in cui i dati, le decisioni e il comportamento di un sistema di IA possono essere esaminati e verificati in modo indipendente, a posteriori.
• Non è più una buona pratica facoltativa: l’articolo 12 del regolamento sull’IA impone la registrazione automatica degli eventi per i sistemi ad alto rischio, per tutto il loro ciclo di vita.
• Cinque componenti rendono un sistema verificabile: tracciabilità, registrazione degli eventi, documentazione, registrazione delle decisioni e della sorveglianza umana e prove collegate a ciascuna misura.
• L’auditabilità si distingue dalla trasparenza, dalla spiegabilità e dalla responsabilità: è la proprietà che consente a un terzo di ricostruire ciò che è accaduto e di controllarlo.
• Il caso più complesso è l’IA non deterministica (grandi modelli linguistici e agenti), in cui la pista di controllo deve catturare i passaggi del ragionamento e le chiamate agli strumenti, non solo la risposta finale.

Che cosa si intende per auditabilità?

L’auditabilità indica la misura in cui i dati, le azioni e le decisioni di un sistema possono essere esaminati e verificati in modo indipendente dopo che si sono verificati. Un sistema è verificabile quando un terzo (un revisore interno, un’autorità, il team rischi di un cliente) può ricostruire ciò che ha fatto, su quali dati in ingresso e sotto quale autorità, e poi confermare che la registrazione è completa e non è stata alterata.

Il termine somiglia ad « audibilità », che riguarda il suono, ma le due nozioni non hanno alcun rapporto. Nella ricerca, l’auditabilità assume un senso più stretto (la possibilità per un altro ricercatore di seguire e confermare il procedimento), ma il principio resta identico: una traccia documentata e controllabile.

Per gran parte della storia dell’informatica, l’auditabilità è stata una proprietà dei sistemi finanziari e dei controlli informatici. L’IA cambia la posta in gioco. Quando un modello prende o orienta una decisione che riguarda una persona (un prestito, una diagnosi, una selezione di candidature), rispondere « lo ha deciso il sistema » non regge. L’auditabilità trasforma un risultato opaco in una prova di cui ci si può assumere la responsabilità.

Auditabilità, trasparenza, tracciabilità, spiegabilità e responsabilità

Questi termini si sovrappongono ma non sono intercambiabili:

• La trasparenza è divulgazione: comunicare che l’IA è in uso e come funziona a grandi linee.
• La spiegabilità è motivazione: mostrare perché un modello ha prodotto un determinato risultato.
• La tracciabilità è provenienza: collegare un risultato ai dati, alla versione del modello e alla configurazione che lo hanno generato.
• La responsabilità indica chi risponde dell’esito.
• L’auditabilità è la proprietà che rende verificabili le altre quattro. È la traccia registrata e a prova di manomissione che consente a un terzo di controllare le affermazioni.

Un modello può essere trasparente e tuttavia non verificabile, se nessuna traccia duratura dimostra che cosa sia realmente accaduto in produzione.

Perché l’auditabilità conta per l’IA

Il software tradizionale è deterministico: lo stesso input produce lo stesso output e il codice è la spiegazione. I sistemi di IA funzionano diversamente. Il loro comportamento dipende dai dati di addestramento, dai pesi del modello, dalla configurazione e da input che mutano nel tempo. Cambia così ciò che la governance deve dimostrare: non più « fidarsi del risultato », ma « provare il processo ».

Quattro forze rendono l’auditabilità imprescindibile per l’IA:

• La regolamentazione. Il regolamento sull’IA, le regole settoriali e le nuove leggi nazionali richiedono ormai log, documentazione e registri producibili su richiesta.
• L’indagine dopo un incidente. Quando un sistema di IA provoca un danno o si comporta in modo inatteso, la prima domanda è « che cosa è successo? ». Senza una pista di controllo, resta senza risposta.
• La deriva. I modelli si degradano e si spostano. Solo una registrazione continua consente di rilevare che un sistema non si comporta più come era stato convalidato.
• La fiducia commerciale. I grandi acquirenti e gli uffici acquisti chiedono sempre più prove di governance prima di firmare. L’auditabilità è quella prova.

Che cosa rende verificabile un sistema di IA: cinque componenti

L’auditabilità non è una funzione che si attiva. È il risultato di cinque componenti che operano insieme.

1. Tracciabilità. Ogni risultato dovrebbe essere collegabile ai dati utilizzati, alla versione del modello che lo ha prodotto e alla configurazione in vigore in quel momento. La provenienza dei dati e dei modelli ne è l’ossatura.
2. Registrazione degli eventi. Il sistema deve registrare automaticamente gli eventi significativi: input, output, errori, modifiche di configurazione, interventi umani. I log devono essere immutabili e a prova di manomissione, perché chi esamina possa fidarsi di una traccia non ritoccata.
3. Documentazione. Documentazione tecnica, schede del modello e schede dei dataset descrivono che cos’è il sistema, su che cosa è stato addestrato e quali sono i suoi limiti noti. È la controparte statica dei log dinamici.
4. Registrazione delle decisioni e della sorveglianza. Quando una persona esamina, approva o annulla una decisione dell’IA, quell’atto va registrato. La sorveglianza umana ha senso solo se lascia una traccia.
5. Prove collegate alle misure. Ogni misura di governance (test sui bias, controllo degli accessi, conservazione) dovrebbe rimandare a una prova concreta della sua applicazione. Chi verifica controlla le misure a partire dalle prove, non dalle promesse.

Le guide generiche si fermano a « trasparenza, responsabilità, tracciabilità, integrità, documentazione ». Per l’IA, l’aggiunta decisiva è il legame tra ciascuna misura e la prova che la sostiene, perché è esattamente ciò che una verifica controlla.

Il mandato normativo: che cosa richiede davvero la legge

L’auditabilità era un tempo una questione di buona pratica. Per l’IA diventa un obbligo giuridico.

Regolamento sull’IA, articolo 12 (conservazione delle registrazioni)

Il regolamento sull’IA è esplicito. L’articolo 12, paragrafo 1, recita: « I sistemi di IA ad alto rischio consentono tecnicamente la registrazione automatica degli eventi (log) per tutta la durata del ciclo di vita del sistema. » La parola decisiva è « automatica »: un quaderno tenuto a mano non basta.

I log devono sostenere tre finalità: (a) individuare le situazioni in cui il sistema può presentare un rischio, (b) facilitare il monitoraggio successivo all’immissione sul mercato previsto dall’articolo 72 e (c) monitorare il funzionamento del sistema ai sensi dell’articolo 26, paragrafo 5. Per l’identificazione biometrica a distanza, l’articolo 12 si spinge oltre ed elenca campi minimi, tra cui il periodo di ogni utilizzo, la banca dati di riferimento, i dati di input e le persone che hanno verificato i risultati.

La conservazione è disciplinata dagli articoli 19 e 26, che fissano un minimo di sei mesi, salvo che altre norme impongano periodi più lunghi. Gli obblighi per i sistemi ad alto rischio dell’allegato III si applicano dal 2 agosto 2026 e le violazioni espongono a sanzioni fino a 15 milioni di euro o al 3 % del fatturato annuo mondiale. Il testo non prescrive un formato di log. Le norme tecniche (come prEN 18229-1 e ISO/IEC DIS 24970) sono ancora in elaborazione: meglio progettare fin d’ora una registrazione seria piuttosto che attendere.

Regolamento sull’IA, articolo 11 e allegato IV (documentazione tecnica)

I log sono la metà dinamica dell’auditabilità. L’articolo 11 copre la metà statica: la documentazione tecnica, redatta prima dell’immissione sul mercato di un sistema ad alto rischio e mantenuta aggiornata, secondo la struttura dell’allegato IV. Insieme, gli articoli 11 e 12 definiscono la registrazione documentale e operativa che un sistema ad alto rischio deve mantenere.

ISO/IEC 42001

La ISO/IEC 42001:2023, prima norma certificabile per i sistemi di gestione dell’IA, traduce queste aspettative in misure verificabili. Il controllo A.6.2.8 dell’allegato A (registrazione dei log degli eventi) è, in pratica, il controllo della pista di audit: è ciò che un auditor di certificazione ispeziona per confermare che una traccia esista. La certificazione richiede inoltre la tracciabilità delle decisioni dell’IA, delle valutazioni del rischio e delle misure applicate lungo il ciclo di vita.

NIST AI RMF

Il quadro per la gestione dei rischi dell’IA del NIST organizza la governance in quattro funzioni (Govern, Map, Measure, Manage). La tracciabilità e la documentazione le attraversano tutte. Il NIST non certifica, ma indica come attuare le misure e si combina naturalmente con la cornice della ISO 42001.

Come rendere verificabili i vostri sistemi di IA: un modello operativo

Soddisfare questi requisiti è un programma, non un progetto isolato. Una sequenza praticabile:

1. Inventariate i vostri sistemi di IA. Non si verifica ciò che non è stato censito. La shadow AI, cioè gli strumenti adottati al di fuori della governance, è il punto cieco più frequente.
2. Definite che cosa registrare per ciascun sistema. Collegate ogni sistema alle tre finalità dell’articolo 12 e scegliete gli eventi rilevanti: input, output, annullamenti, modifiche di configurazione.
3. Rendete i log immutabili e fissate una conservazione. Usate un archivio a prova di manomissione e un periodo di almeno sei mesi, più lungo dove il diritto settoriale lo richiede.
4. Tenete aggiornate la documentazione tecnica e le schede del modello. Fatele vivere a ogni evoluzione, non una sola volta al lancio.
5. Registrate la sorveglianza umana. Annotate ogni esame, approvazione e annullamento, affinché la sorveglianza sia dimostrabile e non presunta.
6. Collegate ogni misura alla sua prova. Per ciascuna misura, conservate l’artefatto che ne attesta l’applicazione e mantenete attivo il collegamento.
7. Svolgete audit di preparazione. Mettete alla prova la traccia prima che lo facciano un’autorità o un cliente. Un audit socio-tecnico end-to-end, come lo descrivono i lavori dell’EDPB sull’audit algoritmico, esamina insieme dati, modello e processo, non i soli output.

La logica del controllo interno aiuta: trattate ogni capacità di IA come qualcosa che deve produrre prove di audit, come fanno i controlli finanziari nell’ambito di quadri come il COSO. In Italia, il Garante per la protezione dei dati personali e l’AgID offrono riferimenti utili su registrazione e sicurezza dei trattamenti.

Il caso difficile: verificare l’IA non deterministica (LLM e agenti)

Registrare un motore di regole deterministico è semplice. Registrare un grande modello linguistico o un agente autonomo lo è meno, perché la stessa richiesta può produrre output diversi e il sistema concatena azioni attraverso più strumenti e fonti di dati.

Per questi sistemi, la pista di controllo deve catturare molto più della risposta finale: la richiesta e la risposta, il modello e la sua versione, le chiamate agli strumenti effettuate dall’agente e i passaggi intermedi. Il controllo A.6.2.8 della ISO/IEC 42001 diventa, di fatto, il registro del ragionamento dell’agente. L’obiettivo non è rendere deterministico un sistema probabilistico, cosa impossibile, ma rendere ricostruibile ogni esecuzione: che cosa è stato chiesto, che cosa ha fatto il sistema e che cosa ha restituito. Quando un agente opera attraverso sistemi connessi, questa traccia ricostruibile è l’unica base per attribuire le responsabilità a posteriori.

Domande frequenti

Che cosa significa auditabilità? L’auditabilità indica la misura in cui i dati, le azioni e le decisioni di un sistema possono essere esaminati e verificati in modo indipendente a posteriori. Per l’IA significa che un terzo può ricostruire ciò che un sistema ha fatto, su quali input e sotto quale autorità, e può fidarsi di una traccia completa e intatta.

Perché l’auditabilità è importante? Perché trasforma un output di IA opaco in una prova difendibile. È la base della conformità normativa, dell’indagine dopo un incidente, del rilevamento della deriva e della fiducia commerciale che oggi gli acquirenti richiedono. Senza di essa, « lo ha deciso il modello » resta l’unica spiegazione, e non convince né un’autorità né un giudice.

Auditabilità o audibilità: qual è la differenza? Sono due parole distinte. L’audibilità riguarda ciò che può essere udito. L’auditabilità riguarda ciò che può essere sottoposto ad audit, esaminato e verificato a posteriori. La somiglianza sta solo nella grafia.

Qual è la differenza tra auditabilità e responsabilità? La responsabilità indica chi risponde di un esito. L’auditabilità è la prova registrata che rende verificabile quella responsabilità. Si può attribuire una responsabilità sulla carta, ma senza auditabilità non si può dimostrare chi ha fatto che cosa, e la responsabilità diventa difficile da far valere.

Il regolamento sull’IA richiede l’auditabilità? Sì, per i sistemi ad alto rischio. L’articolo 12 impone la registrazione automatica degli eventi per tutto il ciclo di vita, l’articolo 11 impone la documentazione tecnica e gli articoli 19 e 26 fissano una conservazione minima di sei mesi. Questi obblighi dell’allegato III si applicano dal 2 agosto 2026, con sanzioni fino a 15 milioni di euro o al 3 % del fatturato mondiale.

Come si rende verificabile un sistema di IA? Censite il sistema, definite gli eventi da registrare in funzione delle finalità dell’articolo 12, conservate i log in modo immutabile con un periodo di conservazione, tenete aggiornate la documentazione tecnica e le schede del modello, registrate la sorveglianza umana e collegate ogni misura alla prova che la sostiene. Svolgete poi un audit di preparazione per mettere alla prova la traccia prima che lo faccia qualcun altro.

Qual è la differenza tra auditabilità e spiegabilità? La spiegabilità mostra perché un modello ha prodotto un determinato output. L’auditabilità mostra che esiste una traccia completa e verificabile di ciò che è accaduto. Un sistema può essere spiegabile in una dimostrazione e non superare un audit perché in produzione non è stato registrato nulla. L’auditabilità è ciò che rende le spiegazioni verificabili in seguito.

Conclusione

L’auditabilità è il livello di prova della governance dell’IA. È ciò che separa un sistema che si può difendere da uno di cui si spera soltanto che si comporti bene. Il regolamento sull’IA, la ISO/IEC 42001 e il NIST AI RMF convergono sulla stessa aspettativa: i sistemi di IA devono conservare registrazioni che un terzo indipendente possa esaminare e di cui possa fidarsi. Il lavoro consiste nel costruire questa capacità in modo deliberato, attraverso la tracciabilità, una registrazione immutabile, una documentazione aggiornata, la registrazione della sorveglianza e prove collegate alle misure. AI Sigil offre ai team di governance un unico luogo per raccogliere queste prove, collegarle alle misure e produrre la pista di audit su richiesta, così che, quando la domanda è « dimostratelo », la risposta sia già agli atti.