Audit dell’IA: tipologie, fasi e conformità normativa

Punti chiave

• Un audit dell’IA è un esame strutturato e basato su evidenze di come un sistema di intelligenza artificiale viene progettato, addestrato, distribuito e governato.
• Non va confuso con l’impiego di strumenti di IA da parte dei revisori nell’audit finanziario: in quel caso l’IA è lo strumento, mentre qui è l’oggetto stesso dell’esame.
• Esistono cinque tipologie principali: audit interno, audit esterno di terza parte, valutazione di conformità ai sensi dell’EU AI Act, audit di certificazione ISO/IEC 42001 e audit algoritmico o sui bias.
• Valuta quattro strati (dati, modello, distribuzione, governance) riconducibili alle funzioni Govern, Map, Measure e Manage del NIST AI RMF.
• La direzione verso cui l’intero settore si sta muovendo è quella di un audit continuo e fondato su evidenze, non più una fotografia scattata una tantum.

Che cos’è un audit dell’IA?

Con la diffusione capillare dei sistemi di intelligenza artificiale nei processi aziendali, la domanda che dirigenti, funzioni di controllo e autorità di vigilanza si trovano a porsi è sempre la medesima: siamo in grado di dimostrare che questo sistema fa ciò che dichiara di fare, entro limiti accettabili? L’audit dell’IA nasce proprio per fornire una risposta documentata a questo interrogativo. Un audit dell’IA è un esame strutturato e fondato su evidenze del modo in cui un sistema di intelligenza artificiale viene progettato, addestrato, distribuito e governato (IBM). Non si limita a osservare il comportamento del modello: risale a monte, verso i dati di addestramento e le scelte di progettazione, e prosegue a valle, verso l’uso reale in produzione e i presidi di sorveglianza. È questa continuità lungo l’intero ciclo di vita a distinguerlo da una semplice verifica tecnica puntuale. Occorre sgombrare il campo da un equivoco frequente. L’espressione «audit dell’IA» non indica l’impiego di strumenti di intelligenza artificiale da parte dei revisori per svolgere un audit contabile o finanziario. In quello scenario l’IA è lo strumento che accelera il lavoro del revisore; nell’audit dell’IA, al contrario, il sistema di IA costituisce l’oggetto stesso dell’indagine. Confondere i due piani porta a sottostimare le competenze necessarie, che spaziano dalla scienza dei dati alla governance, dalla sicurezza informatica al diritto. L’esito di un audit ben condotto non si esaurisce in un giudizio binario di conformità. Si articola invece in tre componenti: i rilievi (le carenze e i punti di forza riscontrati), le misure di mitigazione raccomandate per colmare gli scarti e un impianto di monitoraggio che tenga il sistema sotto controllo nel tempo. La verifica dell’auditabilità del sistema, ossia della sua predisposizione a essere ispezionato in modo tracciabile, rappresenta il presupposto tecnico senza il quale nessuno di questi tre esiti risulta davvero difendibile.

Audit dell’IA e audit IT tradizionale a confronto

Chi proviene dall’audit informatico tende ad applicare gli schemi consueti, ma l’IA introduce tre elementi che quegli schemi non contemplano. Il primo è la deriva del modello (model drift): le prestazioni non restano stabili come quelle di un software deterministico, bensì degradano man mano che i dati reali si allontanano da quelli su cui il modello è stato addestrato. Il secondo è la provenienza dei dati (data provenance): non basta sapere quale sistema elabora un dato, occorre ricostruire da dove quel dato provenga, con quali licenze e con quali possibili distorsioni incorporate. Il terzo è l’opacità decisionale: molti modelli restituiscono un esito senza esplicitare il percorso logico che vi conduce, il che impone all’audit di introdurre prove di spiegabilità là dove l’audit IT classico si accontentava della tracciabilità delle transazioni.

Perché gli audit dell’IA contano adesso

La spinta più immediata proviene dal quadro normativo, che nel giro di pochi anni è passato da raccomandazioni volontarie a obblighi cogenti. In Europa, l’EU AI Act e le altre leggi sull’intelligenza artificiale impongono obblighi di valutazione della conformità per i sistemi ad alto rischio. Oltreoceano, il Colorado AI Act introduce doveri di diligenza per gli sviluppatori e i deployer di sistemi che incidono su decisioni rilevanti, mentre la Local Law 144 di New York impone da tempo un audit annuale sui bias per gli strumenti automatizzati di selezione del personale. Un’organizzazione che operi su più giurisdizioni si trova così a dover reggere requisiti di audit sovrapposti e non del tutto allineati. Accanto alla pressione normativa agisce la dimensione del rischio operativo. I sistemi di IA possono produrre discriminazioni sistematiche verso gruppi protetti, generare contenuti errati ma plausibili (le cosiddette allucinazioni), far trapelare dati riservati attraverso prompt manipolati o input di addestramento mal gestiti, e degradare silenziosamente per effetto della deriva. Ciascuno di questi fenomeni si traduce, se non intercettato, in danno reputazionale, contenzioso o sanzione. Va poi tenuto presente il fenomeno della shadow AI, ossia l’adozione di strumenti di intelligenza artificiale da parte di singoli reparti al di fuori di ogni presidio centrale di governance. Un audit serve anche a far emergere questi sistemi sommersi, che spesso trattano dati aziendali senza controlli e che sfuggono a qualsiasi inventario ufficiale. Sullo sfondo resta la posta in gioco più ampia: la fiducia. Clienti, dipendenti e regolatori concedono la loro fiducia a un uso dell’IA che sia dimostrabilmente responsabile, e l’audit è lo strumento che trasforma le dichiarazioni di principio in evidenze verificabili.

Le cinque tipologie di audit dell’IA

Non esiste un unico modello di audit dell’IA, bensì una famiglia di esercizi che si distinguono per soggetto verificatore, finalità e valore probatorio. L’audit interno è condotto dalle funzioni di controllo dell’organizzazione stessa. Il riferimento metodologico più diffuso è il modello delle Tre Linee dell’Institute of Internal Auditors, che separa la titolarità operativa del rischio (prima linea), le funzioni di supervisione e conformità (seconda linea) e l’audit interno indipendente (terza linea). Questa architettura previene il conflitto di interessi in cui chi costruisce il sistema finirebbe per giudicarne la bontà. L’audit esterno, o di terza parte, viene affidato a un soggetto indipendente rispetto all’organizzazione. Il suo valore risiede proprio nell’indipendenza: un giudizio esterno pesa di più agli occhi di clienti, investitori e autorità rispetto a un’autovalutazione, per quanto rigorosa. La valutazione di conformità ai sensi dell’EU AI Act costituisce una categoria a sé. L’Articolo 43 del regolamento distingue due percorsi per i sistemi ad alto rischio: quello basato sul controllo interno (Allegato VI), in cui il fornitore verifica autonomamente la conformità, e quello che coinvolge un organismo notificato (Allegato VII), con una valutazione esterna del sistema di gestione della qualità e della documentazione tecnica. La scelta del percorso dipende dalla categoria del sistema e dagli standard armonizzati applicati. L’audit di certificazione ISO/IEC 42001 verifica la conformità del sistema di gestione dell’IA allo standard internazionale, condotto da un organismo di certificazione accreditato. A differenza della valutazione EU AI Act, che riguarda un singolo prodotto, la certificazione ISO/IEC 42001 attesta la maturità del sistema di gestione della conformità nel suo complesso. L’audit algoritmico, o audit sui bias, si concentra in modo mirato sull’equità del sistema verso i diversi gruppi. La lista di controllo pubblicata dal Comitato europeo per la protezione dei dati nell’ambito del programma di supporto E2EST/AA fornisce un riferimento operativo per questa verifica (EDPB), particolarmente rilevante quando il trattamento coinvolge dati personali e ricade quindi anche sotto l’attenzione del Garante per la Protezione dei Dati Personali.

Che cosa valuta un audit dell’IA

Un audit maturo non affronta il sistema come un blocco monolitico, ma lo scompone in quattro strati che vengono esaminati in sequenza e poi riconnessi. Il primo strato è quello dei dati. Qui l’attenzione si rivolge alla provenienza dei set di addestramento, alla loro rappresentatività, alla presenza di distorsioni storiche incorporate, alla base giuridica del trattamento e alla qualità complessiva. Un dato viziato all’origine compromette qualunque modello, per quanto sofisticato. Il secondo strato è il modello. Le verifiche riguardano la presenza di bias dell’IA tra i gruppi protetti, misurata con metriche di equità quantitative, la robustezza rispetto a input avversari o anomali e la spiegabilità delle decisioni. L’obiettivo è accertare che il comportamento del modello sia non soltanto accurato in media, ma anche equo e interpretabile nei casi limite, dove il bias algoritmico tende a manifestarsi con maggiore intensità. Il terzo strato è la distribuzione, ovvero il sistema in produzione. Vi rientrano l’efficacia della sorveglianza umana (human oversight), le misure di sicurezza a protezione del sistema e la gestione della deriva nel tempo. Un modello ineccepibile in laboratorio può rivelarsi inaffidabile una volta esposto a input reali privi di adeguati presidi di controllo. Il quarto strato è la governance. Qui l’audit verifica la chiarezza dei ruoli e delle responsabilità, la completezza della documentazione, la conduzione sistematica delle valutazioni del rischio e, soprattutto, la disponibilità di evidenze a sostegno di ciascun controllo dichiarato. Questi quattro strati trovano una corrispondenza naturale nelle funzioni del NIST AI RMF. La funzione Govern presidia ruoli e cultura del rischio; Map inquadra il contesto e identifica i rischi; Measure ne quantifica l’entità con metriche appropriate; Manage assegna priorità e attua le mitigazioni (NIST). Ricondurre gli strati dell’audit a queste funzioni offre un linguaggio comune e riconosciuto a livello internazionale.

Come condurre un audit dell’IA: passo dopo passo

Un audit efficace segue una progressione ordinata, in cui ogni fase prepara la successiva.

1. Definire il perimetro e costruire l’inventario. Il primo passo consiste nel delimitare con precisione i sistemi oggetto di verifica e nel censirli in modo esaustivo, senza tralasciare i modelli incorporati in software di terze parti né gli strumenti adottati fuori dai canali ufficiali. Un inventario incompleto vizia tutto ciò che segue.
2. Mappare il ciclo di vita. Occorre ricostruire l’intero percorso del sistema, dai dati di origine fino all’output consegnato all’utente. La System Map proposta dal Comitato europeo per la protezione dei dati offre uno schema utile per rappresentare in modo strutturato flussi, componenti e punti di controllo.
3. Valutare i dati. In questa fase si esamina la qualità, la provenienza e la rappresentatività dei dati, insieme alla legittimità del loro trattamento. È il momento in cui emergono le distorsioni ereditate dalle fonti.
4. Valutare il modello. Il cuore tecnico dell’audit consiste nelle prove di bias e nel calcolo delle metriche di equità. Tra le più utilizzate figurano la differenza di rischio (risk difference), la parità demografica (demographic parity), le pari opportunità (equal opportunity) e le probabilità equalizzate (equalized odds), tutte richiamate nella documentazione del Comitato europeo per la protezione dei dati. Nessuna singola metrica è sufficiente da sola: la scelta dipende dal contesto d’uso e dal tipo di equità che si intende tutelare.
5. Valutare distribuzione e sicurezza. L’attenzione si sposta sulla superficie di attacco (attack surface) del sistema, sulle vulnerabilità specifiche dell’IA e sulla capacità di mantenere una visibilità continua sul comportamento in produzione (Wiz). Un sistema non monitorato è un sistema che nessuno può davvero certificare come sicuro.
6. Verificare governance e documentazione. Qui si controlla che ruoli, politiche e valutazioni del rischio siano formalizzati e aggiornati. Strumenti come la Model Card, anch’essa raccomandata dal Comitato europeo, sintetizzano in modo standardizzato le caratteristiche e i limiti del modello, agevolando sia l’audit sia la documentazione del sistema di IA.
7. Redigere il rapporto e pianificare la rimediazione. I rilievi vengono consolidati, classificati per gravità e tradotti in un piano di intervento con responsabili e scadenze definite.
8. Monitorare in modo continuo. L’ultima fase non chiude il ciclo, lo riapre: si predispongono controlli ricorrenti affinché il sistema resti conforme anche dopo la conclusione formale dell’audit.

Il panorama normativo e dei framework

Chi imposta un programma di audit deve orientarsi tra riferimenti che si sovrappongono senza coincidere. L’EU AI Act è il perno del sistema europeo. Il suo Articolo 43 prevede, per i sistemi ad alto rischio, i due percorsi già richiamati: controllo interno (Allegato VI) oppure coinvolgimento di un organismo notificato (Allegato VII). Gli organismi notificati abilitati a svolgere queste valutazioni sono censiti nella banca dati NANDO della Commissione europea, che ne attesta l’accreditamento e l’ambito di competenza. Lo standard ISO/IEC 42001 fornisce invece la struttura per un sistema di gestione dell’IA certificabile. Il percorso di certificazione si articola in due momenti: uno Stage 1, incentrato sull’esame documentale e sulla prontezza dell’organizzazione, e uno Stage 2, dedicato alla verifica sul campo dell’effettiva attuazione dei controlli. Il certificato ottenuto ha validità triennale ed è soggetto a sorveglianza annuale, il che impone di mantenere il sistema di gestione vivo e aggiornato nel tempo (Schellman). Questo aspetto lo rende un tassello naturale di un più ampio sistema di gestione della conformità. Il NIST AI RMF non è uno standard certificabile, bensì un framework volontario che offre un vocabolario condiviso e un modello di gestione del rischio articolato nelle quattro funzioni Govern, Map, Measure e Manage. La sua flessibilità lo rende un ottimo collante tra requisiti diversi. Il framework delle Tre Linee dell’Institute of Internal Auditors, infine, fornisce l’impianto organizzativo che assicura l’indipendenza della funzione di audit rispetto a chi gestisce operativamente il rischio. Nella pratica questi riferimenti non si escludono: un’organizzazione matura li combina, usando il NIST AI RMF per strutturare il rischio, ISO/IEC 42001 per certificare la gestione e l’EU AI Act per soddisfare l’obbligo di legge.

Checklist per l’audit dell’IA

Prima di avviare o di considerare concluso un audit, conviene verificare la presenza dei seguenti elementi. Ciascuno di essi dovrebbe poggiare su documentazione tracciabile del sistema di IA.

• Governance e titolarità: ogni sistema ha un responsabile identificato e un presidio di governance definito.
• Inventario completo: sono censiti tutti i sistemi, compresi quelli incorporati in prodotti di terze parti e quelli acquisiti come servizio.
• Dati documentati: provenienza, qualità, base giuridica e rappresentatività dei set di dati sono descritte e verificabili.
• Modello documentato: prestazioni, limiti, metriche di equità e prove di robustezza sono registrate, idealmente in una Model Card.
• Sicurezza e minacce specifiche dell’IA: la superficie di attacco è mappata e le vulnerabilità proprie dei sistemi di IA sono presidiate.
• Sorveglianza umana: i punti in cui un operatore può intervenire, correggere o bloccare il sistema sono definiti e realmente praticabili.
• Documentazione completa: la documentazione tecnica include, ove pertinente, la valutazione d’impatto sulla protezione dei dati (DPIA).
• Monitoraggio continuo e gestione degli incidenti: sono attivi controlli ricorrenti e una procedura di segnalazione degli incidenti.
• Evidenze collegate ai controlli: a ciascun controllo dichiarato corrisponde un’evidenza aggiornata e reperibile.

Dall’audit puntuale all’audit continuo dell’IA

Il limite strutturale dell’audit tradizionale risiede nella sua natura di fotografia. Un audit condotto in un dato momento certifica lo stato del sistema in quell’istante, ma i sistemi di IA cambiano di continuo: i dati evolvono, i modelli vengono riaddestrati, i comportamenti derivano. Una certificazione ottenuta a gennaio può non riflettere più la realtà di giugno, e questa distanza tra il documento e il sistema reale è precisamente ciò che le autorità intendono colmare. Le aspettative dei regolatori si stanno infatti spostando verso una conformità dimostrabile nel tempo, non più circoscritta a un singolo momento. La sorveglianza annuale prevista da ISO/IEC 42001 e l’obbligo dell’EU AI Act di mantenere la conformità lungo l’intero ciclo di vita del sistema convergono nella stessa direzione: la conformità va tenuta, non solo conquistata. L’audit continuo risponde a questa esigenza sostituendo la verifica episodica con un collegamento permanente tra ciascun controllo e l’evidenza che lo sostiene. Quando l’evidenza si aggiorna, lo stato del controllo si aggiorna con essa, e ogni scostamento diventa visibile nel momento stesso in cui si produce anziché mesi dopo, in sede di audit successivo. Perché questo modello funzioni serve un’infrastruttura che tenga costantemente allineati l’inventario dei sistemi, lo stato dei controlli e la pista di controllo (audit trail). È qui che una piattaforma di governance come AI Sigil diventa determinante. Mantenendo in un unico luogo l’inventario dei sistemi di IA (inclusi gli agenti IA autonomi e i modelli incorporati), lo stato aggiornato di ogni controllo e una traccia immutabile delle modifiche, la piattaforma trasforma l’audit da esercizio periodico a condizione permanente. Il risultato è un software di gestione della conformità dell’IA che rende l’evidenza sempre pronta e la conformità sempre dimostrabile.

Domande frequenti

Quanto costa un audit dell’IA? Non esiste un prezzo di listino: il costo dipende dal perimetro, dal numero di sistemi coinvolti, dal loro livello di rischio e dalla tipologia di audit. Un audit interno impegna soprattutto risorse proprie, mentre una certificazione ISO/IEC 42001 o una valutazione di conformità EU AI Act con organismo notificato comportano oneri esterni più elevati. Conviene ragionare in termini di investimento nella riduzione del rischio piuttosto che di sola spesa, considerando anche il costo di un approccio etico all’IA mancato. Come si diventa auditor dell’IA? Il percorso combina competenze di scienza dei dati, governance, sicurezza e diritto. Sul piano delle certificazioni professionali, ISACA ha introdotto la qualifica Advanced in AI Audit (AAIA), mentre l’Institute of Internal Auditors offre risorse e percorsi formativi dedicati all’audit dei sistemi di IA. La combinazione di una base tecnica e di una solida cultura del controllo interno resta il profilo più richiesto. Quali framework si utilizzano? I riferimenti principali sono l’EU AI Act per l’obbligo normativo europeo, lo standard ISO/IEC 42001 per la certificazione del sistema di gestione, il NIST AI RMF per la strutturazione del rischio e il framework delle Tre Linee dell’Institute of Internal Auditors per l’assetto organizzativo dell’audit. Nella pratica vengono adottati in combinazione. Con quale frequenza va condotto? La prassi consolidata prevede una cadenza almeno annuale, integrata da un audit straordinario ogni volta che il sistema subisce un cambiamento sostanziale: un riaddestramento significativo, l’estensione a un nuovo contesto d’uso o una modifica rilevante dei dati. Tra un audit e l’altro, il monitoraggio continuo colma l’intervallo. È obbligatorio? Dipende dal sistema e dalla giurisdizione. L’EU AI Act rende obbligatoria la valutazione di conformità per i sistemi classificati ad alto rischio, e la Local Law 144 di New York impone un audit annuale sui bias per gli strumenti automatizzati di selezione del personale. Al di fuori di questi casi l’audit resta formalmente volontario, ma è sempre più atteso da clienti, partner e investitori.

Conclusione

L’audit dell’IA è passato, nel giro di pochi anni, dall’essere una buona pratica facoltativa a costituire un tassello ineludibile della governance dell’intelligenza artificiale. Abbiamo visto che cosa lo distingue da un audit IT tradizionale, quali cinque tipologie lo compongono, quali quattro strati esamina e come si articola in una sequenza ordinata di fasi, riconducibile ai framework internazionali di riferimento. Il messaggio di fondo è uno solo: la conformità dell’IA non si dimostra una volta sola, si mantiene nel tempo, e questo impone il passaggio da un audit puntuale a un audit continuo fondato su evidenze sempre aggiornate. Per compiere questo passaggio serve un’infrastruttura che tenga allineati inventario, controlli ed evidenze senza sforzo manuale. La piattaforma di gestione del rischio dell’IA di AI Sigil è progettata esattamente per questo: trasformare l’audit da adempimento periodico in una condizione permanente e dimostrabile della vostra organizzazione.