Shadow AI: colmare il divario di governance dell’IA

In sintesi

• Lo shadow AI, o IA ombra, è l’uso di strumenti, modelli o servizi di IA senza che le persone responsabili di dati, rischio e conformità ne siano a conoscenza o ne mantengano il controllo.
• Il fenomeno è diffusissimo. Secondo Gartner, il 68 per cento dei dipendenti usa strumenti di IA non autorizzati, contro il 41 per cento del 2023, e gran parte di questo uso non passa mai da una richiesta di approvazione.
• La lettura consueta, quella di un problema di fuga di dati, resta incompleta. Lo shadow AI è anzitutto un difetto di governance: è l’IA che non è mai finita nel vostro inventario.
• In base al regolamento sull'IA, gli obblighi ricadono sull’organizzazione a prescindere da come lo strumento sia stato adottato. Un inventario dell’IA incompleto costituisce quindi di per sé una lacuna di conformità.
• La risposta non è il divieto. È la scoperta, un registro dell’IA centrale, una responsabilità chiara e una classificazione del rischio: il lavoro che trasforma un’IA subita in un’IA governata.

Che cos’è lo shadow AI?

Lo shadow AI è l’uso di strumenti, modelli o servizi di intelligenza artificiale da parte di dipendenti o team, senza l’approvazione e la supervisione di chi risponde di dati, rischio e conformità. Nella pratica è la responsabile marketing che scrive le campagne in un account personale di un chatbot, l’analista che incolla un file cliente in un modello gratuito per farselo riassumere, e lo sviluppatore che accetta codice da un assistente che la sicurezza non ha mai esaminato. Una precisazione sul termine, perché circolano due significati. In italiano l’espressione «IA ombra» rende bene l’idea di un’IA presente ma invisibile. In un contesto di governance e conformità, lo shadow AI indica un uso non sanzionato e non governato dell’IA all’interno dell’organizzazione, erede diretto dello shadow IT. Il tratto decisivo è l’invisibilità. Lo strumento funziona, la persona diventa più produttiva e nessuno tra i responsabili della supervisione sa che il sistema esiste. È proprio questo scarto tra l’IA su cui l’organizzazione realmente funziona e l’IA di cui può rendere conto a costituire l’intero problema. La nostra analisi sul divario di governance legato allo shadow AI lo imposta allo stesso modo: non si governa ciò che non si è visto.

Shadow AI e shadow IT

Lo shadow IT ha insegnato a un’intera generazione di team di sicurezza che gli usi corrono più veloci dei processi di approvazione. Lo shadow AI condivide questa radice, ma aggiunge due proprietà che ne acuiscono il rischio. Anzitutto, il dato non si limita a risiedere in un’applicazione non approvata: esce dal perimetro e diventa un input che un modello di terze parti può conservare o riutilizzare per il proprio addestramento. In secondo luogo, l’output non è deterministico, per cui la stessa richiesta può produrre risposte diverse e un testo convincente può rivelarsi falso. Uno strumento di condivisione mal configurato lascia trapelare ciò che vi si deposita. Un modello non governato può lasciar trapelare ciò che gli si affida e, per giunta, orientare una decisione lungo il percorso.

Perché lo shadow AI si diffonde così in fretta

Tre forze alimentano l’adozione. L’IA generativa è arrivata prima come prodotto di consumo: i dipendenti l’hanno incontrata a casa prima che la governance la incontrasse al lavoro. Il guadagno di produttività è immediato e personale, il che rende questi strumenti difficili da rimuovere. E l’accesso avviene senza attrito: bastano una scheda del browser e un indirizzo e-mail, senza un passaggio di acquisto a rallentare nessuno. I numeri descrivono un comportamento quasi generale, non un margine. Gartner rileva il 68 per cento di dipendenti che usano strumenti di IA non autorizzati, contro il 41 per cento del 2023. Le rilevazioni raccolte nel rapporto State of Shadow AI di UpGuard vanno oltre: l’81 per cento dei dipendenti e l’88 per cento dei responsabili della sicurezza ammette un uso non approvato. La crescita complessiva dello shadow AI è stimata intorno al 156 per cento tra il 2023 e il 2025, con gli assistenti conversazionali generalisti a concentrare la stragrande maggioranza dell’attività non sanzionata. Il punto da cogliere è che non si tratta di pochi profili junior che sperimentano ai margini. Dirigenti e figure tecniche esperte figurano tra gli utenti più intensi, proprio coloro che trattano il materiale più sensibile. Il divieto tende a spostare questo comportamento fuori dalla vista, anziché fermarlo.

Esempi comuni di shadow AI

Lo shadow AI si coglie meglio per funzione, perché compare ovunque un compito ripetitivo incontri un modello disponibile. <table header-row=”true”> <tr> <td>Funzione</td> <td>Uso tipico di shadow AI</td> <td>Ciò che viene esposto</td> </tr> <tr> <td>Marketing</td> <td>Testi e immagini generati in account personali</td> <td>Dati di marca, campagne non pubblicate</td> </tr> <tr> <td>Sviluppo</td> <td>Assistenti di codice non approvati</td> <td>Codice sorgente, segreti, rischio di licenza</td> </tr> <tr> <td>Dati e analisi</td> <td>Dataset incollati in un chatbot</td> <td>Dati di clienti e finanziari</td> </tr> <tr> <td>Risorse umane e recruiting</td> <td>Selezione delle candidature con uno strumento di consumo</td> <td>Dati personali, rischio di discriminazione</td> </tr> <tr> <td>Finanza e legale</td> <td>Contratti riassunti in un modello gratuito</td> <td>Materiale riservato e coperto da segreto</td> </tr> </table> Due dettagli fanno di questi esempi qualcosa di più di aneddoti. Il caso delle risorse umane può far scivolare un’organizzazione nella categoria ad alto rischio del regolamento sull'IA, poiché l’IA per la selezione e la valutazione dei candidati vi è classificata come ad alto rischio. E il caso dell’analisi dei dati è quello in cui l’informazione sensibile più spesso varca il confine verso un modello di terze parti, ragione per cui circa il 38 per cento dei dipendenti ammette di condividere informazioni di lavoro sensibili con strumenti di IA senza autorizzazione, secondo la ricerca di sicurezza sintetizzata da Orca Security.

I rischi reali: oltre la fuga di dati

L’esposizione di dati e proprietà intellettuale è il rischio che tutti nominano per primo, e il suo costo è ormai misurabile. Il rapporto Cost of a Data Breach 2025 di IBM rileva che le violazioni che coinvolgono shadow AI costano circa 670.000 dollari in più rispetto alle altre, e che il 20 per cento delle organizzazioni colpite aveva subito un incidente legato allo shadow AI. Lo stesso rapporto indica che il 97 per cento delle organizzazioni con una violazione legata all’IA non disponeva di controlli di accesso adeguati e che il 63 per cento non aveva alcuna politica di governance dell’IA. Ma la fuga di dati è solo il difetto più visibile. Altri quattro rischi pesano altrettanto:

• Sicurezza e superficie di attacco. I modelli non sanzionati e le loro integrazioni restano fuori dal monitoraggio e il loro traffico somiglia a una normale attività web, così gli strumenti classici lo mancano.
• Esposizione regolamentare. Se uno strumento tratta dati personali o alimenta una decisione ad alto rischio, l’organizzazione ne porta l’obbligo, che conoscesse o meno lo strumento.
• Qualità delle decisioni. Una risposta sicura ma errata che orienta un’assunzione, un credito o un giudizio clinico è un evento di governance, non un refuso.
• Rischio agentico. Man mano che gli strumenti acquisiscono la capacità di agire, non solo di rispondere, un agente non governato con accesso ai sistemi può compiere passi che nessuno ha autorizzato.

Ciò che la lettura di sicurezza trascura

Gran parte delle trattazioni dello shadow AI si ferma al file trapelato. Questa lettura è corretta ma superficiale, perché tratta il tema come un perimetro da difendere anziché come una popolazione da governare. L’esposizione più profonda è una responsabilità senza titolare: nessun proprietario, nessuna classificazione del rischio, nessuna traccia dell’esistenza del sistema e quindi nessun modo di rispondere a un’autorità, a un revisore o a un consiglio che pone una domanda semplice. Quali sistemi di IA facciamo funzionare, chi ne risponde e cosa possono fare? Uno strumento di sicurezza può bloccare una connessione. A quella domanda non può rispondere.

Lo shadow AI riguarda il regolamento sull’IA, non solo la sicurezza

È qui che la prospettiva di governance cambia la posta. Il regolamento sull’IA non prevede alcuna esenzione per l’IA che i dipendenti hanno adottato senza approvazione. I suoi obblighi ricadono sull’organizzazione in qualità di deployer o fornitore, a prescindere da come il sistema sia entrato nel parco. Un’organizzazione che non sa produrre un inventario completo e classificato per rischio dell’IA che utilizza non può dimostrare la conformità, e lo shadow AI è proprio la popolazione assente da quell’inventario. Più obblighi mordono direttamente. L’articolo 4 impone a fornitori e deployer di garantire un livello sufficiente di alfabetizzazione all’IA tra il personale e si applica dal 2 febbraio 2025. Quando l’IA serve una finalità ad alto rischio, come la selezione del personale o la valutazione del merito creditizio, il deployer eredita obblighi di sorveglianza umana, di governance dei dati di input e di conservazione dei log. Il calendario di applicazione si avvicina: gli obblighi per i modelli di IA per finalità generali si applicano dal 2 agosto 2025 e la maggior parte del regime ad alto rischio dal 2 agosto 2026. Le sanzioni sono calibrate per farsi sentire, fino al 7 per cento del fatturato annuo mondiale per le pratiche vietate e fino al 3 per cento per la maggior parte degli altri inadempimenti. Lo stesso principio sta al centro dei grandi riferimenti. Il quadro per la gestione del rischio dell’IA del NIST fa della tenuta di un inventario dei sistemi di IA e dell’attribuzione chiara delle responsabilità un fondamento delle sue funzioni GOVERN e MAP. La norma ISO/IEC 42001, sul sistema di gestione dell’IA, si attende che un’organizzazione tenga un registro dei propri sistemi di IA e definisca i ruoli connessi. In Italia, il raccordo con il Garante per la protezione dei dati personali e con AgID rende questo inventario ancora più concreto. Da un riferimento all’altro, la prima mossa è la stessa: sapere ciò che si ha.

Dalla rilevazione alla governance: colmare il divario dello shadow AI

I fornitori di sicurezza rispondono allo shadow AI con rilevazione e blocco. È un controllo necessario, ma un punto di partenza, non una destinazione. La governance risponde con un ciclo di vita: scoprire, inventariare, assegnare un responsabile, classificare il rischio, governare il sistema per tutta la sua vita e attestarlo periodicamente. La differenza è quella tra il tagliare una connessione e il poter sostenere ogni decisione di IA presa dalla vostra organizzazione. L’oggetto che rende tutto ciò possibile è un registro dell’IA: un unico sistema di riferimento che raccoglie ogni sistema di IA, il suo responsabile, la sua finalità, il suo livello di rischio e le sue evidenze. Il nostro registro dell’IA è costruito esattamente per questa transizione e trasforma un’impronta di IA dispersa e invisibile in un parco governato. Una volta iscritto nel registro, un sistema smette di essere shadow AI. Diventa un asset con un responsabile e un insieme di controlli, l’unico stato a partire dal quale conformità, supervisione e un reporting onesto al consiglio diventano possibili.

Perché il divieto non funziona

Un divieto generalizzato appare deciso e raramente regge. Le persone che hanno trovato valore reale in uno strumento non smettono: passano a dispositivi e account personali, dove la vostra visibilità è ancora minore. Il divieto trasforma un problema governabile in uno invisibile. Le organizzazioni che avanzano abbinano l’abilitazione alla governance: strumenti approvati davvero validi, un percorso chiaro e rapido per far valutare un nuovo strumento e un registro che riflette l’uso reale. Abilitazione più governance batte il divieto, perché questo approccio lavora con il comportamento invece che contro di esso.

Portare lo shadow AI sotto governance, in pratica

Un programma operativo si regge su cinque mosse, in ordine.

1. Scoprire. Combinare un’indagine d’uso anonima con una scoperta tecnica ricavata dai log di rete e SaaS. L’obiettivo è una prima immagine onesta, non un esercizio disciplinare.
2. Registrare. Annotare ogni sistema trovato in un registro dell’IA centrale, perché l’inventario diventi una registrazione viva e non un foglio di calcolo già datato il giorno del suo completamento.
3. Assegnare la responsabilità e classificare il rischio. Dare a ogni sistema un responsabile designato e un livello di rischio, basandosi sulle categorie del regolamento sull'IA dove si applicano. È la responsabilità a rendere applicabile il resto.
4. Abilitare e formare. Offrire alternative approvate che i team desiderino davvero usare e soddisfare l’obbligo di alfabetizzazione dell’articolo 4 con una formazione che spieghi la ragion d’essere del registro.
5. Attestare in continuo. Riconfermare periodicamente responsabilità, livello di rischio e controlli, e rendere conto dello stato del parco al consiglio. È l’attestazione continua a mantenere l’inventario fedele.

Nessuna di queste mosse è esotica. A renderle efficaci è il farle in un sistema costruito per la governance anziché in un documento statico, così che il registro resti aggiornato mentre il parco di IA cambia sotto di esso.

Domande frequenti

Che cos’è lo shadow AI? Lo shadow AI, o IA ombra, è l’uso di strumenti, modelli o servizi di IA all’interno di un’organizzazione senza l’approvazione e la supervisione di chi risponde di dati, rischio e conformità. È l’equivalente per l’IA dello shadow IT, con il rischio aggiuntivo che i dati escano dal perimetro verso un modello di terze parti e che gli output possano orientare decisioni. Qual è un esempio di shadow AI? Un esempio frequente è l’analista che incolla una tabella di dati clienti in un chatbot gratuito per riassumerla, tramite un account personale che sicurezza e conformità non hanno mai approvato. Altrettanto comuni sono i team di marketing che generano contenuti in account di IA personali o gli sviluppatori che accettano codice da assistenti non approvati. Perché lo shadow AI è un problema? Perché crea un’esposizione che nessuno gestisce: dati sensibili possono uscire dall’organizzazione, le decisioni possono poggiare su output non verificati e l’IA non compare in alcun inventario. In base al regolamento sull’IA gli obblighi si applicano a prescindere da come lo strumento sia stato adottato, così un’IA non censita è una lacuna di conformità diretta e non solo un problema di sicurezza. Come funziona lo shadow AI? Si diffonde grazie a un accesso senza attrito. Una persona si registra a uno strumento di IA di consumo con un browser e un indirizzo e-mail, lo usa per lavorare più in fretta e non lo fa passare né dall’acquisto né dalla sicurezza. Poiché il traffico somiglia a una normale attività web e il vantaggio è reale, l’uso persiste e si moltiplica in silenzio. Come si rileva lo shadow AI? La rilevazione combina due metodi: un’indagine anonima che chiede ai team che cosa usano davvero e una scoperta tecnica dai log di rete, proxy e SaaS che porta in superficie traffico e applicazioni di IA. Il risultato di entrambi dovrebbe alimentare un registro dell’IA centrale, perché la rilevazione sfoci nella governance e non in un audit isolato. Si può fermare lo shadow AI vietando gli strumenti di IA? Raramente. I divieti tendono a spingere l’uso verso dispositivi e account personali, dove la visibilità è ancora minore. L’approccio più duraturo abbina governance e abilitazione: strumenti approvati che i team vogliano usare, un percorso di valutazione rapido per i nuovi e un registro che mantenga onesto l’inventario.

Conclusione

Lo shadow AI non è, in fondo, una storia di dipendenti indisciplinati o di file trapelati. È la storia della distanza tra l’IA su cui un’organizzazione funziona e l’IA di cui può rendere conto. I controlli di sicurezza riducono quella distanza; solo la governance la colma. Le organizzazioni che supereranno un audit, soddisferanno il regolamento sull’IA e daranno una risposta netta al proprio consiglio sono quelle che portano lo shadow AI in un registro, assegnano a ogni sistema un responsabile e un livello di rischio e mantengono quella registrazione fedele nel tempo. Se cercate un unico punto di partenza, cominciate dall’inventario: portate l’IA che non vedete su un registro dell’IA, e smetterà di essere un’ombra.