In sintesi
- Un incidente IA è qualunque evento in cui lo sviluppo, l’impiego o il malfunzionamento di un sistema di IA provoca, in via diretta o indiretta, un danno reale. La nozione va oltre il semplice bug del software e oltre l’infortunio sul lavoro.
- L’articolo 73 del regolamento IA impone ai fornitori di sistemi di IA ad alto rischio di segnalare gli incidenti gravi alle autorità di vigilanza del mercato. L’obbligo si applica dal 2 agosto 2026.
- I termini sono brevi e differenziati: 2 giorni in caso di violazione di ampia portata o di grave perturbazione di un’infrastruttura critica, 10 giorni in caso di decesso, 15 giorni per gli altri incidenti gravi.
- L’incidente grave è definito all’articolo 3, punto 49: decesso o grave danno alla salute, perturbazione grave e irreversibile di un’infrastruttura critica, violazione di obblighi a tutela dei diritti fondamentali, oppure grave danno a cose o ambiente.
- La segnalazione degli incidenti IA regge solo se poggia su un processo interno ripetibile: rilevare, qualificare, decidere la segnalabilità, notificare nei termini, poi indagare e porre rimedio.
Che cos’è la segnalazione di incidenti e cosa rende diverso un incidente IA
La segnalazione di incidenti consiste nel documentare un evento inatteso per capire che cosa è accaduto, contenere il danno ed evitare che si ripeta. Nella sicurezza sul lavoro, in sanità e nella gestione dei servizi informatici la pratica è consolidata: un quasi-incidente, una lesione o un guasto vengono registrati su un modulo standard, e la traccia alimenta l’indagine e l’azione correttiva. L’IA sposta il problema, ed è proprio qui che la segnalazione degli incidenti IA si differenzia dalla sua versione generica. Il danno prodotto da un sistema di IA è spesso indiretto. Il modello non fa inciampare nessuno e non versa alcuna sostanza; produce un output su cui una persona o un altro sistema agisce, e il danno emerge a valle. Un suggerimento di triage medico errato, un rifiuto di credito distorto o un fallimento della moderazione dei contenuti possono causare un danno serio senza alcun guasto visibile. La catena fra causa e conseguenza è lunga, statistica e difficile da imputare. Per questo regolatori ed enti di normazione hanno elaborato definizioni proprie dell’IA. Nel rapporto del 2024 Defining AI Incidents and Related Terms, l’OCSE fissa la tassonomia di riferimento: un incidente IA è un evento in cui lo sviluppo, l’uso o il malfunzionamento di un sistema di IA conduce, in via diretta o indiretta, a un danno (lesioni a persone, perturbazione di infrastrutture critiche, violazione dei diritti umani, danno a cose o ambiente). L’OCSE distingue il pericolo IA, una circostanza che potrebbe plausibilmente portare a un incidente, dall’incidente IA, in cui il danno si verifica davvero, e aggiunge il disastro IA come incidente grave che disgrega una collettività. Queste distinzioni stabiliscono che cosa l’organizzazione deve sorvegliare, registrare e, talvolta, notificare. Orientano anche il modo in cui AI Sigil affronta la gestione del rischio IA.
L’obbligo del regolamento IA: la segnalazione degli incidenti gravi all’articolo 73
Per chi opera sul mercato dell’Unione o vi vende, la buona prassi diventa un obbligo di legge. Il meccanismo è l’articolo 73 del regolamento IA, l’asse portante di ogni programma di conformità al regolamento IA per i sistemi ad alto rischio.
Chi deve segnalare, e a chi
Il testo è netto: i fornitori di sistemi di IA ad alto rischio immessi sul mercato dell’Unione segnalano qualsiasi incidente grave alle autorità di vigilanza del mercato dello Stato membro in cui l’incidente si è verificato (regolamento IA, articolo 73). Il deployer non resta a guardare: quando viene a conoscenza di un incidente grave, l’obbligo lo porta a informare il fornitore e, nei casi previsti, l’autorità. In Italia il Garante per la protezione dei dati personali, insieme ad AgID e all’Agenzia per la Cybersicurezza Nazionale, presidia il quadro nazionale di vigilanza.
Che cosa costituisce un incidente grave
L’innesco è la definizione dell’articolo 3, punto 49. Un incidente grave è un incidente o un malfunzionamento che provoca, in via diretta o indiretta, una di quattro conseguenze: il decesso di una persona o un grave danno alla sua salute; una perturbazione grave e irreversibile della gestione o del funzionamento di un’infrastruttura critica; una violazione degli obblighi del diritto dell’Unione posti a tutela dei diritti fondamentali; oppure un grave danno a cose o all’ambiente. In mancanza, l’evento può meritare una registrazione interna senza per questo essere un incidente grave segnalabile.
I termini di segnalazione
L’articolo 73 fissa un orologio a più velocità, e corre in fretta.
- 2 giorni: una violazione di ampia portata, oppure una perturbazione grave e irreversibile di un’infrastruttura critica.
- 10 giorni: il decesso di una persona.
- 15 giorni: tutti gli altri incidenti gravi.
La regola di base lega ogni cosa: il fornitore segnala subito dopo aver stabilito un nesso causale, o la ragionevole probabilità di esso, fra il sistema di IA e l’incidente, e comunque non oltre 15 giorni dalla presa di conoscenza. Poiché le finestre sono strette, il regolamento ammette una segnalazione iniziale incompleta, seguita da una relazione completa una volta chiariti i fatti.
Dopo la segnalazione
La segnalazione non è un punto d’arrivo. A seguito di un incidente grave il fornitore svolge senza indugio le indagini necessarie, compresa una valutazione del rischio dell’incidente, e adotta misure correttive. L’autorità di vigilanza del mercato dispone poi di sette giorni per assumere le misure opportune.
Quando scatta l’orologio e gli orientamenti della Commissione del settembre 2025
La questione operativa più delicata è capire quando il termine inizia. L’obbligo si lega alla conoscenza e al nesso causale: il termine decorre dal momento in cui il fornitore stabilisce, o potrebbe ragionevolmente stabilire, un legame fra il sistema di IA e il danno. Nel settembre 2025 la Commissione europea ha pubblicato un progetto di orientamenti e un modello di segnalazione per rendere praticabile l’adempimento. Il progetto, diffuso il 26 settembre 2025 e aperto a consultazione fino al 7 novembre 2025, chiarisce che un nesso causale indiretto è sufficiente, con esempi come un’analisi medica errata che provoca un danno successivo o una valutazione del credito viziata (Latham & Watkins, 2025). Affronta anche la sovrapposizione con le regole settoriali: per un operatore di infrastrutture critiche già tenuto a segnalare ai sensi di NIS2, solo un incidente che tocca i diritti fondamentali richiede una segnalazione distinta ai sensi dell’articolo 73, mentre gli altri seguono il canale settoriale. L’obbligo si applica dal 2 agosto 2026, data di efficacia delle regole sui sistemi ad alto rischio. Rinviare la progettazione del processo fino ad allora significa costruirlo sotto pressione, durante un incidente reale.
Incidenti dei modelli per finalità generali e rischio sistemico
I sistemi ad alto rischio non sono i soli interessati. I fornitori di modelli di IA per finalità generali con rischio sistemico portano obblighi propri ai sensi dell’articolo 55: tracciare, documentare e segnalare gli incidenti gravi all’Ufficio per l’IA, con le possibili misure correttive. Il codice di buone pratiche per i modelli per finalità generali, il cui capitolo su sicurezza e protezione è stato finalizzato nel luglio 2025, traduce questo dovere in impegni concreti: mantenere un tracciamento degli incidenti gravi, trasmettere le informazioni rilevanti all’Ufficio per l’IA e alle autorità nazionali secondo termini definiti, e conservare la documentazione utile all’analisi a posteriori. Per i maggiori fornitori di modelli la segnalazione degli incidenti IA diventa un obbligo di sorveglianza continua anziché un adempimento occasionale. AI Sigil lo integra in un’unica piattaforma di governance dell’IA, non in un silo separato.
Dove la segnalazione si colloca nelle norme: NIST e ISO
La regolazione fissa la base. Le norme volontarie forniscono il modello operativo. Il quadro di gestione del rischio IA del NIST organizza il lavoro in quattro funzioni: Govern, Map, Measure e Manage. La risposta agli incidenti rientra soprattutto in Manage, che richiede un monitoraggio post-rilascio, meccanismi per raccogliere e trattare i problemi e una risposta agli incidenti, un ripristino e una gestione del cambiamento documentati. Govern aggiunge le politiche e la responsabilità che impediscono a quei meccanismi di cadere in disuso. La norma ISO/IEC 42001 sul sistema di gestione dell’IA colloca la gestione degli incidenti in un ciclo certificabile Plan-Do-Check-Act. L’organizzazione che esercisce un sistema 42001 mantiene un processo definito per gli incidenti IA, lo collega al trattamento del rischio e dimostra all’auditor che il ciclo si chiude. Per un team già certificato ISO/IEC 27001, il processo per gli incidenti IA può incastrarsi con il processo per gli incidenti di sicurezza esistente invece di duplicarlo.
Costruire un processo interno di segnalazione degli incidenti IA
Un obbligo di segnalazione vale quanto il processo che lo sorregge. Un processo operativo di segnalazione degli incidenti IA ha quattro fasi, ciascuna con un responsabile designato.
Rilevare e ricevere
La maggior parte degli incidenti IA viene notata prima da un utente, da un addetto al supporto o da un sistema a valle, non da un cruscotto. Offrite a ogni canale un unico punto di ricezione: un modulo, una coda o una linea dedicata, aperto a tutti senza dover giudicare in anticipo la segnalabilità. Raccogliete l’essenziale al momento della ricezione (che cosa è accaduto, quale sistema, quando, quale danno osservato) affinché i fatti utili al calcolo del termine esistano dal primo minuto.
Qualificare e decidere la segnalabilità
È la decisione da cui dipendono i termini. Confrontate ogni ricezione con il test dell’articolo 3, punto 49: l’evento ha provocato, in via diretta o indiretta, decesso o grave danno alla salute, perturbazione di un’infrastruttura critica, violazione dei diritti fondamentali o grave danno a cose o ambiente? Un breve albero decisionale, affidato a un ruolo designato, mantiene la qualificazione coerente e tracciata. Annotate il ragionamento anche quando la risposta è no, perché quella traccia è la difesa dell’organizzazione se la decisione verrà in seguito contestata.
Notificare nei termini
Una volta qualificato l’evento come incidente grave, scatta l’orologio differenziato. Individuate l’autorità di vigilanza del mercato competente, preparate la segnalazione sul modello della Commissione e trasmettete entro 2, 10 o 15 giorni secondo la categoria. Preferite la segnalazione iniziale incompleta al superamento del termine.
Indagare, rimediare e registrare
Dopo la trasmissione, ricercate la causa radice, conducete la valutazione del rischio richiesta dall’articolo 73 e adottate misure correttive. Registrate tutto in un registro che colleghi l’incidente al sistema, alla versione del modello, agli utenti coinvolti e al rimedio. Banche dati esterne come l’AI Incident Database (AIID), il repertorio AIAAIC e l’OECD AI Incidents Monitor offrono punti di riferimento per imparare dagli incidenti del settore, una pratica che il CSET ha esaminato nella sua nota del gennaio 2025.
In cosa la segnalazione degli incidenti IA differisce dagli altri regimi
Uno stesso evento può attivare più obblighi insieme. Una fuga di dati in un sistema di IA può essere una violazione di dati personali ai sensi del GDPR, con la sua notifica entro 72 ore all’autorità di controllo ai sensi dell’articolo 33, un incidente grave ai sensi dell’articolo 73 e, per un soggetto finanziario, una segnalazione di incidente ICT ai sensi di DORA. NIS2 aggiunge obblighi per i soggetti essenziali e importanti, e le regole settoriali per dispositivi medici, aviazione o servizi finanziari ne aggiungono altri. La lezione pratica: mappare i propri obblighi di segnalazione una volta, in anticipo, e progettare un unico punto di ricezione capace di diramarsi verso i regimi giusti. Il team che tratta la segnalazione degli incidenti IA come un compito isolato del regolamento IA finirà per segnalare lo stesso evento tre volte, in tre formati e su tre orologi, o peggio, ne dimenticherà uno. Centralizzare la mappa degli obblighi è esattamente ciò per cui una piattaforma di governance dell’IA è costruita.
Domande frequenti
Che cos’è la segnalazione degli incidenti IA? La segnalazione degli incidenti IA è il processo strutturato di rilevare, documentare e, quando la legge lo impone, notificare alle autorità gli eventi in cui un sistema di IA causa o concorre a causare un danno. Ai sensi del regolamento IA è un obbligo di legge per i fornitori di sistemi ad alto rischio e di alcuni modelli per finalità generali, non solo una buona prassi interna. Quali sono i passi per segnalare un incidente IA? Rilevare e registrare l’evento in un unico punto di ricezione; qualificarlo rispetto alla definizione di incidente grave dell’articolo 3, punto 49; se rientra, notificare l’autorità di vigilanza del mercato competente entro il termine applicabile; poi cercare la causa radice, valutare il rischio e adottare misure correttive. Conservate una traccia scritta a ogni passo, compreso il ragionamento per gli eventi non segnalati. Che cosa contiene un rapporto di incidente IA? Al minimo: una descrizione dei fatti, il sistema di IA e la versione del modello coinvolti, la data della presa di conoscenza, il tipo e la gravità del danno, le persone o le cose colpite, il nesso causale presunto e le misure correttive adottate o previste. Il modello di segnalazione della Commissione per l’articolo 73 struttura questi campi. Che cos’è un incidente grave ai sensi del regolamento IA? L’articolo 3, punto 49, lo definisce come un incidente o un malfunzionamento che provoca, in via diretta o indiretta, il decesso di una persona o un grave danno alla salute, una perturbazione grave e irreversibile di un’infrastruttura critica, una violazione degli obblighi del diritto dell’Unione a tutela dei diritti fondamentali, o un grave danno a cose o ambiente. Quando si applica l’articolo 73 e con quale rapidità segnalare? L’obbligo si applica dal 2 agosto 2026. I termini decorrono dalla conoscenza e dalla possibilità di stabilire un nesso causale: 2 giorni per una violazione di ampia portata o una grave perturbazione di infrastrutture critiche, 10 giorni in caso di decesso, 15 giorni per gli altri incidenti gravi. In cosa differisce da una notifica di violazione dei dati? Una violazione ai sensi del GDPR riguarda i dati personali e impone una notifica entro 72 ore. Un incidente grave ai sensi del regolamento IA riguarda il danno causato dal sistema di IA stesso, sull’orologio di 2, 10 o 15 giorni. Lo stesso evento può attivare entrambi, oltre a regimi settoriali come NIS2 o DORA: gli obblighi vanno mappati insieme.
Conclusione
La segnalazione degli incidenti IA passa dalla buona abitudine di cultura della sicurezza all’obbligo di legge stringente, con termini brevi e responsabilità nominate. Lo affronterà con serenità chi decide ora chi presidia la ricezione, come si qualifica un incidente grave e quale autorità notificare entro quale finestra. Il lavoro da svolgere prima del 2 agosto 2026 non è solo interpretazione giuridica: è il processo permanente che trasforma l’articolo 73 in una routine governabile. AI Sigil aiuta i team dei settori regolati a convertire obblighi come questo in processi vivi e verificabili dentro un unico sistema di governance.