Contenuto Generato da AI: Colmare il Divario tra Trasparenza e Realtà

Quali sono i rischi e le sfide associate ai contenuti generati dall’IA e come rispondono le giurisdizioni?

L’impennata dell’IA generativa ha offuscato i confini tra contenuto autentico e sintetico, creando rischi sociali, specialmente con deepfake realistici. Questa erosione della fiducia sta spingendo le giurisdizioni, come l’UE, a introdurre normative sulla trasparenza dell’IA.

La filigrana, i contrassegni leggibili da macchina e le divulgazioni visibili stanno emergendo come meccanismi chiave per combattere questi rischi. Tuttavia, esistono incentivi contrastanti, poiché i fornitori potrebbero voler offrire agli utenti la possibilità di creare contenuti senza segni di artificialità. Il collasso del modello, in cui l’addestramento su dati sintetici degrada la qualità dell’IA, aggiunge un ulteriore livello di complessità. Anche le piattaforme di social media devono affrontare la responsabilità per la distribuzione di contenuti dannosi generati dall’IA.

L’AI Act dell’UE impone due principali misure di salvaguardia:

• Filigrane leggibili da macchina che facilitano il rilevamento di contenuti generati o manipolati.
• Divulgazioni visibili dei deepfake per rivelare esplicitamente la loro origine artificiale.

La non conformità comporta sanzioni sostanziali, fino a 15 milioni di euro o al 3% del fatturato globale. Le regole si applicheranno dal 1° agosto 2026. Nonostante le buone intenzioni, permangono ambiguità sull’allocazione della responsabilità all’interno della catena di approvvigionamento dell’IA e le definizioni (come “deepfake”) necessitano di chiarimenti.

Sfide e rischi chiave:

• Erosione della fiducia: La facilità di creare contenuti sintetici convincenti mina la fiducia nei media e nelle fonti di informazione.
• Incentivi contrastanti: I fornitori di IA bilanciano la soddisfazione dei desideri dei clienti per una creatività illimitata con le esigenze sociali di trasparenza.
• Collasso del modello: L’addestramento dell’IA su contenuti generati dall’IA che degrada la qualità del modello è una seria preoccupazione per gli sviluppatori di IA.
• Responsabilità: Le piattaforme di social media affrontano una maggiore pressione per gestire e segnalare i deepfake, il che porta a preoccupazioni di responsabilità.
• Ambiguità nei regolamenti: L’AI Act necessita di linee guida più chiare sull’applicazione dei requisiti di filigrana e divulgazione, soprattutto in catene di approvvigionamento dell’IA complesse.

Quali sono le idee centrali della supply chain dell’IA generativa?

Il panorama dell’IA generativa, in particolare nei sistemi text-to-image, coinvolge una complessa supply chain con passaggi interconnessi e diversi partecipanti. Una visione semplificata identifica quattro attori principali:

• Sviluppatori di modelli di base: Creano i modelli IA fondamentali, che richiedono enormi quantità di dati e risorse di calcolo. Esempi includono OpenAI (DALL-E 3) e Stability AI (Stable Diffusion).
• Sviluppatori downstream: Perfezionano i modelli di base per applicazioni specifiche (ad es. stili artistici). Possono distribuire questi modelli a pagamento o tramite piattaforme open source (ad es. Juggernaut XL).
• Fornitori di sistemi: Trasformano i modelli in sistemi funzionanti con interfacce utente (web, mobile, desktop). Spesso offrono accesso agli utenti finali (deployer) ma possono implementare diversi gradi di condivisione e integrazione.
• Deployer di sistemi: Implementano sistemi di IA per gli utenti finali. In molti casi, il fornitore del sistema funge anche da deployer.

Preoccupazioni normative e l’AI Act dell’UE

L’AI Act dell’UE introduce requisiti di trasparenza per l’IA generativa, in particolare in merito alla filigrana e alla divulgazione di contenuti generati dall’IA (in particolare i deep fake). L’articolo 50 prevede:

• Marcature leggibili dalla macchina negli output generati dall’IA per il rilevamento automatico di contenuti sintetici. Queste marcature devono essere efficaci, interoperabili, robuste e affidabili. Ciò può essere ottenuto attraverso filigrane, ID di metadati, metodi crittografici, registrazione o tecniche di fingerprinting.
• Divulgazione visibile che il contenuto è stato generato o manipolato artificialmente, soprattutto quando si tratta di un “deep fake”, che l’AI Act definisce come contenuto generato dall’IA che assomiglia a persone, oggetti, luoghi, entità o eventi esistenti e che apparirebbe falsamente a una persona come autentico o veritiero. Queste informazioni devono essere presentate chiaramente al punto del primo contatto.

Le normative si applicano ai sistemi di IA (app, strumenti web), non solo ai modelli sottostanti. La non conformità può comportare sanzioni fino a 15 milioni di euro o al 3% del fatturato annuo globale. Queste regole entrano in vigore il 1° agosto 2026.

Implicazioni pratiche e sfide di implementazione

L’AI Act introduce complessità nell’assegnazione delle responsabilità lungo la supply chain. Non è sempre chiaro se l’onere della conformità sia distribuito in modo appropriato, ad esempio per i modelli di IA abilitati tramite API.

Gli scenari di implementazione possono variare, risultando in diversi approcci alla filigrana. Il documento identifica 4 di questi scenari:

• Sistemi integrati end-to-end
• Sistemi che utilizzano l’accesso al modello API
• Sistemi open-source implementati su Hugging Face
• Sistemi che utilizzano altri modelli (open-source) con il proprio marchio

La marcatura visibile *solo* dei deep fake è un altro ostacolo pratico ai sensi dell’AI Act. Per indirizzare accuratamente i deep fake, i fornitori hanno bisogno di soluzioni separate basate sulla NLP per la classificazione dei prompt. Ciò solleva preoccupazioni, soprattutto per le organizzazioni più piccole.

L’implementazione di meccanismi di conformità efficaci comporta sfide nella verifica della “non verità” (rilevamento di contenuti generati dall’IA) e nella garanzia di soluzioni robuste e interoperabili. Dato il crescente numero di strumenti di generazione di immagini AI, i metodi di ispezione automatizzata della conformità e le soluzioni di terze parti saranno essenziali per un’applicazione efficace.

In che modo l’EU AI Act affronta la filigrana e la divulgazione per i contenuti generati dall’IA?

L’EU AI Act, la cui entrata in vigore è prevista a partire dal 1° agosto 2026, introduce obblighi chiave di trasparenza per i sistemi di IA generativa, in particolare per quanto riguarda la filigrana e la divulgazione.

Requisiti legali

• Filigrana leggibile dalla macchina: l’articolo 50(2) impone ai fornitori di sistemi di IA generativa di garantire che i loro output siano contrassegnati in un formato leggibile dalla macchina, rilevabile come generati o manipolati artificialmente. L’Atto sottolinea che le soluzioni tecniche devono essere efficaci, interoperabili, robuste e affidabili.
• Divulgazione visibile per i Deep Fake: l’articolo 50(4) richiede ai responsabili dell’implementazione di sistemi di IA generativa di rivelare quando generano o manipolano contenuti di immagini, audio o video che costituiscono un “deep fake”. Questa divulgazione deve essere chiara e distinguibile al momento della prima interazione o esposizione.

Le normative non specificano i metodi esatti per implementare le divulgazioni visibili, ma sottolineano la necessità di un’etichetta chiara all’interno dell’output generato dall’IA stesso, piuttosto che un messaggio separato. Le sanzioni per la mancata conformità possono raggiungere i 15 milioni di euro o il 3% del fatturato annuo globale.

Ambiguità e sfide di implementazione

Il linguaggio dell’AI Act lascia spazio all’interpretazione, in particolare per quanto riguarda l’attribuzione della responsabilità lungo la complessa catena di fornitura dell’IA generativa. Anche la definizione di “deep fake” presenta delle sfide.

Ambito limitato per gli sviluppatori di modelli

I requisiti di trasparenza si applicano specificamente ai sistemi di IA (ad esempio, app o strumenti web), non ai modelli di base che li supportano.

Sebbene la seconda bozza del codice di condotta per i modelli GPAI includa l’impegno per i fornitori di modelli GPAI con rischi sistemici di utilizzare metodi come le filigrane per identificare e segnalare incidenti relativi all’uso del loro modello.

Esenzioni

In particolare, i fornitori di sistemi di IA rilasciati con licenze gratuite e open source non sono esenti da questi requisiti di trasparenza ai sensi dell’articolo 50 dell’AI Act, a differenza di alcune altre sezioni. Questo è fondamentale per l’implementazione dell’Atto in tutto l’ecosistema.

Quali limitazioni sono associate all’indagine?

È essenziale riconoscere diverse limitazioni e vincoli nella nostra analisi.

Innanzitutto, esiste la possibilità che non siamo riusciti a identificare determinate tecniche di watermarking e digital fingerprinting utilizzate nella pratica. Abbiamo fatto del nostro meglio per trovare eventuali divulgazioni di watermarking dalla documentazione dei fornitori dei sistemi, ma c’è la possibilità che non le abbiano divulgate e abbiano utilizzato tecniche non standard che non abbiamo verificato.

In secondo luogo, sebbene abbiamo utilizzato prompt che consideriamo chiaramente deep fake, ammettiamo che la definizione di deep fake potrebbe essere oggetto di dibattito.

Infine, alcuni sistemi di intelligenza artificiale che abbiamo analizzato non offrivano un pulsante di salvataggio per le immagini all’interno dell’ambiente dell’interfaccia dei sistemi, il che ci ha costretto a utilizzare altri metodi di download. Ciò potrebbe aver causato la perdita di alcuni metadati, influenzando potenzialmente i nostri risultati relativi all’incorporamento di filigrane leggibili dalla macchina.

Quali sono le implicazioni e le sfide della filigrana nel contesto dei sistemi di generazione di intelligenza artificiale?

L’ascesa dell’IA generativa ha creato un’urgente necessità di filigrana e di etichettatura dei contenuti generati dall’IA, specialmente con normative come l’AI Act dell’UE che impongono queste pratiche. Tuttavia, l’implementazione presenta una complessa rete di sfide e implicazioni.

Incentivi contrastanti e mandati normativi

Mentre la società beneficia dell’identificazione dei contenuti generati dall’IA, i fornitori spesso affrontano incentivi contrastanti. Vogliono offrire agli utenti la possibilità di creare contenuti senza segni visibili di generazione artificiale. Le grandi aziende affrontano il rischio di “collasso del modello”, in cui i modelli di IA si degradano quando vengono addestrati su contenuti generati dall’IA. Inoltre, le società di social media come Meta devono affrontare responsabilità ai sensi del Digital Services Act dell’UE per la distribuzione di contenuti dannosi, incentivando ulteriormente la filigrana.

L’AI Act dell’UE, che sarà applicato a partire dal 1° agosto 2026, prevede due misure chiave:

• Incorporare marcature leggibili da macchina negli output generati dall’IA per il rilevamento automatizzato.
• Divulgare visibilmente l’origine artificiale dei “deep fake” generati dall’IA.

La non conformità può comportare sanzioni fino a 15 milioni di euro o il 3% del fatturato annuo globale di una società. Tuttavia, persistono ambiguità riguardo all’applicazione pratica di questi requisiti, tra cui l’attribuzione delle responsabilità e la definizione di “deep fake”.

Sfide di trasparenza lungo la catena di approvvigionamento dell’IA

La catena di approvvigionamento dell’IA generativa coinvolge gli sviluppatori di modelli di base, gli sviluppatori downstream, i fornitori di sistemi e i deployer dei sistemi. Le regole di trasparenza dell’AI Act si applicano specificamente ai sistemi di IA (app o strumenti web), non necessariamente agli sviluppatori dei modelli sottostanti.

Diversi scenari di implementazione creano implicazioni variabili per la conformità:

• Sistemi integrati end-to-end: Le organizzazioni che sviluppano e implementano modelli di IA sono responsabili dell’implementazione di una robusta filigrana.
• Sistemi che utilizzano l’accesso al modello API: Questi sistemi sfruttano le API di fornitori di modelli su larga scala. La conformità dipende dall’utilizzo di funzionalità di filigrana integrate o dall’implementazione di misure di post-elaborazione.
• Sistemi (open-source) distribuiti su Hugging Face: La determinazione della responsabilità per la conformità all’AI Act non è chiara in questi casi, specialmente perché Hugging Face fornisce l’interfaccia utente.
• Sistemi che utilizzano altri modelli (open-source) con il proprio marchio: Queste organizzazioni implementano modelli di IA con il proprio marchio senza divulgare la fonte, richiedendo la piena conformità agli obblighi di trasparenza.

Considerazioni pratiche e gap di implementazione

Attualmente, solo una minoranza di fornitori implementa pratiche di marcatura leggibili da macchina, in gran parte guidate dalle grandi organizzazioni che vogliono prevenire il degrado dei loro set di addestramento dell’IA e proteggere i contenuti protetti da copyright.

• Filigrana limitata: Metodi robusti di filigrana che si concentrano sul rilevamento di immagini generate dall’IA rimangono rari, specialmente quelli che non possono essere facilmente rimossi. Molte soluzioni si basano su tecniche di post-generazione come l’embedding di metadati, che vengono facilmente rimossi.
• Divulgazioni visibili: Le filigrane visibili per i deep fake sono usate raramente, spesso a causa del loro impatto sull’esperienza utente.
• Rilevamento di deep fake: Limitare l’etichettatura ai deep fake richiede metodi complessi, potenzialmente impegnativi per le organizzazioni più piccole.
• Concentrazione dell’ecosistema: Una manciata di fornitori di modelli influenza pesantemente l’ecosistema, rendendo le loro azioni fondamentali per una più ampia adozione delle pratiche di filigrana.

Esistono sfide nella distribuzione equa degli oneri di conformità lungo la catena di approvvigionamento dell’IA, e l’UE sta prendendo in considerazione la classificazione dei modelli su larga scala come modelli GPAI con rischio sistemico, richiedendo quindi agli sviluppatori di avere una rigorosa implementazione della filigrana tramite API.