IA generativa: tipi di modelli, rischi e obblighi

In sintesi

• Un modello di IA generativa apprende la struttura statistica dei propri dati di addestramento e da essa estrae campioni per produrre testo, immagini, audio, video o codice inediti.
• Cinque architetture coprono la quasi totalità degli impieghi: transformer, modelli di diffusione, GAN, autoencoder variazionali e modelli a flusso. Ciascuna genera in modo diverso e fallisce in modo diverso.
• L’espressione descrive un comportamento tecnico, non uno stato giuridico. Il diritto europeo disciplina una categoria contigua ma distinta, quella dei modelli di IA per finalità generali.
• Un modello si presume a finalità generali oltre 10^23 FLOP di potenza di calcolo cumulata, e si presume a rischio sistemico oltre 10^25 FLOP.
• Poche organizzazioni addestrano un modello. Molte ne diventano comunque fornitori sul piano giuridico, attraverso la messa a punto o la semplice apposizione del proprio marchio.

Che cos’è un modello di IA generativa?

Un modello di IA generativa è un modello di apprendimento automatico che apprende la struttura statistica di un insieme di dati e da tale struttura estrae campioni per produrre contenuti nuovi, somiglianti ai dati di partenza ma non copiati da essi. Mentre un classificatore tradizionale risponde a una domanda posta su un input, un modello di questo tipo dà vita a qualcosa che prima non esisteva: un paragrafo, un’immagine, una melodia, una funzione.

La distinzione è più profonda di quanto sembri. La maggior parte dei sistemi di apprendimento automatico in produzione stima la probabilità di un’etichetta dato un certo input. Un modello generativo stima invece la distribuzione dei dati stessi, che rappresenta un problema assai più arduo e una capacità assai più aperta. Una volta che un sistema ha modellato il modo in cui si costruiscono un testo o un’immagine, se ne possono richiedere quantità arbitrarie.

Vale la pena affermare senza giri di parole ciò che gran parte della letteratura divulgativa lascia implicito: «IA generativa» è una descrizione tecnica, non una categoria regolamentare. Né il diritto europeo né quello statunitense ricollegano obblighi al solo aggettivo «generativo». Gli obblighi si ricollegano a categorie precise: modelli di IA per finalità generali, sistemi ad alto rischio, determinati contesti di impiego. Un dato modello può rientrare in tutte, in alcune o in nessuna di esse. Questa guida affronta entrambi i versanti: che cosa sono questi modelli e a che cosa obbliga realmente il fatto di costruirli o di utilizzarli.

Per la famiglia più ampia in cui si collocano, si veda la nostra guida su che cos’è un modello di IA.

Modelli generativi e modelli discriminativi

La formula più comoda per fissare la differenza è questa: un modello discriminativo traccia confini, un modello generativo estrae campioni.

Un filtro antispam è discriminativo. Apprende un confine tra messaggio indesiderato e messaggio legittimo e colloca ogni messaggio in arrivo da una parte o dall’altra. Non sarebbe in grado di scrivere un’email. Un modello generativo addestrato sullo stesso corpus apprende invece come un’email viene costruita e può produrne una su richiesta.

Dal punto di vista formale, i modelli discriminativi stimano la probabilità di un’etichetta condizionata all’input. I modelli generativi stimano la distribuzione congiunta dei dati, ed è ciò che consente loro di sintetizzare istanze nuove. Per questa ragione un sistema di IA generativa si presta con tanta facilità a essere riorientato verso compiti per i quali non era stato esplicitamente addestrato, e per la stessa ragione le sue modalità di guasto risultano difficili da delimitare in anticipo.

Come funziona un modello di IA generativa

Ogni modello poggia sulla medesima logica in due tempi: comprimere, poi campionare.

Durante l’addestramento il modello viene esposto a un corpus assai vasto e ne regola i parametri affinché le regolarità di quel corpus risultino più probabili sotto il modello stesso. Nulla viene memorizzato alla lettera nel senso comune del termine. Ciò che permane è una codifica compressa e lacunosa di regolarità: come si costruiscono le frasi, come si conformano i volti, come si risolvono le successioni di accordi.

Durante l’inferenza il procedimento si dispiega verso l’esterno. Il sistema estrae campioni dalla distribuzione appresa, condizionandoli al prompt ricevuto. Poiché il campionamento è probabilistico, uno stesso prompt può restituire output differenti, e il modello non dispone di alcuna rappresentazione interna della verità di ciò che produce.

Quest’ultimo punto comporta una conseguenza di governance che sfugge con facilità. Un output fluente, sicuro di sé e sbagliato non è un difetto introdotto da un’ingegneria trascurata. Discende direttamente dal modo in cui il sistema è costruito: l’obiettivo di addestramento premia la plausibilità rispetto alla distribuzione appresa, non la correttezza rispetto al mondo. Il tasso di errore si può abbassare mediante ancoraggio documentale, valutazione e revisione umana. Eliminarlo con una correzione non è possibile. La nostra analisi sul principale rischio dell’IA generativa approfondisce il punto.

Le cinque famiglie di modelli

Quasi ogni modello in esercizio appartiene a una di cinque famiglie architetturali. Non sono intercambiabili: ciascuna genera attraverso un meccanismo proprio, si presta a modalità differenti e si degrada a modo suo.

Transformer e modelli autoregressivi

I transformer generano in modo sequenziale, prevedendo il token successivo a partire da tutto ciò che precede. Il meccanismo di attenzione consente di pesare porzioni distanti dell’input nel momento in cui si produce ciascun token, ed è ciò che ha reso trattabile la coerenza su lunghe distanze testuali. Questa famiglia alimenta le serie GPT, Claude, Gemini e Llama, e si è spinta ben oltre il testo, fino al codice, all’audio e alle sequenze proteiche. Punto di forza: coerenza e generalità. Punto debole: il costo e la fabbricazione sicura di sé che deriva dalla pura previsione del token successivo.

Modelli di diffusione

I modelli di diffusione apprendono a invertire un processo di rumore. L’addestramento distrugge progressivamente un’immagine con rumore casuale mentre il modello impara ad annullare ciascun passaggio. In fase di inferenza si parte dal rumore puro e si procede alla rimozione guidata da un prompt testuale fino a ottenere un campione. Questa famiglia ha soppiantato le GAN nella sintesi di immagini di qualità e oggi sostiene Stable Diffusion, DALL-E e gran parte della generazione video. Punto di forza: qualità dei campioni e stabilità dell’addestramento. Punto debole: i molti passaggi di rimozione del rumore rallentano la generazione.

Reti generative avversarie (GAN)

Una GAN addestra due reti l’una contro l’altra. Il generatore produce candidati, il discriminatore tenta di distinguerli dai dati reali, ed entrambi migliorano finché l’output del generatore non supera la prova. Le GAN hanno prodotto i primi volti sintetici davvero fotorealistici e restano utili dove conta la generazione rapida in un solo passaggio. Punto di forza: velocità in inferenza e nitidezza. Punto debole: instabilità dell’addestramento e collasso dei modi, per cui il generatore si ripiega su una porzione ristretta della distribuzione.

Autoencoder variazionali (VAE)

Un VAE comprime l’input in una distribuzione di probabilità su uno spazio latente e poi decodifica campioni di tale spazio riportandoli a dati. Essendo lo spazio latente continuo e strutturato, si può interpolare in modo significativo tra due punti. Gli output risultano più sfocati rispetto a quelli di una GAN o di un modello di diffusione, ragione per cui oggi i VAE fungono più spesso da componente interno di un sistema più ampio che da generatore principale. Punto di forza: rappresentazioni latenti strutturate e controllabili. Punto debole: fedeltà dei campioni.

Modelli a flusso normalizzante

I modelli a flusso applicano una successione di trasformazioni invertibili che proiettano una distribuzione semplice su una complessa. Poiché ogni passaggio è invertibile, calcolano verosimiglianze esatte, là dove le altre famiglie si limitano ad approssimarle. Punto di forza: stima esatta della densità e reversibilità. Punto debole: vincoli architetturali e onere computazionale elevato a parità di qualità.

Famiglia	Genera	Punto di forza	Principale debolezza	Sistema rappresentativo
Transformer / autoregressivo	Testo, codice, audio	Coerenza, generalità	Costo, fabbricazione	GPT, Llama
Diffusione	Immagini, video, audio	Qualità dei campioni	Inferenza lenta	Stable Diffusion
GAN	Immagini	Rapidità, nitidezza	Addestramento instabile	StyleGAN
VAE	Immagini, rappresentazioni latenti	Spazio latente strutturato	Campioni sfocati	VQ-VAE
Flusso normalizzante	Immagini, audio	Verosimiglianze esatte	Onere computazionale	Glow

La famiglia impiegata determina che cosa occorre verificare. Sottoporre a prova l’affidabilità fattuale di un generatore di testo è esercizio diverso dal verificare la memorizzazione dei dati di addestramento in un generatore di immagini, e l’uno e l’altro alimentano quelle evidenze di valutazione che un revisore prima o poi richiederà.

IA generativa, modello di base, LLM, modello per finalità generali

Quattro espressioni circolano come se fossero sinonimi. Designano realtà distinte, e una sola produce effetti giuridici.

• Modello di IA generativa descrive ciò che il modello fa: produce contenuti nuovi. Nulla dice sulla sua dimensione, sulla sua portata o sul metodo di addestramento.
• Modello di base descrive come è stato costruito e come viene usato: preaddestramento ampio su grandi moli di dati, poi adattamento a molti compiti a valle. La maggior parte è generativa, ma il tratto qualificante resta l’ampiezza e la riusabilità.
• Modello linguistico di grandi dimensioni (LLM) designa un modello di base la cui modalità è il testo. Ogni LLM rientra nell’IA generativa. Il contrario non vale.
• Modello di IA per finalità generali (GPAI) è una categoria giuridica del regolamento europeo. Poggia sulla generalità e sulle capacità anziché sull’architettura, ed è la sola tra le quattro a far sorgere di per sé obblighi di legge.

Un piccolo modello di immagini messo a punto su un catalogo prodotti rientra nell’IA generativa e quasi certamente non costituisce un modello per finalità generali. Un modello testuale di frontiera cumula tutte e quattro le qualificazioni. La nostra guida sull’IA per finalità generali tratta la categoria giuridica in modo approfondito.

Quando un modello diventa un GPAI regolamentato

Gli orientamenti della Commissione europea rivolti ai fornitori di modelli di IA per finalità generali, pubblicati il 18 luglio 2025, hanno sostituito una definizione vaga con un criterio operativo fondato sulla potenza di calcolo impiegata nell’addestramento.

Si presume che un modello sia a finalità generali quando la potenza di calcolo cumulata utilizzata per addestrarlo supera 10^23 operazioni in virgola mobile ed esso è in grado di generare linguaggio, testo verso immagine o testo verso video. La Commissione motiva la scelta osservando che tale soglia corrisponde all’incirca a un modello da un miliardo di parametri addestrato su un vasto insieme di dati, ossia il punto in cui tende a manifestarsi una generalità autentica.

Oltre i 10^25 FLOP opera una seconda presunzione: il modello è considerato a rischio sistemico ai sensi dell’articolo 55. La Commissione può inoltre designare un modello come sistemico in ragione delle sue capacità, a prescindere dal calcolo. Su questo livello superiore si collocano i laboratori di frontiera, e ad esso corrisponde un insieme di obblighi più gravoso. Si veda che cos’è un modello di frontiera per quella fascia.

In entrambi i casi si tratta di presunzioni e non di linee rigide. Un fornitore può sostenere che un modello collocato sopra la soglia non abbia finalità generali, e la Commissione può all’inverso attrarre nell’ambito un modello che si collochi al di sotto.

Il calendario conta ai fini della pianificazione. Gli obblighi relativi ai modelli per finalità generali si applicano dal 2 agosto 2025. I poteri di esecuzione della Commissione nei confronti dei fornitori, comprese le richieste formali di informazioni e le sanzioni pecuniarie, decorrono dal 2 agosto 2026.

La lettura pratica per la maggior parte delle organizzazioni è la seguente: quasi certamente non addestrerete mai un modello simile, quasi certamente ne utilizzerete uno, e potreste diventarne fornitori senza aver mai avviato una singola sessione di addestramento.

Che cosa il regolamento europeo richiede al fornitore

Sul fornitore di un modello per finalità generali gravano quattro obblighi di base ai sensi dell’articolo 53, ai quali si aggiunge un ulteriore strato quando il modello è sistemico.

Documentazione tecnica e informazione degli operatori a valle

Il fornitore deve predisporre e aggiornare una documentazione tecnica che copra la progettazione del modello, il processo di addestramento, gli esiti delle valutazioni e la finalità prevista, secondo l’allegato XI. Deve inoltre trasmettere ai fornitori a valle che integrano il modello, secondo l’allegato XII, elementi sufficienti a comprenderne capacità e limiti e ad adempiere ai rispettivi obblighi.

È il secondo obbligo che le imprese sottovalutano. Chi costruisce un prodotto sul modello di un terzo trova in quella documentazione la materia prima del proprio fascicolo di conformità, e la questione appartiene alla trattativa contrattuale anziché alla speranza. La nostra guida ai requisiti di documentazione dei sistemi di IA precisa che cosa contenga un fascicolo completo.

Politica sul diritto d’autore e sintesi dei dati di addestramento

I fornitori devono dotarsi di una politica di conformità al diritto d’autore dell’Unione. In concreto tutto ruota attorno al rispetto delle riserve di diritti espresse ai sensi dell’articolo 4, paragrafo 3, della direttiva sul diritto d’autore nel mercato unico digitale, vale a dire l’esclusione dall’estrazione di testo e dati che i titolari manifestano in forma leggibile dalla macchina.

Devono altresì pubblicare una «sintesi sufficientemente dettagliata» dei contenuti utilizzati per l’addestramento, secondo il modello di formulario diffuso dall’Ufficio per l’IA il 24 luglio 2025. La disposizione trasforma i dati di addestramento da segreto commerciale in artefatto parzialmente divulgato, ed è quella destinata con maggiore probabilità ad alimentare il contenzioso.

Marcatura dei contenuti sintetici

Ai sensi dell’articolo 50, i fornitori di sistemi che generano audio, immagini, video o testo sintetici devono marcare tali output in formato leggibile dalla macchina e renderli riconoscibili come generati artificialmente. I deployer che producono contenuti manipolati di tipo deepfake devono darne comunicazione. Questi obblighi di trasparenza si applicano dal 2 agosto 2026.

Per un modello a rischio sistemico l’articolo 55 aggiunge la valutazione del modello, comprese le prove in contraddittorio, la valutazione e attenuazione dei rischi sistemici, la segnalazione degli incidenti gravi all’Ufficio per l’IA e la protezione della cibersicurezza del modello e della sua infrastruttura fisica. Il codice di buone pratiche volontario mette a disposizione un formulario di documentazione e opera come presunzione di conformità per buona parte di tali requisiti. La mappa completa degli obblighi figura nella nostra guida operativa al regolamento europeo.

I rischi propri dei modelli generativi

Buona parte del rischio in materia di IA è ereditata: ogni modello può essere distorto, attaccato o sorvegliato male. Un insieme più ristretto attiene specificamente alla generazione, e il catalogo più nitido resta il profilo sull’IA generativa del NIST (AI 600-1), pubblicato nel luglio 2024 a corredo del quadro per la gestione del rischio. Esso individua dodici categorie di rischio e oltre duecento azioni suggerite.

Le categorie realmente proprie della generazione sono le seguenti:

• Confabulazione, che il NIST definisce come produzione di contenuti enunciati con sicurezza ma erronei, comunemente detti allucinazioni. Apre l’elenco perché è strutturale e non accidentale.
• Integrità dell’informazione, ossia la capacità di produrre in volume contenuti sintetici persuasivi, che è precisamente ciò che la marcatura dell’articolo 50 intende contrastare.
• Proprietà intellettuale, che abbraccia tanto la provenienza dei dati di addestramento quanto gli output che riproducono materiale protetto.
• Protezione dei dati, compresa la memorizzazione e la restituzione di dati personali provenienti dai corpora di addestramento. Il Garante per la protezione dei dati personali si è pronunciato più volte su questo terreno.
• Informazioni CBRN, vale a dire il contributo verso capacità chimiche, biologiche, radiologiche o nucleari.
• Distorsioni dannose e omogeneizzazione, quando gli output generati restringono il ventaglio delle persone e delle idee rappresentate.
• Catena del valore e integrazione di componenti, ossia il rischio ereditato da un modello, un insieme di dati o un componente che non si è costruito.

Il profilo di gestione del rischio per modelli GPAI e di base del CLTC di Berkeley aggiunge lo strato operativo: punti di passaggio alle tappe rilevanti dello sviluppo, soglie esplicite di tolleranza al rischio, esercitazioni di red team sulle capacità pericolose e trasparenza attraverso schede di modello e di sistema.

Nessuno di questi elementi è un difetto in attesa di correzione. Ciascuno è una proprietà da misurare, delimitare e documentare, ed è esattamente a questo che serve un quadro di controlli. La nostra panoramica sul rischio legato all’IA mostra come ricondurli a un registro.

Governare un modello che non avete costruito

Quasi ogni organizzazione che legge queste righe è deployer e non addestratrice. Ciò non la colloca fuori dal regime, e la posizione di deployer è meno stabile di quanto appaia.

Si può diventare fornitori senza addestrare alcunché. Mettere a punto il modello di un terzo sui propri dati, oppure apporre il proprio nome o marchio su un sistema che ne deriva, basta a far scivolare nel ruolo di fornitore e nei relativi obblighi. La questione non è chi abbia avviato il calcolo di addestramento, bensì chi immetta il prodotto sul mercato.

Quattro mosse coprono la sostanza:

1. Individuare i modelli effettivamente in uso. Non si governa un inventario di cui non si dispone, e gli strumenti generativi entrano in azienda attraverso le note spese e le estensioni del browser anziché attraverso gli acquisti. È il problema della shadow AI, e la sua soluzione condiziona tutto il resto.
2. Fissare il confine tra fornitore e deployer modello per modello. Mettetelo per iscritto per ciascun sistema: chi è il fornitore, che cosa ha consegnato, che cosa cambia in caso di messa a punto. L’ambiguità su questo punto trasforma un incidente in una controversia sulla responsabilità.
3. Ottenere la documentazione a valle e conservarla. Le informazioni dell’allegato XII appartengono al contratto. Richiedetele in fase di acquisto, non dopo l’incidente.
4. Definire valutazione e registrazione prima della messa in esercizio. Stabilite che cosa sia un output accettabile, come lo misurerete e che cosa conserverete. Ricostruire le prove a posteriori costa assai più che raccoglierle via via.

Nulla di tutto ciò richiede di comprendere le teste di attenzione. Occorre sapere quale modello di IA generativa si collochi dietro quale processo aziendale e a che cosa ciascuno obblighi. È la governance dell’IA applicata a una classe determinata di sistemi.

Domande frequenti

ChatGPT è un modello di IA generativa? Non esattamente. ChatGPT è un sistema di IA costruito su modelli generativi della famiglia GPT. La distinzione non è un cavillo: il regolamento europeo disciplina in modo diverso i modelli e i sistemi, ponendo gli obblighi dell’articolo 53 in capo al fornitore del modello e quelli di trasparenza dell’articolo 50 in capo al fornitore del sistema e ai suoi deployer. Nel linguaggio corrente i termini si confondono. In un fascicolo di conformità la differenza stabilisce chi debba che cosa.

Qual è un esempio di modello di IA generativa? GPT e Llama sono modelli testuali fondati sui transformer. Stable Diffusion è un modello di diffusione per le immagini. StyleGAN è una rete generativa avversaria specializzata nei volti. Ciascuno genera secondo un meccanismo differente, e tale scelta determina quali rischi prevalgano: memorizzazione ed esposizione al diritto d’autore per le immagini, confabulazione per il testo.

Che differenza c’è tra IA generativa e LLM? Un modello linguistico di grandi dimensioni è una specie del genere, specializzata nel testo. La categoria più ampia comprende anche modelli per immagini, audio, video e molecole. Ogni LLM è generativo; la maggior parte dei modelli generativi non è costituita da LLM. La confusione persiste perché i modelli testuali sono quelli con cui il pubblico interagisce direttamente.

Tutti i modelli sono disciplinati dal regolamento europeo? No. Il regolamento non disciplina un modello per il fatto di essere generativo. Gli obblighi sorgono quando il modello si qualifica come modello di IA per finalità generali, presunto oltre 10^23 FLOP, oppure quando un sistema ricade in un caso d’uso ad alto rischio o attiva gli obblighi di trasparenza dell’articolo 50. Un piccolo modello di immagini messo a punto per un compito interno resta fuori dal regime GPAI, benché il caso d’uso che lo circonda possa comunque essere regolamentato.

Quali sono i principali tipi di modelli? Cinque famiglie: transformer e modelli autoregressivi per le sequenze, modelli di diffusione per immagini e video, reti generative avversarie, autoencoder variazionali e modelli a flusso. Transformer e diffusione concentrano oggi la maggioranza dei dispiegamenti in produzione, mentre GAN, VAE e flussi fungono sempre più da componenti interni di sistemi più ampi anziché da generatore principale.

Chi risponde degli output dannosi? Dipende dal ruolo rivestito. Il fornitore del modello deve la documentazione, la politica sul diritto d’autore e, oltre la soglia sistemica, la valutazione e la segnalazione degli incidenti. Il fornitore del sistema deve la trasparenza e la marcatura degli output. Il deployer deve un uso appropriato, la sorveglianza umana ove prescritta e la comunicazione dei deepfake. La messa a punto o l’apposizione del marchio può farvi passare da deployer a fornitore, ragione per cui il confine va definito per iscritto, modello per modello.

Conclusione

La questione architetturale è risolta. Transformer, diffusione, GAN, VAE e flussi sono ampiamente documentati, e qualsiasi tecnico competente sa spiegare come un modello di IA generativa trasformi un prompt in un output. La questione della responsabilità non lo è, ed è quella che occuperà le funzioni di conformità lungo tutto il 2026, via via che i poteri di esecuzione entrano in gioco e gli obblighi di trasparenza cominciano a mordere.

Lo spostamento utile consiste nel cessare di trattare questi sistemi come una categoria tecnologica per trattarli come una classe di asset governata: inventariata, classificata rispetto alle soglie europee, documentata, valutata e attribuita a un responsabile con nome e cognome. AI Sigil è costruito esattamente per questo lavoro e converte gli obblighi del regolamento europeo, della ISO 42001 e del quadro NIST in controlli ed evidenze presentabili a un revisore.