IA générative : types de modèles, risques et obligations

L’essentiel

• Un modèle d’IA générative apprend la structure statistique de ses données d’entraînement, puis échantillonne cette structure pour produire du texte, des images, du son, de la vidéo ou du code inédits.
• Cinq architectures se partagent l’essentiel des usages : transformeurs, modèles de diffusion, GAN, auto-encodeurs variationnels et modèles à flots. Chacune génère différemment et échoue différemment.
• L’expression décrit un comportement technique, pas un statut juridique. Le droit européen encadre une catégorie voisine mais distincte, celle des modèles d’IA à usage général.
• Un modèle est présumé à usage général au-delà de 10^23 FLOP de puissance de calcul cumulée, et présumé à risque systémique au-delà de 10^25 FLOP.
• Peu d’organisations entraînent un modèle. Beaucoup en deviennent pourtant le fournisseur au sens juridique, par affinage ou par simple apposition de leur marque.

Qu’est-ce qu’un modèle d’IA générative ?

Un modèle d’IA générative est un modèle d’apprentissage automatique qui apprend la structure statistique d’un ensemble de données, puis échantillonne cette structure pour produire des contenus nouveaux qui ressemblent aux données d’origine sans les recopier. Là où un classifieur classique répond à une question portant sur une entrée, un modèle d’IA générative fabrique quelque chose qui n’existait pas : un paragraphe, une image, une mélodie, une fonction.

La nuance est plus profonde qu’il n’y paraît. La majorité des systèmes d’apprentissage automatique en production estiment la probabilité d’une étiquette à partir d’une entrée. Un modèle génératif, lui, estime la distribution des données elles-mêmes, problème nettement plus difficile et capacité nettement plus ouverte. Dès lors qu’un système a modélisé la manière dont se construisent un texte ou une image, on peut lui en demander des quantités arbitraires.

Un point mérite d’être posé sans détour, car la plupart des ressources disponibles le laissent implicite : « IA générative » est une description technique, non une catégorie réglementaire. Ni le droit européen ni le droit américain n’attachent d’obligations au seul adjectif « génératif ». Les obligations se rattachent à des catégories précises : modèles d’IA à usage général, systèmes à haut risque, contextes de déploiement particuliers. Un modèle donné peut relever de toutes, de certaines, ou d’aucune. Ce guide traite les deux volets : ce que sont ces modèles, et ce à quoi leur conception ou leur usage engage réellement.

Pour la famille plus large dans laquelle ils s’inscrivent, voir notre guide consacré à ce qu’est un modèle d’IA.

Modèles génératifs et modèles discriminants

La formule la plus commode pour retenir la différence : un modèle discriminant trace des frontières, un modèle génératif tire des échantillons.

Un filtre antispam est discriminant. Il apprend une frontière entre courriel indésirable et courriel légitime, et place chaque message d’un côté ou de l’autre. Il ne saurait rédiger un courriel. Un modèle génératif entraîné sur le même corpus apprend comment un courriel se construit, et peut en produire un à la demande.

Formellement, les modèles discriminants estiment la probabilité d’une étiquette conditionnellement à l’entrée. Les modèles génératifs estiment la distribution conjointe des données, ce qui leur permet de synthétiser des instances nouvelles. C’est la raison pour laquelle un système d’IA générative se réoriente si facilement vers des tâches pour lesquelles il n’a jamais été explicitement entraîné, et pourquoi ses modes de défaillance se laissent difficilement borner à l’avance.

Comment fonctionne un modèle d’IA générative

Tout modèle repose sur la même logique en deux temps : comprimer, puis échantillonner.

Pendant l’entraînement, le modèle est exposé à un corpus très vaste et ajuste ses paramètres de façon que les régularités de ce corpus deviennent plus probables sous le modèle. Rien n’est stocké mot à mot au sens ordinaire. Ce qui subsiste est un encodage comprimé et lacunaire de régularités : la manière dont se bâtissent les phrases, dont se dessinent les visages, dont se résolvent les enchaînements harmoniques.

Pendant l’inférence, le processus se déploie vers l’extérieur. Le système échantillonne la distribution apprise, conditionnellement à l’invite reçue. L’échantillonnage étant probabiliste, une même invite peut donner des sorties différentes, et le modèle ne dispose d’aucune représentation interne de la vérité de ce qu’il produit.

Ce dernier point emporte une conséquence de gouvernance que l’on néglige souvent. Une sortie fluide, assurée et fausse n’est pas un défaut introduit par une ingénierie négligente. Elle découle directement de la construction même d’un modèle d’IA générative : l’objectif d’entraînement récompense la plausibilité sous la distribution apprise, non l’exactitude au regard du monde. On peut abaisser le taux d’erreur par l’ancrage documentaire, l’évaluation et la relecture humaine. On ne peut pas le corriger définitivement. Notre analyse du principal risque de l’IA générative développe ce point.

Les cinq familles de modèles d’IA générative

Presque tout modèle déployé appartient à l’une de cinq familles architecturales. Elles ne sont pas interchangeables : chacune génère selon un mécanisme propre, convient à des modalités distinctes et se dégrade à sa manière.

Transformeurs et modèles autorégressifs

Les transformeurs génèrent séquentiellement, en prédisant le prochain jeton à partir de tout ce qui précède. Le mécanisme d’attention permet au modèle de pondérer des éléments éloignés de l’entrée au moment de produire chaque jeton, ce qui a rendu praticable la cohérence à longue portée dans le texte. Cette famille anime les séries GPT, Claude, Gemini et Llama, et déborde largement du texte vers le code, l’audio et les séquences protéiques. Force : cohérence et généralité. Faiblesse : le coût, et la fabulation assurée qu’entraîne la pure prédiction du jeton suivant.

Modèles de diffusion

Les modèles de diffusion apprennent à inverser un processus de bruitage. L’entraînement détruit progressivement une image par du bruit aléatoire tandis que le modèle apprend à défaire chaque étape. À l’inférence, il part d’un bruit pur et débruite vers un échantillon, guidé par une invite textuelle. Cette famille a supplanté les GAN pour la synthèse d’images de qualité et alimente aujourd’hui Stable Diffusion, DALL-E et la majeure partie de la génération vidéo. Force : qualité des échantillons et stabilité de l’entraînement. Faiblesse : la multiplicité des étapes de débruitage ralentit la génération.

Réseaux antagonistes génératifs (GAN)

Un GAN entraîne deux réseaux l’un contre l’autre. Le générateur produit des candidats, le discriminateur tente de les distinguer des données réelles, et tous deux progressent jusqu’à ce que la production du générateur passe l’épreuve. Les GAN ont livré les premiers visages synthétiques véritablement photoréalistes et restent utiles là où compte la génération rapide en une passe. Force : vitesse à l’inférence et netteté. Faiblesse : instabilité de l’entraînement et effondrement des modes, où le générateur se replie sur une portion étroite de la distribution.

Auto-encodeurs variationnels (VAE)

Un VAE comprime l’entrée en une distribution de probabilité sur un espace latent, puis décode des échantillons de cet espace vers les données. L’espace latent étant continu et structuré, on peut interpoler de façon signifiante entre deux points. Les sorties sont généralement plus floues que celles d’un GAN ou d’un modèle de diffusion, ce qui explique que les VAE tiennent aujourd’hui plus souvent lieu de composant au sein d’un système plus vaste que de générateur principal. Force : représentations latentes structurées et contrôlables. Faiblesse : fidélité des échantillons.

Modèles à flots normalisants

Les modèles à flots appliquent une suite de transformations inversibles qui projettent une distribution simple sur une distribution complexe. Chaque étape étant inversible, ils calculent des vraisemblances exactes, là où les autres familles se contentent d’approximations. Force : estimation exacte de densité et réversibilité. Faiblesse : contraintes architecturales et coût de calcul élevé à qualité comparable.

Famille	Génère	Force	Faiblesse principale	Système représentatif
Transformeur / autorégressif	Texte, code, audio	Cohérence, généralité	Coût, fabulation	GPT, Llama
Diffusion	Images, vidéo, audio	Qualité des échantillons	Inférence lente	Stable Diffusion
GAN	Images	Rapidité, netteté	Entraînement instable	StyleGAN
VAE	Images, représentations latentes	Espace latent structuré	Échantillons flous	VQ-VAE
Flots normalisants	Images, audio	Vraisemblances exactes	Coût de calcul	Glow

La famille employée détermine ce qu’il faut tester. Évaluer la fiabilité factuelle d’un générateur de texte n’a rien à voir avec l’évaluation de la mémorisation des données d’entraînement par un générateur d’images, et les deux alimentent les preuves d’évaluation qu’un auditeur finit toujours par réclamer.

IA générative, modèle de fondation, LLM, modèle à usage général

Quatre expressions circulent comme si elles étaient synonymes. Elles désignent des réalités distinctes, et une seule emporte des effets juridiques.

• Modèle d’IA générative décrit ce que fait le modèle : il produit du contenu nouveau. Rien n’est dit de sa taille, de sa portée ni de sa méthode d’entraînement.
• Modèle de fondation décrit sa fabrication et son usage : préentraînement large sur de grandes données, puis adaptation à de nombreuses tâches en aval. La plupart sont génératifs, mais le trait définitoire reste l’étendue et la réutilisabilité.
• Grand modèle de langage (LLM) désigne un modèle de fondation dont la modalité est le texte. Tout LLM relève de l’IA générative. L’inverse n’est pas vrai.
• Modèle d’IA à usage général (GPAI) est une catégorie juridique du règlement européen sur l’IA. Elle repose sur la généralité et les capacités, non sur l’architecture, et elle seule déclenche par elle-même des obligations légales.

Un petit modèle d’images affiné sur un catalogue produit relève de l’IA générative sans être, presque à coup sûr, un modèle à usage général. Un modèle de frontière textuel cumule les quatre qualifications. Notre guide sur l’IA à usage général traite la catégorie juridique en détail.

Quand un modèle bascule dans la catégorie réglementée

Les lignes directrices de la Commission européenne destinées aux fournisseurs de modèles d’IA à usage général, publiées le 18 juillet 2025, ont substitué à une définition floue un critère opérationnel fondé sur la puissance de calcul d’entraînement.

Un modèle est présumé à usage général lorsque la puissance de calcul cumulée employée pour l’entraîner dépasse 10^23 opérations en virgule flottante et qu’il sait produire du langage, du texte vers image ou du texte vers vidéo. Le raisonnement de la Commission tient à ce que ce seuil correspond en gros à un modèle d’un milliard de paramètres entraîné sur un vaste corpus, seuil à partir duquel une généralité véritable apparaît.

Au-delà de 10^25 FLOP, une seconde présomption s’applique : le modèle est réputé présenter un risque systémique au sens de l’article 55. La Commission peut également désigner un modèle comme systémique au vu de ses capacités, indépendamment du calcul. Cet étage supérieur est celui des laboratoires de frontière et il emporte un jeu d’obligations plus lourd. Voir ce qu’est un modèle de frontière pour ce palier.

Il s’agit dans les deux cas de présomptions et non de lignes figées. Un fournisseur peut soutenir qu’un modèle situé au-dessus du seuil n’est pas à usage général, et la Commission peut à l’inverse faire entrer dans le champ un modèle situé en dessous.

Le calendrier compte pour la planification. Les obligations relatives aux modèles à usage général s’appliquent depuis le 2 août 2025. Les pouvoirs d’exécution de la Commission à l’égard des fournisseurs, demandes formelles d’informations et amendes comprises, s’ouvrent le 2 août 2026.

La lecture pratique, pour la plupart des organisations : vous n’entraînerez sans doute jamais un tel modèle, vous en déploierez très probablement un, et vous pouvez en devenir fournisseur sans avoir lancé le moindre entraînement.

Ce que le règlement européen exige du fournisseur

Le fournisseur d’un modèle à usage général supporte quatre obligations de base au titre de l’article 53, auxquelles s’ajoute une strate supplémentaire lorsque le modèle est systémique.

Documentation technique et information des acteurs en aval

Le fournisseur doit établir et tenir à jour une documentation technique couvrant la conception du modèle, son processus d’entraînement, ses résultats d’évaluation et son usage prévu, conformément à l’annexe XI. Il doit par ailleurs transmettre aux fournisseurs en aval qui intègrent le modèle, conformément à l’annexe XII, les éléments suffisants pour comprendre ses capacités et ses limites et satisfaire à leurs propres obligations.

C’est la seconde obligation que les entreprises sous-estiment. Si vous bâtissez un produit sur le modèle d’un tiers, cette documentation constitue la matière première de votre propre dossier de conformité, et elle relève de la négociation contractuelle plutôt que de l’espoir. Notre guide sur les exigences de documentation des systèmes d’IA précise ce que contient un dossier complet.

Politique de droit d’auteur et résumé des données d’entraînement

Les fournisseurs doivent mettre en place une politique de conformité au droit d’auteur de l’Union. En pratique, tout se joue autour du respect des réservations de droits exprimées au titre de l’article 4, paragraphe 3, de la directive sur le droit d’auteur dans le marché unique numérique, c’est-à-dire l’exclusion de la fouille de textes et de données que les titulaires expriment sous forme lisible par machine.

Ils doivent également publier un « résumé suffisamment détaillé » des contenus utilisés pour l’entraînement, selon le modèle de formulaire publié par le Bureau de l’IA le 24 juillet 2025. Cette disposition fait passer les données d’entraînement du secret d’affaires à l’artefact partiellement divulgué, et c’est celle qui nourrira le plus probablement le contentieux.

Marquage des contenus de synthèse

Au titre de l’article 50, les fournisseurs de systèmes produisant du son, de l’image, de la vidéo ou du texte de synthèse doivent marquer ces sorties dans un format lisible par machine et les rendre détectables comme artificiellement générées. Les déployeurs qui produisent des hypertrucages doivent les signaler. Ces obligations de transparence s’appliquent à compter du 2 août 2026.

Pour un modèle à risque systémique, l’article 55 ajoute l’évaluation du modèle, y compris les tests contradictoires, l’appréciation et l’atténuation des risques systémiques, la notification des incidents graves au Bureau de l’IA, et la protection de la cybersécurité du modèle comme de son infrastructure physique. Le code de bonnes pratiques volontaire fournit un formulaire de documentation et vaut présomption de conformité pour une bonne part de ces exigences. La cartographie complète figure dans notre guide opérationnel du règlement sur l’IA.

Les risques propres aux modèles génératifs

Une large part du risque en IA est héritée : tout modèle peut être biaisé, attaqué ou mal surveillé. Un ensemble plus restreint tient spécifiquement à la génération, et le catalogue le plus net reste le profil IA générative du NIST (AI 600-1), publié en juillet 2024 en complément du cadre de gestion des risques. Il définit douze catégories de risques et plus de deux cents actions suggérées.

Les catégories véritablement propres à la génération :

• La fabulation, que le NIST définit comme la production de contenus énoncés avec assurance mais erronés, familièrement appelés hallucinations. Elle ouvre la liste parce qu’elle est structurelle et non accidentelle.
• L’intégrité de l’information, soit la capacité à produire en volume des contenus de synthèse persuasifs, ce que le marquage de l’article 50 vise précisément à contrer.
• La propriété intellectuelle, qui couvre à la fois la provenance des données d’entraînement et les sorties reproduisant des œuvres protégées.
• La protection des données, mémorisation et restitution de données personnelles issues des corpus d’entraînement comprises. La CNIL a publié sur ce terrain des recommandations utiles aux responsables de traitement.
• Les informations CBRN, c’est-à-dire l’assistance vers des capacités chimiques, biologiques, radiologiques ou nucléaires.
• Les biais préjudiciables et l’homogénéisation, lorsque les sorties générées rétrécissent l’éventail des personnes et des idées représentées.
• La chaîne de valeur et l’intégration de composants, soit le risque hérité d’un modèle, d’un jeu de données ou d’un composant que l’on n’a pas construit.

Le profil de gestion des risques pour les modèles à usage général et de fondation du CLTC de Berkeley ajoute la couche opérationnelle : points de passage aux étapes majeures de développement, seuils explicites de tolérance au risque, exercices d’équipe rouge sur les capacités dangereuses, transparence par les fiches de modèle et de système.

Aucun de ces éléments n’est un défaut en attente de correctif. Chacun est une propriété à mesurer, à borner et à documenter, ce à quoi sert précisément un référentiel de contrôles. Notre panorama du risque lié à l’IA montre comment les inscrire dans une cartographie.

Gouverner un modèle que l’on n’a pas construit

Presque toutes les organisations qui lisent ces lignes sont déployeuses et non entraîneuses. Cela ne les place pas hors du dispositif, et la position de déployeur est moins stable qu’il n’y paraît.

On peut devenir fournisseur sans rien entraîner. Affiner le modèle d’un tiers sur ses propres données, ou apposer son nom ou sa marque sur un système qui en dérive, suffit à basculer dans le rôle de fournisseur et dans ses obligations. La question n’est pas de savoir qui a lancé le calcul d’entraînement, mais qui met la chose sur le marché.

Quatre gestes couvrent l’essentiel :

1. Recenser les modèles réellement utilisés. On ne gouverne pas un inventaire dont on ne dispose pas, et les outils génératifs entrent dans l’entreprise par les notes de frais et les extensions de navigateur plutôt que par les achats. C’est le problème de l’IA fantôme, et sa résolution conditionne tout le reste.
2. Fixer la frontière fournisseur/déployeur modèle par modèle. Consignez-la par écrit pour chaque système : qui est fournisseur, qu’a-t-il transmis, qu’est-ce qui change en cas d’affinage. L’ambiguïté ici transforme un incident en débat de responsabilité.
3. Obtenir la documentation en aval et la conserver. Les informations de l’annexe XII relèvent du contrat. Réclamez-les à l’achat, non après l’incident.
4. Définir l’évaluation et la journalisation avant la mise en service. Décidez de ce qu’est une sortie acceptable, de la façon dont vous la mesurerez et de ce que vous conserverez. Reconstituer la preuve après coup coûte bien davantage que la collecter.

Rien de tout cela n’exige de comprendre les têtes d’attention. Il faut savoir quel modèle se tient derrière quel processus métier, et ce que chacun impose. C’est la gouvernance de l’IA appliquée à une classe de systèmes précise.

Questions fréquentes

ChatGPT est-il un modèle d’IA générative ? Pas exactement. ChatGPT est un système d’IA bâti sur des modèles génératifs de la famille GPT. La distinction n’a rien de pédant : le règlement européen encadre différemment les modèles et les systèmes, les obligations de l’article 53 pesant sur le fournisseur du modèle et celles de l’article 50 sur le fournisseur du système et ses déployeurs. Dans la langue courante, les termes se confondent. Dans un dossier de conformité, la différence détermine qui doit quoi.

Quel est un exemple de modèle d’IA générative ? GPT et Llama sont des modèles textuels fondés sur les transformeurs. Stable Diffusion est un modèle de diffusion pour l’image. StyleGAN est un réseau antagoniste génératif spécialisé dans les visages. Chacun génère selon un mécanisme différent, et ce choix commande les risques dominants : mémorisation et exposition au droit d’auteur pour l’image, fabulation pour le texte.

Quelle différence entre l’IA générative et un LLM ? Un grand modèle de langage est une espèce du genre, spécialisée dans le texte. La catégorie plus large couvre aussi l’image, le son, la vidéo et les modèles moléculaires. Tout LLM est génératif ; la plupart des modèles génératifs ne sont pas des LLM. La confusion persiste parce que les modèles textuels sont ceux avec lesquels le public interagit directement.

Tous les modèles sont-ils encadrés par le règlement européen ? Non. Le règlement n’encadre pas un modèle au motif qu’il est génératif. Les obligations se déclenchent lorsque le modèle relève de l’IA à usage général, présumée au-delà de 10^23 FLOP, ou lorsque le système entre dans un cas d’usage à haut risque ou active les obligations de transparence de l’article 50. Un petit modèle d’images affiné pour une tâche interne échappe au régime des modèles à usage général, même si le cas d’usage qui l’entoure peut, lui, être réglementé.

Quels sont les principaux types de modèles ? Cinq familles : transformeurs et modèles autorégressifs pour les séquences, modèles de diffusion pour l’image et la vidéo, réseaux antagonistes génératifs, auto-encodeurs variationnels et modèles à flots. Transformeurs et diffusion concentrent aujourd’hui la majorité des déploiements en production, les GAN, VAE et flots servant de plus en plus de composants internes plutôt que de générateur principal.

Qui répond des sorties nuisibles d’un modèle d’IA générative ? Tout dépend du rôle occupé. Le fournisseur du modèle doit la documentation, la politique de droit d’auteur et, au-delà du seuil systémique, l’évaluation et la notification des incidents. Le fournisseur du système doit la transparence et le marquage des sorties. Le déployeur doit un usage approprié, la supervision humaine lorsqu’elle est requise, et le signalement des hypertrucages. L’affinage ou l’apposition de marque peut vous faire passer de déployeur à fournisseur, raison pour laquelle la frontière se règle par écrit, modèle par modèle.

Conclusion

La question architecturale est tranchée. Transformeurs, diffusion, GAN, VAE et flots sont abondamment documentés, et tout ingénieur compétent sait expliquer comment un modèle d’IA générative transforme une invite en sortie. La question de la responsabilité, elle, ne l’est pas, et c’est celle qui occupera les équipes conformité tout au long de 2026, à mesure que s’ouvrent les pouvoirs d’exécution et que mordent les obligations de transparence.

Le déplacement utile consiste à cesser de traiter ces systèmes comme une catégorie technologique pour les traiter comme une classe d’actifs gouvernée : inventoriée, classée au regard des seuils européens, documentée, évaluée et rattachée à un responsable nommé. AI Sigil est conçu pour ce travail, en convertissant les obligations du règlement européen, d’ISO 42001 et du cadre NIST en contrôles et en preuves présentables à un auditeur.