Les discussions sur la transparence de l’IA se concentrent sur l’intention trompeuse
Les règles proposées pour l’étiquetage des deepfakes générés par l’IA, en cours d’élaboration dans le cadre d’un code de transparence lié à la loi sur l’IA, divisent les experts impliqués dans le processus de rédaction de l’UE.
Selon la loi sur l’IA de l’UE, les entreprises doivent s’assurer que le contenu généré par l’IA – images, vidéos, audio – soit marqué, divulguant le rôle de l’IA dans sa création. Si un système d’IA est utilisé pour créer un deepfake, comme une vidéo semblant montrer une personne réelle parlant, l’idée est qu’il doit être marqué comme synthétique pour éviter le risque de tromperie.
Les défis de l’étiquetage
Bien que le principe semble simple, l’élaboration de règles claires pour cet étiquetage est semée de décisions délicates. En particulier, une lutte semble se profiler entre les parties prenantes de l’industrie et les groupes de la société civile sur la manière dont l’UE devrait tracer la ligne en ce qui concerne l’étiquetage du contenu amélioré ou généré par l’IA. L’objectif du code de pratique est de fournir aux entreprises des conseils pratiques sur la manière de se conformer aux règles de transparence de la loi sur l’IA, qui devaient initialement entrer en vigueur en août 2026.
Un premier projet de code, publié avant Noël, semble pencher en faveur de la direction de la société civile, avec des experts indépendants présidant le processus soutenant l’étiquetage de l’IA même pour des modifications « apparemment mineures » qui altèrent le contexte du contenu.
Les préoccupations de l’industrie
Les sources de l’industrie ont exprimé leur opposition à ces règles d’étiquetage globales, arguant qu’elles conduiraient à des étiquettes omniprésentes, diluant ainsi leur effet d’avertissement. Certaines industries, comme la publicité, pourraient être particulièrement affectées par ces règles.
La question clé lors des discussions récentes sur le code a été de savoir si l’« intention trompeuse » devrait être prise en compte lors de la détermination de la nécessité d’étiqueter le contenu. La loi sur l’IA elle-même ne fait référence qu’aux contenus « générés ou manipulés artificiellement ».
Conséquences et délais
Le code de transparence en cours d’élaboration est le deuxième guide de la loi sur l’IA, après le code très lobbyé pour les modèles d’IA à usage général. Comme pour le code GPAI, le code final sera volontaire : les entreprises pourront choisir de s’y inscrire. Cependant, celles qui le feront seront probablement perçues comme alignées sur les meilleures pratiques, ce qui leur donnera des points positifs lors de toute évaluation de conformité à la loi sur l’IA.
Les discussions similaires se déroulent concernant d’autres règles permettant aux systèmes d’IA d’appliquer une marque d’eau lisible par machine au contenu qu’ils génèrent. Cela s’appliquera à tout le contenu généré par l’IA, pas seulement aux deepfakes, et imposera des obligations aux développeurs de systèmes d’IA, plutôt qu’uniquement aux déployeurs.
La loi sur l’IA mentionne spécifiquement que cette marque d’eau doit inclure le texte généré par l’IA. Le premier projet du code de transparence mentionne le code (logiciel) comme un type spécifique de texte généré par l’IA, une étape que les sources de l’industrie considèrent avec scepticisme, remettant en question la nécessité d’une telle mesure.
Quel que soit le résultat final du code de transparence, les entreprises obtiendront probablement plus de temps pour se conformer aux règles d’étiquetage de la loi sur l’IA : la Commission a proposé de reporter leur application à février 2027 pour les systèmes d’IA lancés avant août 2026.
En théorie, le code de transparence est uniquement destiné à fournir des détails pratiques sur la mise en œuvre des règles de l’UE. La Commission travaille également sur des directives distinctes abordant la portée et les définitions légales des règles. Ce document pourrait clarifier certains termes clés pertinents aux discussions sur le code de transparence, mais il n’est attendu qu’en juin, autour du moment où le code de pratique est censé être finalisé.
