Europe Moves to Ban AI Nudification Tools Under Updated AI Act
L’Union européenne se rapproche de l’affinement de sa loi phare sur l’IA, avec le Conseil européen proposant de nouveaux amendements visant à simplifier les réglementations tout en abordant les risques émergents liés à l’intelligence artificielle.
Le Conseil a publié sa position sur les mises à jour de la loi sur l’IA de l’UE, y compris une nouvelle interdiction des outils de nudification par IA et des normes plus strictes concernant l’utilisation de données personnelles sensibles. La proposition fait partie d’un ensemble législatif plus large conçu pour rationaliser le cadre réglementaire numérique de l’UE et réduire les charges de conformité pour les entreprises.
Amendements de la loi sur l’IA de l’UE ciblant le contenu nuisible
Un des changements les plus significatifs proposés est l’interdiction des outils d’IA capables de générer des images sexuelles ou intimes non consensuelles. Selon le Conseil, cette nouvelle disposition interdit explicitement les « pratiques d’IA concernant la génération de contenu sexuel ou intime non consensuel ou de matériel d’abus sexuel d’enfants ». Ce mouvement survient alors que les régulateurs à travers l’Europe confrontent de plus en plus les dommages causés par le contenu deepfake généré par l’IA.
La proposition fait suite à une étape similaire où des membres du Parlement européen ont approuvé leur propre version de l’interdiction. L’alignement entre les deux organismes suggère que les restrictions sur les outils de nudification par IA devraient rester dans la version finale de la loi sur l’IA de l’UE une fois les négociations conclues.
Modifications des réglementations sur les systèmes d’IA à haut risque
En parallèle de la nouvelle interdiction, les réformes proposées ajustent également le calendrier de mise en œuvre des règles sur les systèmes d’IA à haut risque, un élément clé de la loi sur l’IA de l’UE. La Commission européenne avait précédemment suggéré de retarder la mise en œuvre de ces règles jusqu’à 16 mois, permettant aux régulateurs de développer les normes techniques nécessaires pour les appliquer efficacement.
Les nouvelles dates limites proposées sont le 2 décembre 2027 pour les systèmes d’IA à haut risque autonomes et le 2 août 2028 pour les systèmes d’IA à haut risque intégrés dans des produits. Ces extensions visent à fournir aux organisations des orientations plus claires et un temps de préparation suffisant tout en garantissant que le cadre réglementaire reste applicable.
Renforcement des garanties pour les données sensibles
Un autre amendement clé se concentre sur la manière dont les organisations traitent les données personnelles sensibles lors du développement ou des tests de systèmes d’IA. La proposition du Conseil restaure la norme de « nécessité stricte » pour l’utilisation de catégories spéciales de données personnelles dans les processus de détection et de correction des biais. Cela signifie que les organisations doivent justifier clairement pourquoi ces données sont nécessaires avant de les utiliser pour améliorer l’équité algorithmique.
De plus, la proposition de loi reportera la date limite pour établir des espaces réglementaires nationaux pour l’IA jusqu’en décembre 2027. Ces espaces sont conçus pour permettre aux entreprises de tester des technologies d’IA dans des environnements contrôlés sous supervision réglementaire.
Simplification des règles sans affaiblir la surveillance
L’objectif plus large derrière les amendements proposés est de simplifier le réseau complexe de réglementations numériques affectant les entreprises à travers l’UE. Dans le cadre de l’initiative Digital Omnibus, la Commission européenne travaille à réduire les charges administratives tout en améliorant la cohérence des règles sur l’IA entre les États membres.
La proposition introduit également de nouvelles obligations de guidance pour les régulateurs. En vertu de la loi sur l’IA de l’UE révisée, la Commission européenne fournirait des instructions plus claires pour aider les entreprises à se conformer aux exigences des systèmes d’IA à haut risque tout en minimisant les coûts de conformité.
Conclusion
Avec le Conseil adoptant maintenant formellement sa position de négociation, les discussions passeront à la prochaine étape. La proposition sera négociée avec le Parlement européen pour finaliser le cadre mis à jour. Bien que le processus puisse encore impliquer des révisions, les derniers développements signalent que l’Europe reste déterminée à façonner la gouvernance mondiale de l’IA à travers la loi sur l’IA de l’UE, en équilibrant innovation, compétitivité des entreprises et protections contre les risques technologiques émergents.
Alors que les outils d’IA générative continuent d’évoluer rapidement, le débat sur la manière dont ils devraient être réglementés est loin d’être terminé. Mais la dernière proposition du Conseil rend une chose claire : l’Europe est déterminée à renforcer les protections là où l’utilisation abusive de l’IA menace la vie privée, la sécurité et la confiance dans les technologies numériques.
