Directives de la Commission Européenne sur les Pratiques d’IA Interdites en vertu de la Loi sur l’IA de l’UE
Le 4 février 2025, la Commission Européenne (CE) a publié un projet de directives clarifiant les pratiques d’IA qui sont interdites selon la Loi sur l’IA de l’Union Européenne (UE). Bien que ces directives ne soient pas contraignantes, elles offrent des précisions précieuses et des exemples pratiques pour aider les entreprises à naviguer dans leurs obligations sous la Loi sur l’IA.
La CE a approuvé le projet de directives, qui devrait être formellement adopté dans un avenir proche.
Contexte
Les dispositions de la Loi sur l’IA concernant les pratiques interdites sont entrées en vigueur le 2 février 2025, parallèlement à d’autres dispositions sur la littératie en IA. L’article 5 de la Loi sur l’IA prohibe certaines pratiques d’IA considérées comme présentant des risques inacceptables, telles que les systèmes d’IA qui manipulent ou exploitent des individus, effectuent un score social, ou infèrent les émotions des individus sur le lieu de travail ou dans l’éducation.
Pratiques d’IA Interdites
Voici un aperçu des principales interdictions selon la Loi sur l’IA, tel qu’interprété par les directives :
- Score Social. La Loi sur l’IA interdit l’offre ou l’utilisation de systèmes d’IA qui évaluent les comportements sociaux des individus pour déterminer leur traitement dans un contexte non lié. Par exemple, recommander le prix d’une prime d’assurance ou évaluer la solvabilité des personnes sur la base de caractéristiques personnelles non pertinentes pourrait constituer un score social.
- Manipulation et Exploitation. L’utilisation de systèmes d’IA qui emploient des techniques subliminales ou exploitent les vulnérabilités individuelles pour influencer le comportement et causer des dommages est prohibée. Cela inclut l’utilisation de l’IA dans les jeux pour encourager une utilisation excessive, en exploitant les vulnérabilités des enfants.
- Reconnaissance Faciale et Identification Biométrique. La Loi sur l’IA interdit la création de bases de données de reconnaissance faciale par le biais de la collecte non ciblée d’images sur Internet. Par exemple, le grattage d’images faciales à partir de plateformes de médias sociaux pour créer une base de données de reconnaissance faciale est prohibé.
- Reconnaissance des Émotions dans les Lieux de Travail et Établissements Éducatifs. L’utilisation de l’IA pour reconnaître les émotions dans ces contextes est généralement interdite. Cela inclut des exemples tels que des centres d’appels utilisant des webcams pour suivre les émotions des employés.
- Catégorisation Biométrique. La catégorisation des individus basée sur des attributs sensibles, tels que la race ou l’orientation sexuelle, à l’aide de données biométriques est interdite. Par exemple, il est prohibé d’utiliser des systèmes d’IA pour catégoriser des personnes sur la base de telles données pour envoyer des messages politiques.
Responsabilités des Fournisseurs d’IA
Les directives stipulent que les fournisseurs de systèmes d’IA sont responsables de ne pas mettre sur le marché un système qui est « raisonnablement susceptible » d’être utilisé à des fins interdites. Ils doivent également adopter des mesures de protection pour prévenir les abus prévisibles.
La CE s’attend à ce que les fournisseurs excluent clairement l’utilisation de leur système d’IA pour des pratiques interdites dans leurs conditions d’utilisation et fournissent des instructions claires pour son utilisation.
Prochaines Étapes
Les entreprises qui pratiquent des usages d’IA interdits risquent des amendes significatives, pouvant atteindre 35 millions d’euros ou 7 % de leur chiffre d’affaires annuel mondial, selon le montant le plus élevé. Les premières actions d’exécution devraient commencer dans la seconde moitié de 2025.
Les entreprises proposant ou utilisant de l’IA dans l’UE doivent examiner leurs systèmes d’IA et leurs conditions d’utilisation à la lumière de ces directives et combler les lacunes de conformité dans la première moitié de 2025.
