Directives de la Commission Européenne sur les Pratiques d’IA Interdites selon la Loi sur l’IA de l’UE
Le 4 février 2025, la Commission Européenne (CE) a publié un projet de directives clarifiant les pratiques d’IA interdites en vertu de la Loi sur l’Intelligence Artificielle (IA) de l’Union Européenne. Bien que ces directives ne soient pas contraignantes, elles offrent des éclaircissements précieux et des exemples pratiques pour aider les entreprises à naviguer dans leurs obligations.
Contexte
Les dispositions de la Loi sur l’IA interdisant certaines pratiques d’IA considérées comme présentant des risques inacceptables sont entrées en vigueur le 2 février 2025. L’article 5 de cette loi prohibe des systèmes d’IA qui manipulent ou exploitent des individus, effectuent un scoring social ou infèrent les émotions des individus sur le lieu de travail ou dans le domaine éducatif.
Pratiques d’IA Interdites
Voici un aperçu des principales interdictions selon la Loi sur l’IA, tel qu’interprété par les directives :
- Scoring Social : L’IA Act interdit l’utilisation de systèmes d’IA qui évaluent les comportements sociaux des individus pour déterminer leur traitement dans un contexte non lié. Par exemple, l’utilisation de systèmes d’IA pour recommander le prix d’une prime d’assurance pourrait constituer un scoring social si l’évaluation repose sur des caractéristiques personnelles non pertinentes.
- Manipulation et Exploitation : L’IA Act prohibe l’utilisation de systèmes d’IA qui exploitent des vulnérabilités individuelles pour influencer leur comportement. Cela inclut, par exemple, l’utilisation d’IA dans des jeux pour encourager une utilisation excessive en exploitant les vulnérabilités des enfants.
- Reconnaissance Faciale et Identification Biométrique : La loi interdit la création de bases de données de reconnaissance faciale par le biais de la collecte non ciblée d’images sur Internet. Les directives précisent que la collecte d’images faciales à partir des réseaux sociaux dans ce but serait prohibée.
- Reconnaissance des Émotions dans les Lieux de Travail et Éducatifs : L’utilisation de l’IA pour reconnaître les émotions dans ces contextes est généralement interdite. Par exemple, un centre d’appels utilisant des webcams pour suivre les émotions des employés est prohibé.
- Catégorisation Biométrique : La catégorisation des individus sur la base d’attributs sensibles à l’aide de données biométriques est interdite. Par exemple, il est prohibé de catégoriser les personnes en fonction de leur race ou de leurs opinions politiques par l’analyse de photos.
Responsabilités des Fournisseurs d’IA
Les directives stipulent que les fournisseurs de systèmes d’IA sont responsables de ne pas commercialiser un système qui est « raisonnablement susceptible » d’être utilisé à des fins interdites. Ils doivent également prendre des mesures pour prévenir les abus prévisibles, telles que des garanties techniques et des contrôles d’utilisateur.
Prochaines Étapes
Les entreprises qui s’engagent dans des pratiques d’IA interdites pourraient faire face à des amendes significatives, pouvant atteindre jusqu’à 35 millions d’euros ou 7 % de leur chiffre d’affaires annuel mondial, selon ce qui est le plus élevé. Les premières actions d’application devraient commencer dans la seconde moitié de 2025, alors que les pays de l’UE finalisent leurs régimes d’application.
Les entreprises qui offrent ou utilisent l’IA dans l’UE doivent examiner leurs systèmes d’IA et leurs termes à la lumière de ces directives et combler les lacunes de conformité au cours de la première moitié de 2025.
