Les Directives de la Commission Européenne sur les Pratiques d’IA Interdites selon la Loi sur l’IA – Partie Un
Le 4 février 2025, la Commission Européenne (CE) a publié des directives sur les pratiques d’intelligence artificielle (IA) interdites établies par la Loi sur l’IA de l’UE. Ces directives, qui ne sont actuellement pas contraignantes, clarifient les pratiques d’IA interdites qui présentent un risque pour les valeurs et les droits fondamentaux de l’Union Européenne, tels que la sécurité publique, le droit à la vie privée et le droit à la non-discrimination.
Contexte
Le but de cette série de brèves en deux parties est d’aider les professionnels de la vie privée et les autres opérateurs de systèmes d’IA à comprendre les implications des directives. La première partie examine les quatre premiers cas d’utilisation selon l’Article 5(1)(a) à 5(1)(d) inclus. La seconde partie de cette série de brèves se penchera sur le reste des directives concernant les cas d’utilisation interdits sous l’Article 5(1)(e) à l’Article 5(1)(h), ainsi que d’autres éléments clés.
Période Intermédiaire – Application
Les dispositions relatives aux systèmes d’IA interdits sont entrées en vigueur le 2 février 2025, avec des sanctions applicables à partir du 2 août 2025, laissant une période intermédiaire de six mois en ce qui concerne l’application. Pendant cette période intermédiaire, bien que les autorités de surveillance du marché national ne soient pas encore identifiées, les dispositions concernant les systèmes d’IA interdits sont obligatoires.
Pratiques d’IA Interdites
L’Article 5 de la Loi sur l’IA contient la liste des cas d’utilisation de l’IA qui sont expressément interdits. Les tableaux ci-dessous exposent les cas d’utilisation, le contexte et le raisonnement derrière l’interdiction, tout en soulignant les exceptions permises et les exemples de cas d’utilisation qui sont hors du champ d’application. Les directives décomposent chaque composant des sous-sections de l’Article 5 en un ensemble de conditions cumulatives, toutes devant être remplies pour que l’interdiction s’applique.
Manipulation et Tromperie Article 5(1)(a)
L’Article 5(1)(a) contient une interdiction sur l’IA qui utilise des techniques subliminales ou des stratégies manipulatrices pour déformer de manière significative le comportement des individus, altérant leur capacité de décision, d’une manière qui est raisonnablement susceptible de causer un préjudice significatif.
Conditions cumulatives à respecter :
- La pratique doit constituer le « placement sur le marché », la « mise en service » ou l’« utilisation » d’un système d’IA.
- Déploiement de techniques subliminales, manipulatrices ou trompeuses.
- Objectif ou effet de déformer matériellement le comportement d’une personne ou d’un groupe.
- Le comportement déformé doit causer ou être raisonnablement susceptible de causer un préjudice significatif.
Les exemples de techniques subliminales incluent des messages visuels subliminaux (flashés trop rapidement pour être enregistrés par l’esprit conscient), des messages auditifs subliminaux, et d’autres formes de manipulation.
Exploitation Nocive des Vulnérabilités Article 5(1)(b)
L’Article 5(1)(b) interdit l’utilisation de l’IA pour exploiter des vulnérabilités liées à l’âge, au handicap ou aux conditions socio-économiques, avec l’objectif ou l’effet de déformer matériellement le comportement d’une personne, entraînant un préjudice.
Conditions cumulatives à respecter :
- La pratique doit constituer le « placement sur le marché », la « mise en service » ou l’« utilisation » d’un système d’IA.
- Le système d’IA doit exploiter des vulnérabilités dues à l’âge, au handicap, ou à des situations socio-économiques.
- L’exploitation doit avoir pour objectif ou effet de déformer le comportement d’une personne ou d’un groupe.
- Le comportement déformé doit causer ou être raisonnablement susceptible de causer un préjudice significatif.
Des exemples incluent des jouets alimentés par l’IA conçus pour encourager des comportements risqués chez les enfants.
Scoring Social Article 5(1)(c)
L’Article 5(1)(c) interdit l’utilisation de l’IA pour classer des individus sur la base de leur comportement social, personnel ou professionnel, lorsque cela entraîne un traitement injustifié ou préjudiciable.
Conditions cumulatives à respecter :
- La pratique doit constituer le « placement sur le marché », la « mise en service » ou l’« utilisation » d’un système d’IA.
- Le système d’IA doit être destiné à l’évaluation ou à la classification de personnes ou de groupes sur une certaine période.
- Le score social doit mener à un traitement préjudiciable ou défavorable.
Ce scoring peut inclure des systèmes de crédit qui évaluent la solvabilité d’un client sur la base de son revenu et de ses dépenses.
Prévision des Infractions Criminelles Article 5(1)(d)
L’Article 5(1)(d) interdit les systèmes d’IA qui évaluent la probabilité de commettre des infractions, uniquement sur la base du profilage ou des caractéristiques personnelles.
Conditions cumulatives à respecter :
- La pratique doit constituer le « placement sur le marché », la « mise en service pour ce but spécifique » ou l’« utilisation » d’un système d’IA.
- Le système d’IA doit effectuer des évaluations de risques pour prédire la probabilité qu’une personne commette une infraction.
Les prédictions basées uniquement sur le profilage sont interdites, mais les systèmes qui soutiennent les évaluations humaines basées sur des faits objectifs sont exclus de cette interdiction.
Rappel de la Chronologie de Mise en Œuvre de la Loi sur l’IA
Jusqu’en août 2025 : Obligations à respecter pour les fournisseurs de modèles d’IA à usage général.
Jusqu’en août 2026 : Début des obligations de conformité pour les systèmes d’IA à haut risque.
Jusqu’en août 2027 : Obligations de conformité pour les systèmes d’IA à haut risque couverts par l’Article 6(1).
