Les lignes directrices sur la définition des systèmes d’IA manquent de clarté
7 février 2025 — Les lignes directrices publiées par la Commission européenne concernant la définition d’un système d’intelligence artificielle (IA) ne parviennent pas à fournir la clarté nécessaire.
Les lignes directrices sont censées aider les développeurs, les utilisateurs, les personnes concernées et les organismes de contrôle à interpréter cette définition. La réglementation de l’UE sur l’IA, le « AI Act », définit un système d’IA comme :
“un système basé sur des machines conçu pour fonctionner avec des niveaux d’autonomie variés et qui peut exhiber une adaptabilité après son déploiement, et qui, pour des objectifs explicites ou implicites, infère à partir des entrées reçues comment générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions pouvant influencer des environnements physiques ou virtuels.”
Nous soulignons trois problèmes dans la manière dont les lignes directrices interprètent cette définition.
La régression logistique est incluse dans le champ d’application de la définition
Le paragraphe 42 précise que “Les systèmes d’amélioration de l’optimisation mathématique” sont exclus du champ d’application. Dans ce contexte, la régression linéaire ou logistique est donnée comme exemple de méthodes. En dehors de ce contexte, ces méthodes seraient incluses dans le champ d’application de la loi.
Ceci devient clair à la lecture du paragraphe 45 qui fait la distinction entre “l’optimisation du fonctionnement des systèmes” et “les ajustements de leurs modèles de prise de décision”. Ce dernier reste dans le champ d’application de l’AI Act, qui couvre des applications, y compris des domaines à haut risque tels que l’évaluation “de l’éligibilité des personnes physiques pour des prestations et services publics essentiels” impliquant la prise de décision sur des personnes. L’utilisation de la régression logistique dans de telles applications impliquerait de faire “des ajustements de leurs modèles de prise de décision”.
Ainsi, la régression logistique est incluse dans le champ d’application de l’AI Act.
Contradiction entre un considérant et les lignes directrices
Dans sa tentative de distinguer les systèmes d’IA des “systèmes logiciels traditionnels plus simples ou des approches de programmation”, les lignes directrices contribuent à davantage de confusion.
Le considérant 12 de l’AI Act déclare : “Une caractéristique clé des systèmes d’IA est leur capacité à inférer” et “la capacité d’un système d’IA à inférer transcende le traitement de données de base en permettant l’apprentissage, le raisonnement ou la modélisation.” Chacune de ces caractéristiques suffit à transcender “le traitement de données de base”.
Cependant, les lignes directrices contredisent le considérant : “bien que ces modèles [méthodes d’optimisation] aient la capacité d’inférer, ils ne transcendent pas le traitement de données de base.”
Raisonnement étrange
Le raisonnement fourni est étrange : “Un indice qu’un système ne transcende pas le traitement de données de base pourrait être qu’il a été utilisé de manière consolidée pendant de nombreuses années.” La durée d’utilisation d’un système devrait être sans pertinence ici.
Ceci n’est pas le seul cas où des explications étranges sont utilisées pour placer des techniques d’IA hors du champ d’application. Une autre excuse est la performance :
“Tous les systèmes basés sur des machines dont la performance peut être atteinte via une règle d’apprentissage statistique de base, bien qu’ils puissent techniquement être classés comme reposant sur des approches d’apprentissage machine, tombent hors du champ d’application de la définition du système d’IA, en raison de leur performance.”
Ces lignes directrices échouent à fournir de la clarté et ajoutent plutôt à la confusion.
Heureusement, ces lignes directrices ne sont pas juridiquement contraignantes. Nous espérons que les régulateurs et les organismes responsables des droits fondamentaux utiliseront un raisonnement solide dans l’interprétation de la définition des systèmes d’IA.
Notes
Régulation (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées sur l’intelligence artificielle et modifiant les règlements (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828 (Loi sur l’intelligence artificielle).
