Acte sur l’IA de l’UE : Suivre les lignes directrices avec prudence
Europe’s AI Act a été publié en juin 2024. Cependant, il faudra des années avant que les directives interprétatives de la Cour de justice de l’Union européenne (CJUE) arrivent. En attendant, la Commission européenne est tenue de publier des lignes directrices pour aider les développeurs, les déployeurs ou toute autre personne intéressée par cette loi. Bien que ces lignes directrices ne soient pas juridiquement contraignantes, elles doivent être prises en compte par les pays de l’UE lors de l’application de la loi et de l’imposition de sanctions en cas d’infraction par les développeurs et déployeurs d’IA. Cela dit, cela n’empêche pas les régulateurs et les organismes de droits fondamentaux dans les pays de l’UE d’interpréter la loi différemment de la Commission.
Les cinq premiers articles de l’AI Act, qui incluent des interdictions, sont en application depuis le 2 février 2025. C’est dans ce contexte que nous devons lire les deux lignes directrices publiées par la Commission européenne au début de février, mais après la date d’application des parties pertinentes de l’AI Act. Les lignes directrices portent sur la définition d’un système d’IA et les interdictions couvertes par l’AI Act. Les deux lignes directrices tentent d’améliorer la clarté juridique. Mais y parviennent-elles ?
Définition d’un système d’IA
Les lignes directrices sur la définition se distinguent par une chose : elles affirment une bonne fois pour toutes que les tableurs ne sont pas des systèmes d’IA. Au-delà de cela, le document nourrit plus de confusion que de clarté.
Il existe sept éléments principaux dans la définition d’un système d’IA : “(1) un système basé sur une machine; (2) conçu pour fonctionner avec des niveaux d’autonomie variables; (3) pouvant faire preuve d’adaptabilité après déploiement; (4) et qui, pour des objectifs explicites ou implicites; (5) infère, à partir des entrées qu’il reçoit, comment générer des sorties (6) telles que des prédictions, du contenu, des recommandations ou des décisions (7) pouvant influencer l’environnement physique ou virtuel.”
Bien que tous ces composants ne soient pas également importants, la capacité d’inférence est considérée comme une caractéristique clé des systèmes d’IA. Cependant, les lignes directrices excluent certaines méthodes comme l’optimisation mathématique parce qu’elles ne transcendent pas le « traitement de données de base ».
Interdictions
Les lignes directrices sur les interdictions représentent une amélioration, bien que marginale, tant en termes de longueur que de qualité. Elles stipulent qu’une analyse au cas par cas est nécessaire pour évaluer si un système d’IA spécifique est interdit. Cependant, les lignes directrices ne fournissent pas d’exemples de cette évaluation, mais plutôt des exemples « simplement indicatifs ».
L’AI Act comprend huit interdictions :
- Manipulation et tromperie
- Exploitation des vulnérabilités
- Notation sociale
- Évaluation et prédiction du risque criminel individuel
- Grattage non ciblé pour développer des bases de données de reconnaissance faciale
- Reconnaissance des émotions dans les lieux de travail et les institutions éducatives
- Catégorisation biométrique
- Identification biométrique à distance en temps réel (RBI)
La prohibition sur la RBI en temps réel s’applique aux déployeurs. Toutes les autres s’appliquent aux fournisseurs, déployeurs et opérateurs. Ces interdictions couvrent l’« utilisation » d’un système d’IA, qui n’est pas limitée à l’utilisation prévue, mais inclut également les abus, qu’ils soient raisonnablement prévisibles ou non.
Conclusion
Il est essentiel de ne pas oublier qu’au-delà de l’AI Act, les systèmes d’IA peuvent être interdits par d’autres lois, telles que celles sur la non-discrimination et le RGPD. Les lignes directrices sur les interdictions, bien qu’elles fassent référence à divers droits fondamentaux en jeu, échouent à indiquer le rôle des organismes de droits fondamentaux dans leur mise en œuvre.
Les lignes directrices peuvent être mises à jour, ce qui pourrait potentiellement améliorer leur clarté et leur efficacité. En revanche, les lignes directrices sur la définition d’un système d’IA, bien qu’importantes, ne sont pas juridiquement contraignantes.
