CJUE : Questions sur la Loi sur l’IA concernant la Prise de Décision Automatisée
Le 25 novembre 2024, le tribunal de première instance de Sofia, en Bulgarie, a formulé une demande de décision préliminaire auprès de la CJUE concernant les dispositions relatives à la prise de décision automatisée (PDA) dans le cadre de la Loi sur l’IA. L’affaire C-806/24 concerne une réclamation d’une entreprise de télécommunications contre un consommateur qui n’a pas réglé ses factures. Le consommateur soutient que la méthode employée par l’entreprise pour calculer automatiquement les frais constitue un système de PDA soumis à l’article 86(1) de la Loi sur l’IA, soulevant des questions sur la transparence, la révision humaine et l’équité du système de PDA.
Le tribunal bulgare demande à la CJUE des clarifications sur 17 questions de droit, en citant la Loi sur l’IA, la Directive sur les Clauses Abusives et la Directive sur les Droits des Consommateurs.
Questions Soulevées par le Tribunal Bulgare
Globalement, le tribunal bulgare soulève trois ensembles de questions pour examen par la CJUE :
- Questions relatives au droit à l’information du consommateur et à la possibilité de demander une révision des décisions prises par PDA ;
- Questions concernant l’équité d’imposer des frais de compensation lorsque le contrat a pris fin, conformément à la législation sur la protection des consommateurs ;
- Une question sur la possibilité pour un consommateur d’être contraint de supporter une partie des frais de la procédure en raison du non-paiement des montants dus, si le commerçant n’a pas expliqué clairement le système de PDA, mais le fait ultérieurement au cours des procédures judiciaires.
Interprétation de l’Article 86(1) de la Loi sur l’IA
Le premier ensemble de questions se concentre sur l’interprétation de l’article 86(1) de la Loi sur l’IA. Cette disposition stipule que toute personne soumise à une décision qui (1) est fondée sur les résultats d’un système d’IA à haut risque et (2) produit des effets juridiques ou affecte significativement cette personne, a le droit d’obtenir de l’opérateur d’IA des explications claires et significatives sur le rôle du système d’IA dans la procédure de décision et sur les principaux éléments de la décision prise.
Le tribunal bulgare pose, entre autres, les questions suivantes concernant l’article 86(1) de la Loi sur l’IA, lu en conjonction avec d’autres lois de l’UE :
- L’article 86(1) doit-il être interprété comme signifiant que le commerçant doit informer le consommateur sur la manière dont la décision utilisant la PDA est prise (ici, en ce qui concerne quel algorithme calcule les factures générées automatiquement, et quels éléments et paramètres y sont intégrés) ?
- Le tribunal a-t-il le pouvoir d’exiger du commerçant qu’il fournisse les données du black box, le code source et l’algorithme relatifs à la manière dont les décisions sont prises sur la base d’un système de PDA ?
- Le consommateur a-t-il le droit, en vertu de l’article 86(1), de demander au commerçant une explication ou l’algorithme relatif au processus de décision ?
- Le consommateur a-t-il le droit de demander une révision humaine des décisions fondées sur la PDA – et cette révision humaine doit-elle être effectuée par un juge dans le cadre de procédures judiciaires réelles ?
Il est intéressant de noter que bien que la Loi sur l’IA soit entrée en vigueur en août 2024, l’article 86(1) de la Loi ne s’applique pas avant le 2 août 2026. Un jugement est attendu d’ici mi-2026.
La surveillance des développements réglementaires concernant l’IA est cruciale, et il est essentiel de rester informé sur les enjeux de conformité et les défis réglementaires auxquels sont confrontées les entreprises technologiques.
