Comment les systèmes d’IA menacent d’éroder l’État de droit
Les systèmes d’IA créent de nouveaux dommages sociétaux qui compromettent l’indépendance judiciaire, manipulent la formation de l’opinion politique et érodent l’État de droit par leur opacité algorithmique et l’insuffisance des garanties légales.
Questions pressantes concernant les dommages sociétaux de l’IA
Une question cruciale à poser est de savoir si les dommages sociétaux causés par les systèmes d’IA sont adéquatement abordés par les catégories légales existantes. Cet article se concentre sur les risques et les dommages concernant l’État de droit en mettant en évidence trois problèmes en rapport avec les dispositions pertinentes de la Convention-cadre du Conseil de l’Europe sur l’IA, les droits de l’homme, la démocratie et l’État de droit, conclue le 5 septembre 2024.
La Convention vise à protéger non seulement les droits de l’homme, mais aussi les processus démocratiques et l’État de droit dans le contexte de l’IA. L’article 4 aborde les droits de l’homme, tandis que l’article 5(1) met l’accent sur l’obligation des États de prendre des mesures pour que les systèmes d’IA ne compromettent pas l’intégrité des processus démocratiques.
Intégrité et non-arbitraire dans le déploiement des systèmes d’IA
Les tribunaux ont déjà souligné l’importance de cadres législatifs robustes et de garanties solides. La Cour européenne des droits de l’homme et la Cour d’appel anglaise ont constaté que l’utilisation des technologies de reconnaissance faciale viole les droits de l’homme et repose sur des cadres juridiques fondamentalement défaillants. Les États ont le devoir positif de garantir que les systèmes d’IA ne présentent pas de biais intégré.
Conséquences de l’opacité algorithmique sur la supervision judiciaire
L’opacité algorithmique entrave l’accès à la justice et le droit à un recours effectif. La capacité des tribunaux à exercer une supervision judiciaire est également compromise. Les systèmes d’IA développés dans le secteur privé et utilisés dans le secteur public échappent à l’examen en raison de restrictions imposées par des contrats.
Capacité des individus à former librement des opinions et processus démocratiques
L’article 5(2) de la Convention établit un lien entre la capacité d’un individu à former librement des opinions et les processus démocratiques. Les techniques manipulatrices, telles que la diffusion de contenu trompeur, exacerbent les risques dans les processus électoraux.
Des exemples récents, tels que les élections présidentielles annulées en Roumanie et les préoccupations concernant la manipulation des électeurs sur des plateformes comme X et TikTok, illustrent l’impact des systèmes d’IA sur la démocratie.
Il est essentiel de reconnaître que certains systèmes d’IA peuvent être incompatibles avec le droit international des droits de l’homme et l’État de droit. L’article 16(4) de la Convention est critiqué pour laisser trop de discrétion aux États dans l’évaluation de la nécessité d’interdire certains systèmes d’IA.
En conclusion, les systèmes d’IA présentent des défis significatifs pour l’État de droit et les processus démocratiques. Une attention accrue doit être portée à la régulation et à la transparence des technologies utilisées dans le secteur public afin de préserver les valeurs démocratiques et les droits fondamentaux.
