Un défi pour un Printemps Numérique : l’influence fantôme des systèmes d’intelligence artificielle
Une nouvelle question se pose : comment les droits fondamentaux et humains émergent-ils, et quelles conditions façonnent leur émergence à l’ère numérique ? Cet article réfléchit sur un phénomène social troublant : le sentiment généralisé de confort, ou du moins de résignation, que les individus affichent envers les applications téléphoniques, les systèmes d’IA et les outils de prise de décision algorithmique qui traitent des données personnelles et façonnent les opportunités de vie.
Ce confort contraste fortement avec notre réaction face à l’interférence dans le monde physique. Être surveillé par une personne ou une caméra dans un espace public provoque généralement un inconfort, ou au moins une prise de conscience. Pourtant, des formes comparables de surveillance, de profilage et d’influence comportementale à travers des systèmes numériques passent souvent inaperçues. Les utilisateurs remettent rarement en question la manière dont les applications traitent les données, qu’elles manipulent le comportement ou que les environnements numériques persuasifs et personnalisés restreignent leur autonomie.
Une analyse des droits à l’ère numérique
Il est soutenu que les cadres existants des droits humains ne capturent pas adéquatement la nature du pouvoir dans le domaine numérique. En particulier, il est affirmé que l’émergence des droits humains dans l’environnement numérique est structurellement contrainte par ce que l’on appelle l’influence fantôme des technologies numériques.
Cette analyse s’inscrit dans des débats plus larges sur la nature des droits humains. Trois approches significatives sont identifiées : la vue réductrice, qui ancre les droits humains dans un vocabulaire d’intérêts humains ; la vue orthodoxe, qui considère les droits humains comme des droits moraux ancrés dans l’humanité elle-même ; et la vue politique, qui définit les droits humains à travers leur fonction dans la pratique juridique et politique internationale.
Les caractéristiques de l’influence fantôme
Trois caractéristiques des systèmes numériques rendent la tension entre la liberté individuelle et le pouvoir privé moins visible que dans le monde physique : la virtualité, la complexité et le dynamisme.
- Virtualité : Les plateformes numériques et les systèmes d’IA sont intrinsèquement virtuels et déterritorialisés, ce qui affaiblit les conditions nécessaires pour reconnaître l’interférence concrète avec les droits fondamentaux et humains.
- Complexité : De nombreux systèmes d’IA fonctionnent comme des « boîtes noires », produisant des résultats sans explications intelligibles, rendant difficile la contestation pour les utilisateurs, notamment les plus vulnérables.
- Dynamisme : Les technologies numériques évoluent à une vitesse extraordinaire, déstabilisant les catégories juridiques et rendant les réponses réglementaires perpétuellement réactives.
Implications et risques
Ces caractéristiques rendent l’influence numérique moins visible, même en cas d’abus généralisés. L’influence fantôme apparaît comme une forme de pouvoir qui obscurcit les relations de pouvoir et supprime la contestation politique. Bien que les technologies numériques puissent également renforcer les droits, elles ne sont pas neutres et sont souvent liées à l’exploitation commerciale.
Renforcer les conditions pour les droits
Pour atténuer les effets de l’influence fantôme, deux avenues prometteuses se dessinent. Premièrement, la société civile joue un rôle crucial dans la documentation des abus liés à l’IA et dans la défense des intérêts publics. Deuxièmement, l’interprétation judiciaire est essentielle pour adapter les droits existants aux nouvelles réalités technologiques.
Conclusion
Réfléchir à l’influence fantôme des technologies numériques révèle la nécessité d’une action intentionnelle et créative, qui non seulement atténue ses effets négatifs mais cultive également un environnement numérique significatif où un engagement critique peut prospérer. En renforçant la participation de la société civile et en cultivant une interprétation judiciaire sensible aux droits, il est possible de restaurer les conditions nécessaires à l’émergence significative des droits.
