Les Groupes de Droits Civiques Appellent l’UE à Prioriser les Droits de l’Homme dans les Lignes Directrices de Mise en Œuvre de la Loi sur l’IA
Le 16 janvier 2025, une coalition de plus de deux douzaines d’organisations de la société civile et d’individus a appelé l’Union Européenne à prioriser les droits de l’homme dans les prochaines lignes directrices pour la mise en œuvre de la Loi sur l’IA de l’UE. Ces lignes directrices, qui seront émises par le nouvel Bureau de l’IA, aideront à interpréter le champ d’application de la Loi et les pratiques interdites après son adoption en 2024.
Contexte de la Loi sur l’IA
La Loi sur l’IA établit des définitions pour les systèmes d’intelligence artificielle et décrit les pratiques interdites, y compris l’identification biométrique à distance, le scoring social, le policing prédictif et la reconnaissance des émotions. Cela fait suite à un processus de consultation approfondi de l’UE sur la définition des systèmes d’IA et de leurs utilisations interdites.
Préoccupations des Organisations Signataires
Les signataires de la déclaration incluent des organisations de renom telles qu’Amnesty International, Privacy International, Access Now et Statewatch, ainsi que divers experts académiques. Ces acteurs soulignent que la Charte des droits fondamentaux de l’UE devrait servir de base directrice centrale pour la mise en œuvre de la Loi, notamment face aux préoccupations croissantes concernant la surveillance biométrique et les technologies de policing prédictif.
Interprétation et Enforcement des Interdictions
Les organisations plaident pour une large interprétation des interdictions de la Loi afin de prévenir diverses formes de dommages, y compris la discrimination, le racisme et les préjugés. Elles soulignent l’importance de définir clairement et d’appliquer de manière rigoureuse les restrictions sur le scoring social et la surveillance biométrique dans plusieurs contextes, y compris le bien-être, la migration, l’éducation et l’application de la loi.
Recommandations de la Coalition
Les recommandations de la coalition incluent l’expansion de la définition de la catégorisation biométrique pour englober les déductions concernant l’ethnicité, l’identité de genre et d’autres caractéristiques personnelles. Elles insistent également sur la nécessité de s’attaquer aux loopholes qui pourraient permettre l’identification biométrique à distance rétrospective ou les systèmes de reconnaissance des émotions.
Préoccupations concernant le Processus de Consultation
Concernant le processus de consultation, les organisations participantes ont exprimé des préoccupations quant à la transparence, aux délais limités et à l’inclusion insuffisante de perspectives diverses. Elles recommandent une implication plus complète des parties prenantes de la société civile dans les futures consultations liées à la Loi sur l’IA, s’appuyant sur le cadre établi par COMPL-AI, le premier cadre d’évaluation de conformité pour les modèles d’IA générative sous la Loi.
Sources : Statewatch
