Interdiction des outils d’IA utilisés pour le scoring social et la police prédictive par l’UE
Le premier ensemble de restrictions dans le cadre de la loi sur l’IA de l’Union Européenne est entré en vigueur le 2 février 2025. Cela signifie que les systèmes d’IA considérés comme présentant un risque inacceptable selon la législation sont désormais illégaux dans les pays de l’UE.
Catégories d’IA interdites
Les catégories suivantes de systèmes d’IA ont été interdites car elles sont considérées comme une menace claire pour la sécurité, les moyens de subsistance et les droits des personnes :
- Systèmes de scoring social
- Systèmes de reconnaissance des émotions dans les lieux de travail et les établissements d’enseignement
- Outils d’évaluation ou de prédiction du risque criminel individuel
- Outils de manipulation et de déception basés sur l’IA nuisibles
- Outils basés sur l’IA nuisibles exploitant les vulnérabilités
Des pratiques telles que le scraping non ciblé de l’internet ou de matériel de vidéosurveillance pour créer ou étendre des bases de données de reconnaissance faciale, ainsi que l’identification biométrique à distance en temps réel à des fins d’application de la loi dans des espaces accessibles au public, ont également été interdites.
Sanctions potentielles
Les entreprises qui enfreignent la loi sur l’IA pourraient encourir des sanctions financières considérables. Selon un rapport de CNBC, les amendes pourraient atteindre jusqu’à 35 millions d’euros (environ 35,8 millions de dollars) ou 7 % de leur chiffre d’affaires annuel mondial, selon le montant le plus élevé.
Exemptions et critiques
Cependant, des critiques ont souligné que la loi sur l’IA comporte plusieurs exemptions permettant aux forces de police et aux autorités migratoires européennes d’utiliser l’IA pour suivre les suspects d’attaques terroristes. En outre, des obligations légales ont été mises en place pour garantir une littératie technologique suffisante parmi le personnel.
Cadre réglementaire pour l’IA
Ce cadre réglementaire sans précédent pour l’IA a été officiellement lancé en août de l’année dernière. Cependant, plusieurs dispositions de la loi sont mises en œuvre par phases. Par exemple, les règles de gouvernance et les obligations pour les entreprises technologiques développant des modèles d’IA à usage général entreront en vigueur le 2 août 2025.
Les modèles d’IA à usage général (GPAI) se réfèrent à des modèles de langage volumineux ou LLM tels que la série GPT d’OpenAI. Les entreprises développant des systèmes d’IA à haut risque pour des cas d’utilisation dans des secteurs critiques tels que l’éducation, la médecine et le transport bénéficieront d’une période de transition prolongée jusqu’au 2 août 2027.
