La Loi sur l’IA de l’UE – Focus sur les Systèmes de Reconnaissance Émotionnelle au Travail
La reconnaissance émotionnelle par intelligence artificielle (IA émotionnelle) fait référence à une technologie qui utilise divers ensembles de données biométriques et autres, tels que les expressions faciales, les frappes au clavier, le ton de la voix et les manières comportementales, pour identifier, inférer et analyser les émotions. Fondée sur l’informatique affective, ce domaine multidisciplinaire intègre les études de traitement du langage naturel, de psychologie et de sociologie.
Récemment, l’IA émotionnelle a bénéficié d’une prolifération de niveaux de puissance de calcul sans précédent. La technologie des capteurs sophistiqués omniprésents dans les appareils et l’Internet des objets (IoT) signifie que d’énormes quantités de données peuvent être évaluées par ces systèmes. Ainsi, le marché de l’IA émotionnelle devrait passer de 3 milliards USD en 2024 à 7 milliards USD dans les cinq prochaines années.
L’IA émotionnelle est de plus en plus déployée dans de nombreux contextes, y compris pour détecter des conflits potentiels, des crimes ou des dommages dans des espaces publics tels que les gares ou les chantiers de construction. Elle est également utilisée dans les secteurs technologique et des biens de consommation, où des insights clients détaillés, des ventes hyper-personnalisées et une segmentation de marché nuancée sont très recherchés.
Un certain nombre d’organisations cherchent à exceller dans la fourniture de clés permettant de prédire ce que les clients veulent réellement, y compris en dehors des géants technologiques traditionnels. Par exemple, une start-up australienne teste actuellement ce qu’elle appelle « le premier modèle de langage émotionnel au monde », visant à suivre les émotions en temps réel. D’autres lancent des chatbots thérapeutiques utilisant l’IA émotionnelle pour aider les gens à améliorer leur santé mentale.
Cependant, comme l’IA émotionnelle est désormais une technologie fortement réglementée, les organisations qui développent et utilisent ces applications doivent rester du bon côté de la loi.
La Loi sur l’IA de l’UE
Entrée en vigueur le 1er août 2024, la Loi sur l’IA de l’UE impose des exigences strictes concernant l’IA émotionnelle, la plaçant dans les catégories « à Haut Risque » et « Interdite », selon le contexte.
Selon l’Article 5(1)(f) de la Loi sur l’IA de l’UE, l’utilisation de systèmes d’IA pour inférer les émotions d’une personne dans les domaines du travail et des établissements d’éducation est interdite, sauf si l’utilisation est destinée à des raisons médicales ou de sécurité.
Applications Pratiques de l’IA Émotionnelle au Travail
Nous examinons deux études de cas pratiques dans des environnements de travail pour illustrer l’impact de ces nouvelles règles.
Étude de Cas 1 : Analyse des Sentiments lors des Appels de Vente
Imaginons une équipe de vente d’une entreprise technologique cherchant à atteindre ses objectifs mensuels. Le directeur commercial souhaite déployer un nouveau logiciel permettant une formation uniforme des employés à l’échelle mondiale. Ce logiciel met en lumière les caractéristiques des appels des meilleurs performeurs par rapport aux moins performants.
Ce logiciel d’analyse des appels pourrait potentiellement capter les émotions du représentant commercial et évaluer des indicateurs tels que le rapport parle/écoute et le nombre d’échanges de dialogue.
Étude de Cas 2 : Recrutement dans une Entreprise de Conseil
Une entreprise de conseil souhaite étendre son réseau de recrutement pour des rôles entièrement à distance. Elle envisage un système qui évalue les expressions faciales et le ton de la voix des candidats durant les entretiens afin d’identifier leur enthousiasme ou leur confiance.
Article 5 de la Loi sur l’IA et Directives
Bien que l’IA émotionnelle soit populaire sur le marché technologique, il existe peu de consensus scientifique sur la fiabilité des systèmes de reconnaissance émotionnelle. L’Article 3(39) définit ces systèmes comme des systèmes d’IA destinés à identifier et inférer les émotions des personnes sur la base de leurs données biométriques.
Les Directives clarifient que les systèmes de reconnaissance émotionnelle et d’inférence émotionnelle sont concernés par l’interdiction. Par conséquent, l’utilisation de systèmes d’IA pour évaluer les émotions d’un candidat durant le processus de recrutement est strictement interdite.
Conclusion – Que Faire Ensuite ?
Avec l’introduction de la Loi sur l’IA de l’UE, la plupart des entreprises devront accroître leur vigilance concernant leurs pratiques en matière d’IA, notamment dans les applications déployées en rapport avec les employés ou les candidats. La mise en place de systèmes de gouvernance appropriés, y compris la formation interne et les audits robustes, sera essentielle pour se conformer à la loi.
Les entreprises qui utilisent des systèmes de reconnaissance émotionnelle en relation avec les clients doivent également veiller à respecter les règles pour les systèmes d’IA à Haut Risque. Les conséquences de l’utilisation de systèmes d’IA interdits dans l’UE peuvent entraîner des amendes élevées, allant jusqu’à 35 millions EUR ou 7% du chiffre d’affaires mondial total de l’organisation.
