Défis auxquels les employeurs font face lors de l’utilisation d’applications d’IA
Dans un monde en constante évolution, l’utilisation de l’IA dans le processus de recrutement offre de nombreuses opportunités pour automatiser presque tous les aspects de la candidature, allant de la création d’annonces d’emploi à l’analyse des documents de candidature, en passant par la pré-sélection des candidats, la conduite d’entretiens et l’intégration ultérieure. Cependant, l’adoption de ces outils d’IA doit se faire dans le respect des exigences légales.
Exigences légales pour l’utilisation des outils d’IA dans le recrutement
Les deux principaux piliers du cadre juridique sont la Loi sur l’IA de l’UE et le Règlement Général sur la Protection des Données (RGPD).
La Loi sur l’IA de l’UE établit un cadre légal contraignant au niveau européen, pertinent pour les employeurs utilisant des applications d’IA. Voici les points clés à considérer :
- Systèmes d’IA à haut risque : Les systèmes utilisés pour sélectionner ou évaluer les candidats sont classés comme des systèmes d’IA à haut risque, soumis à des réglementations spécifiques. Les employeurs doivent veiller à ce que ces systèmes soient utilisés correctement et surveillés par du personnel qualifié.
- Pratiques interdites : Certaines pratiques sont expressément interdites, telles que l’utilisation d’applications d’IA qui reconnaissent et évaluent les émotions, incluant l’analyse des signaux non verbaux comme les expressions faciales lors des entretiens vidéo.
Le RGPD est également crucial pour l’utilisation des outils d’IA dans le processus de candidature. Le traitement des données personnelles doit reposer sur une base légale et être spécifique à un but. En particulier, l’Article 22 stipule que les individus ont le droit de ne pas être soumis à une décision basée uniquement sur un traitement automatisé ayant des effets juridiques significatifs.
Cela implique la nécessité d’une supervision humaine, afin de garantir que les circonstances individuelles d’un candidat soient prises en compte. Les employeurs doivent donc utiliser des systèmes d’IA qui peuvent pré-trier et évaluer les candidatures et faire des recommandations, mais ne doivent pas prendre de décisions indépendantes sur les rejets ou les embauches. La décision finale doit toujours être prise par une personne.
Les violations de la Loi sur l’IA de l’UE et du RGPD peuvent entraîner des amendes élevées, allant jusqu’à 15 millions d’euros ou 3 % du chiffre d’affaires mondial pour les violations de la Loi sur l’IA, tandis que les violations du RGPD peuvent entraîner des amendes encore plus élevées.
Discrimination potentielle à travers les applications d’IA
Les employeurs doivent également être conscients que même des applications soi-disant objectives peuvent entraîner des décisions discriminatoires en reproduisant ou en renforçant des biais inconscients, surtout si les données d’entraînement ne sont pas suffisamment représentatives. Par exemple, si les femmes occupant des postes de direction sont sous-représentées dans les données d’entraînement, l’outil d’IA pourrait considérer cela comme la norme et désavantager systématiquement les candidates lors de la sélection pour des postes seniors.
La discrimination par l’IA est souvent difficile à détecter, car des variables proxy, comme le lieu de résidence ou le niveau d’éducation, peuvent être utilisées pour inférer indirectement des caractéristiques sensibles telles que le genre ou l’origine ethnique, sans utiliser directement ces données. Si une décision d’embauche ou de promotion repose sur une recommandation fondée sur de telles hypothèses discriminatoires, cela constitue une violation de la Loi sur l’Égalité de Traitement. Dans ces cas, le candidat concerné a droit à une compensation conformément à l’Article 15 (2) de cette loi.
Conclusion
L’utilisation des outils d’IA dans le processus de candidature permet aux entreprises de rationaliser et d’optimiser leurs processus. Cependant, les employeurs doivent s’assurer que les systèmes utilisés sont transparents, non discriminatoires et conformes aux réglementations sur la protection des données. Des vérifications régulières des systèmes, l’obtention d’une expertise juridique et l’établissement de mécanismes de contrôle humain sont essentiels pour éviter les pièges juridiques et tirer pleinement parti des avantages de la technologie.
Ce document est fourni à titre d’information uniquement et ne constitue pas un conseil juridique. Il est conseillé d’obtenir un avis juridique professionnel avant de prendre ou de s’abstenir de toute action en raison du contenu de ce document.
