Poursuite révolutionnaire sur la conformité des outils de recrutement par IA avec la FCRA
Selon la plainte, une entreprise génère des rapports sur les candidats en utilisant des outils alimentés par l’IA qui assemblent et évaluent des informations sur les employés potentiels et évaluent leur « adéquation » pour un emploi en fonction de facteurs tels que « l’historique professionnel, la trajectoire de carrière future projetée, l’adéquation à la culture, et d’autres caractéristiques personnelles ». L’entreprise aurait ensuite vendu ces rapports aux employeurs pour les aider à prendre des décisions d’embauche.
Pour générer ces rapports, la plainte allègue que des informations sont introduites dans le modèle de langage de grande taille de l’entreprise, qui intègre plus de 1,5 milliard de points de données provenant de titres de postes, de compétences, et des profils de plus d’un milliard de personnes travaillant dans tous les emplois, professions et industries.
La plainte affirme que les outils d’évaluation de l’entreprise évaluent et classent les candidats en utilisant les données recueillies lors du processus de candidature, les données internes de l’employeur, des données externes, et le modèle de langage de l’entreprise.
Nature des évaluations
Plus précisément, la plainte allègue que l’évaluation inclut non seulement le profil et le CV du candidat, mais aussi des « données supplémentaires sur le candidat recueillies à partir de sources publiques concernant son historique professionnel (telles que des blogs, des publications, des conférences, l’historique des candidatures, etc.) », des données d’autres employés comparables, des prévisions concernant le candidat, et « des données utilisées pour entraîner l’IA de l’entreprise ».
De plus, la plainte allègue qu’une fois qu’un candidat postule pour un emploi auprès d’un employeur utilisant cet outil, l’entreprise conserve les données du candidat et les utilise pour évaluer d’autres candidats pour le même poste, des postes non liés, ou pour le même candidat pour d’autres postes à l’avenir.
Protections FCRA
La FCRA et ses équivalents étatiques régulent comment les employeurs obtiennent et utilisent des rapports de consommation (ou vérifications de fonds) à des fins d’emploi, y compris l’embauche, la promotion ou la rétention. La FCRA exige que les employeurs fournissent des divulgations écrites distinctes aux employés et aux candidats, et qu’ils obtiennent une autorisation écrite avant d’obtenir un rapport. Pour prendre une « action défavorable », comme le rejet d’un candidat basé sur des informations contenues dans un rapport de consommation, la FCRA impose des exigences supplémentaires de notification avant et après l’action défavorable, offrant au candidat une possibilité de corriger des informations inexactes.
La FCRA régule également les « agences de rapport à la consommation », définies comme des entités qui assemblent ou évaluent des informations sur les consommateurs dans le but de fournir des rapports de consommation liés au « caractère, à la réputation générale, aux caractéristiques personnelles, ou au mode de vie » des consommateurs, des termes larges qui englobent de nombreux attributs des candidats ou des employés, à des tiers. La FCRA donne également aux consommateurs le droit d’accéder, de contester, et de corriger les informations dans leurs rapports de consommation.
Implications pour les employeurs
Alors que les outils d’IA ont déjà fait face à des poursuites et des régulations alléguant qu’ils peuvent conduire à une discrimination illégale à l’embauche, la nouvelle poursuite soulève des allégations et des questions inédites sur la manière dont ces outils pourraient impliquer la FCRA et d’autres lois sur les vérifications de fonds, un cadre légal très différent des lois sur la discrimination à l’embauche.
Prochaines étapes
La poursuite pourrait être la première d’un nouveau type de litige de recours collectif visant des outils d’emploi utilisant l’IA ou des processus de décision automatisés ou algorithmiques qui récupèrent ou utilisent des données spécifiques aux candidats ou aux employés. Cependant, l’affaire en est à ses débuts, et il n’est pas clair si les allégations survivront à la procédure judiciaire.
Les employeurs peuvent souhaiter surveiller cette affaire et des affaires similaires au fur et à mesure de leur évolution. En attendant, ils pourraient également vouloir revoir leur utilisation des outils alimentés par l’IA pour le recrutement et l’embauche. Si de tels outils sont utilisés, les employeurs pourraient aussi vouloir évaluer leur fonctionnement, y compris quelles données spécifiques sont collectées et utilisées dans l’évaluation des candidats et des employés.
