Audit critique de la loi sur l’embauche par IA à NYC
L’audit réalisé en décembre 2025 a évalué l’application de la loi locale 144 par le département de la protection des consommateurs et des travailleurs. Cette loi régule l’utilisation des outils décisionnels automatisés dans le cadre des recrutements et des promotions. L’audit conclut que l’application actuelle de la loi est « inefficace », soulignant des processus de traitement des plaintes problématiques et des revues de conformité inexactes.
Aperçu de la loi locale 144
La loi locale 144 impose des obligations d’évaluation des biais et de transparence pour les employeurs et les agences d’emploi utilisant des outils décisionnels automatisés pour évaluer les candidats ou les employés à New York.
Un outil décisionnel automatisé est défini comme tout processus computationnel utilisant l’« apprentissage machine, la modélisation statistique, l’analyse de données ou l’intelligence artificielle » pour « assister ou remplacer de manière substantielle la prise de décision discrétionnaire pour les décisions d’emploi ». Les règles mises en place par le département de la protection des consommateurs et des travailleurs précisent davantage que ces outils assistent ou remplacent la prise de décision discrétionnaire lorsque l’employeur (1) s’appuie exclusivement sur les résultats de l’outil, (2) pèse ces résultats plus lourdement que tout autre critère, ou (3) les utilise pour annuler le jugement humain ou d’autres facteurs ayant conduit à une conclusion différente.
Les employeurs utilisant des outils correspondant à la définition d’un outil décisionnel automatisé doivent respecter trois obligations principales :
- Audit de biais indépendant : Les employeurs doivent engager un auditeur indépendant pour réaliser un audit annuel afin d’évaluer si l’outil a un impact disparate sur des groupes de sexe, de race ou d’ethnicité particuliers.
- Transparence publique : Les employeurs doivent publier de manière claire et visible un résumé des résultats de l’audit de biais sur leur site internet.
- Notifications aux candidats : Les employeurs doivent informer clairement et en temps utile les candidats et employés de New York que des outils décisionnels automatisés seront utilisés dans leur évaluation.
Constatations clés de l’audit
L’audit a trouvé que le système d’application de la loi locale 144 est « inefficace », mettant en évidence plusieurs déficiences critiques :
1. Processus de traitement des plaintes défaillant : L’audit a révélé une rupture fondamentale dans la stratégie d’application basée sur les plaintes, critiquant le département pour son manque d’initiatives proactives.
2. Examens de conformité superficiels : L’audit a critiqué la révision des audits de biais publiés par les entreprises, soulignant que de nombreux problèmes de non-conformité n’avaient pas été détectés.
3. Utilisation inappropriée de l’expertise disponible : L’audit a indiqué que la révision inadéquate était due au non-respect des procédures appropriées.
Implications et actions recommandées
L’audit indique une attente d’une application renforcée, mettant le département sous une pression publique importante. Les employeurs soumis à la loi locale 144 doivent anticiper une phase d’application plus stricte, avec des enquêtes plus fréquentes et des pénalités civiles plus élevées.
Les entreprises utilisant des outils automatisés pour le recrutement ou la promotion sont encouragées à :
- Réaliser un inventaire complet des outils décisionnels automatisés : Évaluer si un outil est soumis à la loi locale 144.
- Assurer la conformité des audits de biais : Obtenir un audit conforme pour éviter des pénalités significatives.
- Vérifier toutes les divulgations publiques et notifications : Confirmer que le résumé de l’audit est accessible sur le site de l’entreprise.
- Documenter les efforts de conformité : Maintenir un enregistrement clair et organisé du processus de conformité.
Conclusion
Les résultats de l’audit signalent un risque accru pour les employeurs qui utilisent des outils décisionnels automatisés. Il est essentiel pour ces entreprises de revoir leurs pratiques et d’assurer leur conformité afin de faire face à une application renforcée de la loi locale 144.
