La Californie Introduit un Nouveau Projet de Loi Anti-Discrimination sur l’IA : Ce que les Employeurs Doivent Savoir
Un nouveau projet de loi proposé en Californie vise à réguler les outils de prise de décision assistés par l’intelligence artificielle (IA) dans l’emploi et d’autres domaines clés. Mais cette proposition souffrira-t-elle du même sort que les efforts législatifs infructueux de l’année dernière ? Introduit le 20 février par la membre de l’Assemblée Rebecca Bauer-Kahan, le Projet de Loi de l’Assemblée 1018 imposerait un contrôle strict sur les systèmes de décision automatisés (ADS) afin de prévenir la discrimination sur le lieu de travail et ailleurs.
Ce projet établit des obligations larges pour les développeurs et utilisateurs d’IA, y compris des évaluations de performance, des audits par des tiers, des exigences de conservation des données, et des mandats de transparence pour les décisions prises par IA touchant l’emploi, la santé, le logement et d’autres secteurs critiques. Si elle est adoptée, la loi AB 1018 marquerait la tentative la plus complète de la Californie de réguler le biais de l’IA, imposant des charges de conformité significatives aux employeurs utilisant des outils de gestion des ressources humaines basés sur l’IA.
Aspects Clés du Projet de Loi Proposé
Le projet de loi AB 1018 introduit un cadre robuste régissant les outils de décision assistés par l’IA. Voici les composants les plus critiques pour les employeurs :
1. Droits de Désinscription et Exigences de Révision Humaine
Les employeurs doivent permettre aux employés et candidats de se désinscrire des décisions prises par ADS dans certains cas, et ils doivent divulguer si une révision humaine a lieu avant de finaliser une décision assistée par l’IA.
2. Transparence et Droits d’Appel
Les employeurs doivent fournir aux candidats et employés des divulgations concernant les décisions assistées par l’IA, leur permettre de se désinscrire dans certains cas, et offrir un processus d’appel pour les résultats défavorables.
3. Définition Élargie des « Décisions Conséquentielles »
Le projet couvre non seulement l’embauche et le licenciement, mais aussi les salaires, les avantages, la planification, les promotions, les évaluations de performance, l’accès à la formation et les décisions concernant la sécurité au travail, élargissant ainsi les obligations de conformité pour les fonctions RH utilisant l’IA.
4. Obligations pour les Employeurs qui Modifient les Systèmes d’IA
Les employeurs qui ajustent un outil d’IA en dehors de son champ d’application initial peuvent assumer des responsabilités légales typiquement assignées aux développeurs d’IA, augmentant ainsi les risques de conformité pour les entreprises personnalisant les outils d’IA.
5. Évaluations de Performance Obligatoires
Les développeurs d’IA doivent réaliser des audits annuels et divulguer les impacts disparates potentiels de leurs systèmes.
6. Audits Externes pour les Employeurs
Les entreprises utilisant des outils d’IA dans l’embauche, les promotions et les licenciements doivent subir des audits indépendants si leurs systèmes d’IA affectent 6 000 personnes ou plus sur trois ans.
7. Règles Strictes de Gestion et de Conservation des Données
Les employeurs doivent conserver la documentation liée à l’IA non expurgée pendant 10 ans, y compris les résultats d’audit, les évaluations de performance et les appels des employés, le non-respect pouvant entraîner des pénalités potentielles.
8. Agents de Conformité et Obligations de Révision Interne
Les entreprises déployant des outils de prise de décision assistée par l’IA doivent désigner au moins un agent de conformité responsable de superviser l’adhésion à la loi et d’enquêter sur les plaintes liées à l’IA.
9. Supervision du Procureur Général et Mandats de Rapport
Les employeurs peuvent être tenus de soumettre des évaluations de performance non expurgées au Procureur Général de Californie sur demande, ces dossiers étant exemptés des demandes de dossiers publics pour protéger les données sensibles des entreprises.
10. Considérations de Conformité avec la Loi sur la Confidentialité des Consommateurs de Californie (CCPA)
Les entreprises soumises à la CCPA doivent se conformer aux réglementations de confidentialité liées à l’IA, avec des futures réglementations susceptibles d’élargir les obligations des employeurs concernant l’IA et les données des employés.
11. Application et Pénalités
Le Procureur Général de l’État, le Département des Droits Civils et le Commissaire du Travail peuvent imposer des pénalités allant jusqu’à 25 000 dollars par violation.
Comment Cela Se Compare aux Autres Régulations de l’IA ?
Le projet de loi AB 1018 fait suite à la loi révolutionnaire du Colorado, qui impose des exigences anti-biais aux développeurs et utilisateurs d’IA. Cependant, contrairement à la loi du Colorado, qui se concentre principalement sur les développeurs d’IA, la loi de Californie impose des responsabilités significatives aux entreprises utilisant l’IA dans les décisions d’emploi.
D’autres juridictions ont adopté des approches différentes :
- La Loi sur les Entretiens Vidéo d’IA de l’Illinois régule les évaluations d’embauche assistées par l’IA mais est beaucoup plus limitée dans son champ d’application.
- La Loi sur l’IA de l’UE classe les systèmes d’IA par niveau de risque et impose des obligations strictes sur les applications à haut risque, telles que celles liées à l’emploi.
- La Loi sur l’IA de la Virginie (en attente d’action du gouverneur) se concentrerait davantage sur la protection des consommateurs et la transparence, sans les mandats d’emploi larges de la loi AB 1018.
Si elle est adoptée, la loi de Californie serait l’un des cadres réglementaires sur l’IA les plus expansifs du pays, influençant les efforts législatifs futurs à l’échelle nationale.
Quelles Sont les Prochaines Étapes ? Comprendre le Processus Législatif de Californie
Le projet de loi AB 1018 vient d’être introduit, ce qui signifie qu’il doit naviguer dans le long processus législatif de Californie. Le projet de loi passera d’abord par des comités de politique et de fiscalité, y compris le Comité de la Vie Privée de l’Assemblée, où des amendements sont probables. S’il progresse, il passera à l’Assemblée complète, au Sénat de l’État, et finalement sur le bureau du Gouverneur. Le projet de loi AB 1018 pourrait atteindre le Gouverneur Gavin Newsom d’ici la mi-septembre, à condition qu’il obtienne un soutien suffisant. Il aurait jusqu’au 12 octobre pour signer ou opposer son veto à la législation.
Ce Projet de Loi Gagnera-t-il du Terrain ?
Les tentatives précédentes de réguler le biais de l’IA en Californie ont échoué en raison de l’opposition des entreprises et des préoccupations concernant les coûts de conformité. En fait, une législation similaire a été tentée l’année dernière mais a échoué avant d’atteindre un vote final.
Cependant, le projet de loi AB 1018 a été rédigé avec l’apport de groupes de défense des travailleurs et des consommateurs, ce qui pourrait lui donner une dynamique plus forte. Les groupes d’entreprises, en particulier ceux de la Silicon Valley, devraient faire pression pour des exemptions ou des modifications, rendant sa forme finale incertaine.
La position du Gouverneur Newsom sur la régulation de l’IA a été mixte. Bien qu’il soutienne la vie privée des consommateurs et la supervision technologique, il a également plaidé pour des politiques favorables à l’innovation, ce qui l’a conduit à opposer son veto à d’autres législations sur l’IA l’année dernière. S’il signera finalement le projet de loi AB 1018 dépendra de la mesure dans laquelle la version finale équilibre régulation et préoccupations commerciales.
Que Doivent Faire les Employeurs Maintenant ?
Même si la loi AB 1018 ne passe pas cette session, ses principes fondamentaux influenceront probablement les futures régulations de l’IA. Les employeurs devraient proactivement :
- Évaluer les Outils d’IA dans les Décisions d’Embauche et RH : Réaliser des audits internes pour comprendre comment les systèmes d’IA impactent l’embauche, les promotions et les licenciements.
- Mettre en Œuvre des Politiques de Gouvernance de l’IA : Établir des cadres de gouvernance clairs pour l’IA, y compris des protocoles d’atténuation des biais et des mesures de transparence.
- Préparer d’Éventuelles Obligations de Conformité : Collaborer avec des équipes juridiques et de conformité pour aligner l’utilisation actuelle de l’IA sur les exigences réglementaires anticipées.
- Surveiller les Développements Législatifs : Rester informé des progrès du projet de loi AB 1018 et être prêt pour d’éventuels changements de conformité.
