Réglementation de l’IA : Proposition de loi ‘No Robo Bosses’ en Californie
Un législateur californien souhaite que l’État soit à la pointe de la réglementation de l’intelligence artificielle, en dévoilant la proposition de loi “No Robo Bosses” qui vise directement l’utilisation de l’IA dans le lieu de travail. Le projet de loi, connu sous le nom de SB 7, a été présenté par le sénateur Jerry McNerney, un démocrate de Stockton, et cherche à réguler l’utilisation des systèmes de décision automatisés (ADS) dans l’emploi, avec l’espoir de limiter strictement les outils pilotés par l’IA lors de l’embauche, de la promotion, de la discipline et du licenciement des travailleurs. Si elle est adoptée, la SB 7 aurait un impact significatif sur les employeurs utilisant des outils de gestion de la main-d’œuvre alimentés par l’IA.
Que nécessiterait la SB 7 ?
La loi No Robo Bosses imposerait plusieurs obligations clés et restrictions aux employeurs utilisant des ADS dans les décisions liées à l’emploi :
Mandat de supervision humaine
Les employeurs ne pourraient pas se fier uniquement aux outils de prise de décision automatisée pour les embauches, les promotions, les actions disciplinaires ou les licenciements. Un examinateur humain devrait être impliqué dans toutes les décisions majeures liées à l’emploi.
Exigences de notification
Les employeurs devraient fournir un avis écrit aux travailleurs lorsque des ADS sont utilisés pour prendre des décisions liées à l’emploi. Cela inclut : 1) un préavis au moins 30 jours avant l’introduction d’un ADS ; et 2) un avis post-usage expliquant comment un ADS a influencé une décision d’emploi.
Transparence et accès aux données
Les employés doivent avoir le droit d’accéder et de corriger leurs données utilisées par un ADS, garantissant qu’ils ne sont pas mal jugés en raison d’analyses inexactes alimentées par l’IA.
Processus d’appel
Les employeurs doivent fournir aux travailleurs un processus d’appel clair s’ils estiment qu’une décision d’emploi prise par un ADS était incorrecte. Les étapes incluent :
- Les travailleurs auraient 30 jours pour déposer un appel.
- Les employeurs auraient ensuite 14 jours ouvrables pour répondre, après qu’un examinateur humain répondant à des critères spécifiques évalue objectivement toutes les preuves.
- Si l’examinateur humain détermine que la décision doit être annulée, l’employeur devra rectifier la décision dans les 21 jours ouvrables.
Utilisations interdites
Le projet de loi interdit explicitement certaines fonctions des ADS, notamment :
- Utiliser l’IA pour prédire le comportement des travailleurs ou évaluer leur personnalité, leur état émotionnel ou leurs intentions.
- Collecter ou inférer des données personnelles sensibles, telles que le statut d’immigration, l’orientation sexuelle, l’historique de crédit, les croyances religieuses, etc.
- Se fier principalement aux évaluations des clients ou à des métriques générées par l’IA pour les décisions d’emploi.
Ce dernier point — interdisant des actions telles que l’IA prédictive — pourrait susciter de vives controverses. Une telle interdiction pourrait entraver considérablement le progrès et l’efficacité, car elle engloberait de manière large des utilisations courantes de l’IA qui visent en réalité à aider les employés, notamment en matière de rétention et de satisfaction des employés.
Comment la SB 7 serait-elle appliquée ?
Le commissaire du travail aurait l’autorité d’application de la SB 7, et les violations pourraient entraîner des sanctions civiles de 500 $ par violation, sans compter les poursuites privées de la part des employés.
En quoi la SB 7 diffère-t-elle des autres réglementations sur l’IA en cours ?
La SB 7 n’est pas la seule réglementation sur l’IA au travail envisagée en Californie. Le projet de loi AB 1018 vise également à réglementer l’IA dans l’emploi, mais il existe des différences clés :
- La SB 7 se concentre principalement sur la supervision humaine dans les décisions d’emploi, empêchant les employeurs de se fier uniquement à l’IA pour prendre des choix critiques en milieu de travail.
- La AB 1018 impose des obligations de conformité plus larges aux employeurs et aux fournisseurs d’IA, nécessitant des audits, des politiques de conservation des données et des évaluations de risques complètes pour les outils de recrutement alimentés par l’IA.
- La SB 7 interdit l’analyse du comportement prédictif, tandis que la AB 1018 se concentre davantage sur les évaluations d’impact et les obligations de reporting.
En outre, la SB 7 pourrait fonctionner de manière similaire aux exigences actuellement proposées par l’Agence de protection de la vie privée de Californie (CPPA) dans la seconde phase des réglementations de la CCPA / California Privacy Rights Act concernant la technologie de prise de décision automatisée.
Que faire maintenant ?
Bien que la SB 7 soit encore en cours de développement législatif, les employeurs utilisant l’IA dans la gestion de la main-d’œuvre devraient commencer à se préparer dès maintenant en considérant certaines meilleures pratiques :
- Auditer les systèmes d’IA actuels. Identifier où et comment les outils alimentés par l’IA sont utilisés dans les décisions d’emploi.
- Considérer comment mettre en œuvre des politiques de supervision humaine. Il peut être nécessaire de garantir que les décideurs humains aient le dernier mot sur les embauches, les promotions, les disciplines et les licenciements.
- Réviser les pratiques de collecte de données. Assurez-vous que vos outils d’IA n’utilisent pas ou n’infèrent pas de caractéristiques personnelles interdites.
- Mettre en œuvre des politiques de gouvernance de l’IA. Établir des cadres clairs de gouvernance de l’IA, y compris des protocoles d’atténuation des biais et des mesures de transparence.
- Rester informé des évolutions législatives. Étant donné la volonté agressive de la Californie en matière de réglementation de l’IA, les employeurs devraient surveiller de près la SB 7 et la AB 1018 pour rester en avance sur les exigences de conformité.
