La régulation de la prise de décision automatisée : une priorité naissante
Dans un contexte d’absence de régulation complète de l’intelligence artificielle (IA) au niveau fédéral, les législatures des états et des collectivités locales se sont activement penchées sur leur propre législation relative à l’IA. Les lois régissant la prise de décision automatisée émergent comme une priorité précoce pour le gouvernement local. Bien qu’il n’existe pas de définition uniforme de la prise de décision automatisée, celle-ci peut être comprise comme l’utilisation de l’IA, de systèmes d’apprentissage automatique et/ou d’algorithmes pour prendre des décisions sans ou avec un minimum d’intervention humaine.
Les législatures semblent désireuses de réduire le risque perçu que les systèmes d’IA soient utilisés pour prendre des décisions ayant des conséquences discriminatoires ou impactant négativement les consommateurs dans divers contextes, notamment en matière d’emploi et d’opportunités professionnelles. De plus, de nombreuses lois sur la vie privée des états offrent aux consommateurs le droit de refuser le traitement de données pour le profilage basé sur des décisions automatisées.
Lois étatiques et locales régissant la prise de décision automatisée
Actuellement, le Colorado, l’Illinois et la ville de New York ont adopté des lois régissant la prise de décision automatisée par des systèmes d’IA. Chacune de ces lois vise à empêcher l’utilisation de la prise de décision par IA de manière à entraîner une discrimination à l’encontre des consommateurs en fonction de classes protégées.
Colorado
La loi sur l’IA du Colorado, qui entrera en vigueur le 1er février 2026, est la première législation complète sur l’IA aux États-Unis. Cette loi s’applique tant aux entités privées qu’aux gouvernements qui développent et déploient des systèmes d’IA à haut risque. Elle impose un devoir de diligence raisonnable aux développeurs et déployeurs de ces systèmes afin de protéger les consommateurs contre les risques de discrimination algorithmique.
Illinois
La législature de l’Illinois a amendé la Loi sur les droits humains pour réguler la prise de décision automatisée par des systèmes d’IA uniquement dans des contextes d’emploi. Les amendements, qui entreront en vigueur le 1er janvier 2026, cherchent à prévenir la discrimination à l’encontre des consommateurs en fonction de classes protégées.
New York City
La Loi locale 144 de New York, actuellement en vigueur, régule l’utilisation des outils d’emploi automatisés par les employeurs. Cette loi exige que les employeurs mènent un audit d’impartialité et publient les résultats avant d’utiliser ces outils pour prendre des décisions d’emploi.
Lois sur la vie privée des États
Les lois sur la vie privée des états imposent des obligations spécifiques aux entreprises qui s’engagent dans des activités de profilage. Cela inclut le droit pour les consommateurs de refuser le profilage qui produit des effets juridiques ou significatifs, et la nécessité de mener des évaluations de protection des données.
Obligations clés
Les lois sur la vie privée des états requièrent que les organisations fournissent des avis de vie privée clairs et accessibles, incluant des informations sur la façon dont les consommateurs peuvent exercer leurs droits, tels que le droit de refuser les activités de profilage.
Conclusion
Alors que la régulation de la prise de décision automatisée par des systèmes d’IA se développe, les entreprises doivent être conscientes des obligations en matière de transparence et de protection des données. L’évolution des lois à travers les États-Unis souligne l’importance croissante de la responsabilité dans l’utilisation de l’IA pour des décisions ayant un impact significatif sur les consommateurs.
