Pourquoi la Californie a de nouveau fait marche arrière sur une réglementation ambitieuse de l’IA
Un projet de loi imposant la divulgation et les recours pour une large gamme de décisions prises par l’IA a été retardé jusqu’à l’année prochaine pour la troisième session législative consécutive. Le gouverneur Gavin Newsom est censé se consulter sur la mesure.
Après trois ans d’efforts pour donner aux Californiens le droit de savoir quand l’IA prend une décision importante les concernant et de faire appel lorsque cela tourne mal, la membre de l’Assemblée Rebecca Bauer-Kahan a annoncé qu’elle et ses soutiens devront encore attendre jusqu’à l’année prochaine.
Le projet de loi, Assembly Bill 1018, qui a été approuvé par l’Assemblée et deux comités du Sénat, a été désigné comme un projet de loi sur deux ans, ce qui signifie qu’il peut revenir dans le cadre de la session législative de l’année prochaine. Cette décision permettra de prolonger les discussions avec le gouverneur Newsom et plus de 70 opposants.
Contenu du projet de loi
Ce projet de loi exigerait que les entreprises et les agences gouvernementales alertent les individus lorsque des systèmes automatisés sont utilisés pour prendre des décisions importantes les concernant, notamment pour les baux d’appartements, les admissions scolaires, ainsi que dans le milieu professionnel concernant l’embauche, le licenciement, les promotions et les mesures disciplinaires.
Les systèmes automatisés qui attribuent des scores aux gens ou font des recommandations peuvent empêcher les Californiens de recevoir des prestations de chômage auxquelles ils ont droit, déclarer des candidats moins qualifiés pour des raisons arbitraires sans rapport avec la performance au travail, ou refuser des soins de santé ou un prêt hypothécaire en raison de leur race.
Bauer-Kahan a déclaré : « Cette pause reflète notre engagement à obtenir cette législation essentielle, et non un retrait de notre responsabilité de protéger les Californiens. »
Contexte législatif
La pause intervient à un moment où les politiciens à Washington D.C. continuent de s’opposer à la réglementation de l’IA, qu’ils estiment pouvoir entraver le progrès. En juillet, le président Donald Trump a publié un plan d’action sur l’IA appelant à la déréglementation de la technologie au niveau fédéral et étatique.
Lorsque un système automatisé commet une erreur, le projet de loi AB 1018 donne aux personnes le droit de faire rectifier cette erreur dans un délai de 30 jours. Il réitère également que les algorithmes doivent offrir des « accommodements complets et égaux » à tous et ne peuvent pas discriminer les personnes en fonction de caractéristiques telles que l’âge, la race, le sexe, le handicap ou le statut d’immigration.
Opposition à la législation
AB 1018 a été confronté à une forte opposition de la part de groupes industriels, de grandes entreprises technologiques, du plus grand fournisseur de soins de santé de l’État, de sociétés de capital-risque et du Judicial Council of California, un organe de décision politique pour les tribunaux de l’État.
Une coalition d’hôpitaux, de Kaiser Permanente et de l’entreprise de logiciels et d’IA Epic Systems a exhorté les législateurs à voter contre 1018, arguant que le projet de loi influencerait négativement les soins aux patients et augmenterait les coûts.
La coalition de groupes d’affaires a également exprimé son opposition, craignant que la conformité aux exigences du projet de loi puisse être coûteuse pour les entreprises et les contribuables. Ils ont soutenu que le projet de loi pourrait freiner la croissance des emplois et augmenter les coûts.
Perspectives d’avenir
Malgré les défis, le soutien au projet de loi provient de syndicats qui ont promis de discuter de l’IA dans les accords de négociation, ainsi que de groupes tels que la Citizen’s Privacy Coalition et Consumer Reports.
Les co-auteurs de AB 1018 comprennent des promoteurs démocrates majeurs de la réglementation de l’IA au sein de la législature californienne. Bien que le projet de loi ait été mis en pause, les défenseurs espèrent qu’il pourra être réintroduit l’année prochaine avec des améliorations susceptibles de répondre aux préoccupations des opposants.
