Por que a Califórnia recuou novamente na ambiciosa regulamentação de IA
Resumo: Um projeto de lei que exigia a divulgação e apelações para uma ampla gama de decisões de IA foi adiado até o próximo ano pela terceira sessão legislativa consecutiva. O governador Gavin Newsom deve consultar sobre a proposta.
Após três anos tentando garantir aos californianos o direito de saber quando a IA toma decisões importantes sobre suas vidas e de apelar quando algo dá errado, a Assembleia Legislativa da Califórnia anunciou que o Projeto de Lei da Assembleia 1018 terá que esperar novamente, até o próximo ano.
A proposta, que já havia sido aprovada pela Assembleia e por dois comitês do Senado, foi designada como um projeto de lei de dois anos, permitindo mais tempo para conversas com o governador Newsom e com os mais de 70 opositores. Essa decisão foi tomada nas horas finais da sessão legislativa da Califórnia, que termina hoje.
Objetivos do Projeto de Lei
O projeto de lei exigiria que empresas e agências governamentais alertassem os indivíduos quando sistemas automatizados fossem utilizados para tomar decisões importantes sobre eles, incluindo aluguel de apartamentos, admissões escolares e, no local de trabalho, contratações, demissões, promoções e ações disciplinares.
Decisões automatizadas que atribuem pontuações ou fazem recomendações podem impedir que californianos recebam benefícios de desemprego a que têm direito, declarar candidatos a empregos menos qualificados por razões arbitrárias e negar cuidados de saúde ou hipotecas com base em características raciais.
“Essa pausa reflete nosso compromisso em acertar esta legislação crítica, e não uma retirada de nossa responsabilidade em proteger os californianos”, disse a Assembleia Rebecca Bauer-Kahan em uma declaração compartilhada.
Desafios Legislativos
O projeto enfrenta forte oposição de grupos da indústria, grandes empresas de tecnologia, o maior fornecedor de saúde do estado, firmas de capital de risco e o Conselho Judicial da Califórnia. Uma coalizão de hospitais e a Kaiser Permanente argumentou que o projeto afetaria negativamente os cuidados aos pacientes e aumentaria os custos.
Além disso, a proposta foi alterada para isentar modelos de IA generativa de cobertura pela lei, o que poderia impedir seu impacto sobre grandes empresas de IA e projetos piloto em andamento. A exigência de auditoria para desenvolvedores foi adiada para 2030.
Reação da Indústria
Os desenvolvedores devem realizar avaliações de impacto para testar possíveis preconceitos embutidos em seus sistemas. Se uma avaliação de impacto não for realizada e o sistema for usado para decisões importantes, o desenvolvedor pode enfrentar multas de até $25.000 por violação.
A oposição ao Projeto de Lei 1018 é significativa, com empresários e grupos de lobby fazendo pressão. Samantha Gordon, da TechEquity, observou que a quantidade de lobistas tentando derrubar o projeto foi a maior que já viu.
Apoio e Expectativas Futuras
Além de sindicatos, como a California Nurses Association e a Service Employees International Union, o apoio ao projeto vem de grupos como o Citizen’s Privacy Coalition e o Consumer Federation of California.
O apoio ao Projeto de Lei 1018 reflete uma demanda crescente por proteções em relação ao uso de IA, com pesquisas mostrando que os americanos desejam leis fortes sobre o tema. No entanto, com a pressão da indústria, a luta pela regulamentação da IA na Califórnia continua a ser um desafio complexo e dinâmico.
