Projeto de Lei da Califórnia para Regular AI de Alto Risco Não Avança
Um projeto de lei da Califórnia que abordava o uso de sistemas de decisão automatizada em contratações e outras questões significativas não conseguiu avançar na assembleia estadual durante as horas finais da sessão legislativa de 2025.
Detalhes do Projeto de Lei
O projeto de lei (AB 1018) exigiria que empresas e agências governamentais notificassem os indivíduos quando sistemas de decisão automatizada fossem usados para decisões “consequenciais”, tais como emprego, habitação, saúde e serviços financeiros.
A autora do projeto, a assembleísta democrata Rebecca Bauer-Kahan, pausou a votação do projeto até o próximo ano para permitir “engajamento adicional com as partes interessadas e conversas produtivas com o escritório do governador”, conforme um comunicado de imprensa divulgado na sexta-feira.
“Essa pausa reflete nosso compromisso em acertar esta legislação crítica, e não uma retirada de nossa responsabilidade em proteger os californianos”, disse Bauer-Kahan em uma declaração. “Continuamos comprometidos em avançar com proteções reflexivas contra a discriminação algorítmica.”
Reações e Oposição
A Business Software Alliance, uma associação comercial global que representa grandes empresas de tecnologia e liderou uma campanha de oposição ao projeto, argumentou que a legislação sujeitaria injustamente as empresas que utilizam sistemas de AI a um “regime de auditoria não testado” que poderia desencorajar a adoção responsável de ferramentas de AI em todo o estado.
“Estabelecer expectativas claras, funcionais e consistentes para usos de AI de alto risco promove, em última análise, a adoção da tecnologia e espalha mais amplamente seus benefícios”, afirmou Craig Albright, vice-presidente sênior da BSA, em uma declaração escrita.
Alterações no Projeto de Lei
Desde sua introdução em fevereiro, o projeto foi alterado para restringir quando auditorias de AI são necessárias, esclarecer que tipos de sistemas e decisões “de alto risco” estão cobertos, isentar ferramentas de baixo risco, como filtros de spam, e adicionar proteções para segredos comerciais, limitando o que deve ser tornado público nas auditorias.
Além disso, o projeto refinou como funcionam processos judiciais e apelações, alinhando-se mais claramente com as leis existentes de direitos civis.
Contexto e Comparações
A falha do AB 1018 ocorre após a votação da assembleia estadual do Colorado para adiar a implementação da Lei de AI do Colorado, uma legislação de AI de alto risco, até o final de junho do próximo ano, cinco meses após a data em que a lei deveria entrar em vigor.
Semelhante ao projeto da Califórnia, a Lei de Inteligência Artificial do Colorado também regulará sistemas de AI de alto risco em áreas como contratação, empréstimos, habitação, seguros e serviços governamentais.
