California Introduz Outro Projeto de Lei Anti-Discriminação em IA: O Que os Empregadores Precisam Saber
Um novo projeto de lei proposto na Califórnia busca regular as ferramentas de tomada de decisão baseadas em inteligência artificial (IA) no emprego e em outras áreas-chave – mas esta proposta sofrerá o mesmo destino que os esforços legislativos fracassados do ano passado?
Introduzido em 20 de fevereiro pela Assemblymember Rebecca Bauer-Kahan, o Assembly Bill 1018 impõe uma supervisão rigorosa sobre os sistemas de decisão automatizados (ADS) na tentativa de prevenir a discriminação no local de trabalho e em outros setores. O projeto estabelece obrigações amplas para desenvolvedores e implementadores de IA, incluindo avaliações de desempenho, auditorias de terceiros, requisitos de retenção de dados e mandatos de transparência para decisões impulsionadas por IA que afetam o emprego, saúde, habitação e outros setores críticos.
Se aprovado, o AB 1018 representará a tentativa mais abrangente da Califórnia para regular o viés em IA, impondo fardos de conformidade significativos sobre os empregadores que utilizam ferramentas de contratação e gestão de força de trabalho baseadas em IA. O que você precisa saber sobre o projeto e o que deve observar nos próximos meses?
Aspectos Chave do Projeto de Lei Proposto
O AB 1018 introduz uma estrutura robusta que governa as ferramentas de decisão baseadas em IA. Aqui estão os componentes mais críticos para os empregadores:
1. Direitos de Opt-Out e Requisitos de Revisão Humana:
Os empregadores devem oferecer aos funcionários e candidatos a oportunidade de optar por não participar de decisões impulsionadas por ADS em certos casos, e devem divulgar se há revisão humana antes de finalizar uma decisão impulsionada por IA. O projeto define amplamente “ADS” como qualquer sistema baseado em aprendizado de máquina que auxilia ou substitui a tomada de decisão humana e impacta significativamente os indivíduos, incluindo decisões relacionadas ao emprego.
2. Transparência e Direitos de Apelação:
Os empregadores devem fornecer aos candidatos e funcionários divulgações sobre decisões impulsionadas por IA, permitir que optem por não participar em certos casos e fornecer um processo de apelação para resultados adversos.
3. Definição Ampliada de ‘Decisões Consequenciais’:
O projeto cobre não apenas contratação e demissão, mas também salários, benefícios, agendamento, promoções, avaliações de desempenho, acesso a treinamento e decisões de segurança no local de trabalho, ampliando as obrigações de conformidade para funções de RH que utilizam IA.
4. Obrigações para Empregadores que Modificam Sistemas de IA:
Os empregadores que ajustarem uma ferramenta de IA fora de seu escopo original podem assumir responsabilidades legais geralmente atribuídas aos desenvolvedores de IA, aumentando os riscos de conformidade para as empresas que personalizam ferramentas de IA.
5. Avaliações de Desempenho Obrigatórias:
Os desenvolvedores de IA devem realizar auditorias anuais e divulgar potenciais impactos desiguais de seus sistemas.
6. Auditorias de Terceiros para Empregadores:
As empresas que utilizam ferramentas de IA em contratações, promoções e demissões devem passar por auditorias independentes se seus sistemas de IA afetarem 6.000 ou mais indivíduos em três anos.
7. Regras Rigorosas de Gestão e Retenção de Dados:
Os empregadores devem reter documentação relacionada à IA não editada por 10 anos, incluindo resultados de auditorias, avaliações de desempenho e apelações de funcionários, com a não conformidade levando a possíveis penalidades.
8. Oficiais de Conformidade e Obrigações de Revisão Interna:
As empresas que implementam ferramentas de tomada de decisão em IA devem designar pelo menos um oficial de conformidade responsável por supervisionar a adesão à lei e investigar reclamações relacionadas à IA.
9. Supervisão do Procurador Geral e Mandatos de Relatório:
Os empregadores podem ser obrigados a submeter avaliações de desempenho não editadas ao Procurador Geral da Califórnia mediante solicitação, com esses registros isentos de pedidos de registros públicos para proteger dados sensíveis de negócios.
10. Considerações de Conformidade com a Lei de Privacidade do Consumidor da Califórnia (CCPA):
As empresas sujeitas à CCPA devem cumprir as regulamentações de privacidade relacionadas à IA, com futuras regulamentações provavelmente expandindo as obrigações dos empregadores sobre IA e dados de funcionários.
11. Aplicação e Penalidades:
O Procurador Geral do estado, o Departamento de Direitos Civis e o Comissário do Trabalho podem impor penalidades de até $25.000 por violação.
Como Isso Se Compara a Outras Regulamentações de IA?
O AB 1018 segue os passos da lei inovadora de IA do Colorado, que impõe requisitos anti-bias aos desenvolvedores de IA e usuários. No entanto, ao contrário da lei do Colorado, que se concentra principalmente nos desenvolvedores de IA, o projeto da Califórnia coloca responsabilidades significativas sobre as empresas que utilizam IA em decisões de emprego.
Outras jurisdições adotaram abordagens diferentes:
- Lei de Entrevista em Vídeo de IA de Illinois regula avaliações de contratação impulsionadas por IA, mas é muito mais restrita em escopo.
- A Lei de IA da UE classifica sistemas de IA por nível de risco e impõe obrigações rigorosas a aplicações de alto risco, como a IA relacionada ao emprego.
- A Lei de IA da Virgínia (aguardando ação do governador) se concentraria mais em proteção ao consumidor e transparência, sem os amplos mandatos relacionados ao emprego do AB 1018.
Se aprovado, a lei da Califórnia se destacaria como uma das estruturas regulatórias de IA mais expansivas do país, moldando futuros esforços legislativos em todo o país.
O Que Vem a Seguir? Entendendo o Processo Legislativo da Califórnia
O AB 1018 foi recém-introduzido, significando que deve navegar pelo longo processo legislativo da Califórnia. O projeto primeiro passará por comitês de políticas e fiscais, incluindo o Comitê de Privacidade da Assembleia, onde emendas são prováveis. Se avançar, seguirá para a Assembleia completa, o Senado do Estado e, finalmente, para a mesa do Governador. O AB 1018 pode chegar ao Governador Gavin Newsom até meados de setembro, assumindo que ganhe apoio suficiente. Ele terá até 12 de outubro para assinar ou vetar a legislação.
Esse Projeto de Lei Ganhara Tração?
Tentativas anteriores de regular o viés em IA na Califórnia falharam devido à oposição empresarial e preocupações sobre custos de conformidade. De fato, legislações semelhantes foram tentadas no ano passado, mas pararam antes de alcançar uma votação final.
Entretanto, o AB 1018 foi redigido com a contribuição de grupos de defesa do trabalho e do consumidor, possivelmente dando-lhe um impulso mais forte. Grupos empresariais, especialmente aqueles no Vale do Silício, devem pressionar por isenções ou modificações, tornando sua forma final incerta.
A posição do Governador Newsom sobre a regulação da IA tem sido mista. Embora apoie a privacidade do consumidor e a supervisão tecnológica, ele também advogou por políticas favoráveis à inovação, levando-o a vetar outras legislações sobre IA no ano passado. Se ele assinar o AB 1018 dependerá de quão bem a versão final equilibra regulação com preocupações empresariais.
O Que os Empregadores Devem Fazer Agora?
Mesmo que o AB 1018 não passe nesta sessão, seus princípios centrais provavelmente influenciarão futuras regulamentações de IA. Os empregadores devem proativamente:
- Avaliar Ferramentas de IA em Decisões de Contratação e RH: Realizar auditorias internas para entender como sistemas de IA impactam contratações, promoções e demissões.
- Implementar Políticas de Governança de IA: Estabelecer estruturas claras de governança de IA, incluindo protocolos de mitigação de viés e medidas de transparência.
- Preparar-se para Possíveis Obrigações de Conformidade: Trabalhar com equipes jurídicas e de conformidade para alinhar o uso existente de IA com os requisitos regulatórios antecipados.
- Monitorar Desenvolvimentos Legislativos: Manter-se informado sobre o progresso do AB 1018 e estar preparado para futuras mudanças de conformidade.
