Regulamentação de IA: Proposta da Lei ‘No Robo Bosses’ na Califórnia
Um legislador da Califórnia deseja que o estado seja um líder na regulamentação da inteligência artificial, apresentando a proposta da Lei “No Robo Bosses” e mirando diretamente no uso de IA no ambiente de trabalho. O Projeto de Lei do Senado 7, divulgado pelo senador Jerry McNerney, um democrata de Stockton, busca regular o uso de sistemas de decisão automatizada (ADS) nas contratações, promoções, disciplinas e demissões de trabalhadores.
Se aprovada, a SB 7 impactaria significativamente os empregadores que utilizam ferramentas de gestão de força de trabalho baseadas em IA. Aqui está o que as empresas precisam saber sobre essa nova proposta de regulamentação e como ela difere de outras legislações sobre IA em andamento na Califórnia.
O que a SB 7 Exige?
A Lei “No Robo Bosses” imporia várias obrigações e restrições importantes aos empregadores que utilizam ADS nas decisões relacionadas ao emprego:
- Mandato de supervisão humana. Os empregadores não poderão depender exclusivamente de ferramentas de tomada de decisão automatizada para contratações, promoções, ações disciplinares ou demissões. Um revisor humano precisará estar envolvido em todas as decisões de emprego significativas.
- Requisitos de notificação. Os empregadores deverão fornecer um aviso escrito aos trabalhadores quando um ADS for utilizado para tomar decisões relacionadas ao emprego. Isso inclui: 1) um aviso prévio com pelo menos 30 dias antes da introdução de um ADS; e 2) um aviso pós-uso explicando como um ADS influenciou uma decisão de emprego.
- Transparência e acesso a dados. Os empregados devem ter o direito de acessar e corrigir seus dados utilizados por um ADS, garantindo que não sejam mal avaliados devido a análises imprecisas baseadas em IA.
- Processo de apelação. Os empregadores devem fornecer aos trabalhadores um processo claro de apelação caso achem que uma decisão de emprego baseada em ADS foi incorreta. Os empregadores precisam fornecer um prazo de 30 dias para registrar um recurso e terão 14 dias úteis para responder, após um revisor humano que atende a critérios específicos avaliar todas as evidências. Se o revisor humano determinar que a decisão deve ser revertida, o empregador terá 21 dias úteis para corrigir a decisão.
- Usos proibidos. A lei proíbe explicitamente certas funções de ADS, incluindo:
- Uso de IA para prever o comportamento do trabalhador ou avaliar personalidade, estado emocional ou intenções.
- Coleta ou inferência de dados pessoais sensíveis (como status de imigração, orientação sexual, histórico de crédito, crenças religiosas, entre outros).
- Dependência primária de avaliações de clientes ou métricas geradas por IA para decisões de emprego.
O último ponto – a proibição de ações como a análise de comportamento preditivo – provavelmente será altamente controverso. Tal proibição pode impedir significativamente o progresso e a eficiência, abrangendo usos comuns de IA que têm como objetivo ajudar os funcionários, como a retenção e satisfação dos empregados. Os opositores argumentarão que tais usos não são impulsionados por IA generativa, mas sim por fórmulas matemáticas simples e, portanto, não suscetíveis às mesmas preocupações (alucinações, viés, etc.) que surgem com outros usos de IA generativa.
Como a SB 7 Seria Aplicada?
O comissário do trabalho teria autoridade de fiscalização sobre a SB 7, e as violações poderiam resultar em penalidades civis de $500 por violação, além de ações judiciais particulares de empregados.
Como a SB 7 Difere de Outras Regulamentações de IA Pendentes?
A SB 7 não é a única regulamentação do ambiente de trabalho relacionada à IA sendo considerada na Califórnia. O Projeto de Lei da Assembleia 1018 também busca regular a IA no emprego, mas existem diferenças-chave:
- A SB 7 foca principalmente na supervisão humana nas decisões de emprego, prevenindo que os empregadores dependam exclusivamente da IA para fazer escolhas críticas no local de trabalho.
- A AB 1018 impõe obrigações de conformidade mais amplas tanto para empregadores quanto para fornecedores de IA, exigindo auditorias, políticas de retenção de dados e avaliações de risco abrangentes para ferramentas de contratação baseadas em IA.
- A SB 7 proíbe explicitamente a análise de comportamento preditivo, enquanto a AB 1018 se concentra mais em avaliações de impacto e obrigações de relatório.
Enquanto isso, a SB 7 imporia requisitos semelhantes aos que estão atualmente propostos pela Agência de Proteção da Privacidade da Califórnia (CPPA) na segunda rodada das regulamentações do CCPA/Lei de Direitos de Privacidade da Califórnia (CPRA) relacionadas à tecnologia de tomada de decisão automatizada. Essas regulamentações propostas provavelmente passarão e serão promulgadas ainda este ano.
Contudo, o CCPA aplica-se apenas a empresas com tamanhos específicos ou aquelas que atendem a certos critérios relacionados ao número de consumidores sobre os quais coletam dados. Em contrapartida, a SB 7 se aplicaria a todos os empregadores, sem exceções, incluindo pequenas empresas e organizações sem fins lucrativos.
Qual seria o efeito? A SB 7 poderia efetivamente deslocar o mandato do CCPA/CPRA de regular a tecnologia de tomada de decisão automatizada, pois essa lei imporia essencialmente os mesmos requisitos, além de algumas exigências adicionais não contidas nas regulamentações pendentes do CCPA.
Por fim, o senador Scott Wiener, um democrata de San Francisco, introduziu o Projeto de Lei do Senado 53, que visa promover o desenvolvimento responsável de sistemas de IA em larga escala. O projeto propõe a criação do CalCompute, um cluster de computação em nuvem pública projetado para apoiar startups e pesquisadores no desenvolvimento de modelos de IA em larga escala. Além disso, a SB 53 busca reforçar as proteções para denunciantes que relatam riscos potenciais associados ao desenvolvimento de IA.
Próximos Passos
A Lei No Robo Bosses deve gerar um debate significativo entre sindicatos e grupos empresariais. Os apoiadores argumentam que a supervisão humana é essencial para prevenir discriminação impulsionada por IA, enquanto os críticos afirmam que as leis de emprego existentes já fornecem proteções adequadas.
Os empregadores devem ficar atentos a potenciais emendas à medida que o projeto avança nas audiências das comissões nos próximos meses. As principais datas limites? O projeto precisaria chegar ao governador até meados de setembro, e ele teria até 12 de outubro para assinar ou vetar a legislação.
De uma perspectiva mais ampla, este projeto é mais um lembrete de que os estados estarão liderando a regulamentação da IA no futuro próximo. De fato, um projeto de lei semelhante proposto em nível federal no ano passado – o No Robot Bosses Act – nem sequer conseguiu avançar na comissão do Congresso. Sem encontrar apoio no nível federal, esses tipos de projetos de lei certamente proliferarão nos estados.
O que os Empregadores Devem Fazer Agora?
Embora a SB 7 ainda esteja em processo legislativo, os empregadores que utilizam IA na gestão da força de trabalho devem começar a se preparar agora, considerando algumas melhores práticas:
- Auditar sistemas de IA atuais. Identificar onde e como as ferramentas baseadas em IA estão sendo usadas nas decisões de emprego.
- Considerar como implementariam políticas de supervisão humana. Pode ser necessário garantir que os tomadores de decisão humanos tenham a palavra final em contratações, promoções, disciplina e demissões — portanto, se o seu ADS atual for fraco nessas áreas, pode ser prudente começar o planejamento preliminar para ajustes conforme necessário.
- Rever práticas de coleta de dados. É importante garantir que suas ferramentas de IA não estejam usando ou inferindo características pessoais proibidas, o que pode ser feito por meio de auditorias de viés em IA.
- Implementar políticas de governança de IA. Estabelecer estruturas claras de governança de IA, incluindo protocolos de mitigação de viés e medidas de transparência.
- Manter-se atualizado sobre desenvolvimentos legislativos. Dada a pressão agressiva da Califórnia por regulamentação de IA, os empregadores devem monitorar de perto a SB 7 e a AB 1018 para se manter à frente dos requisitos de conformidade.
