Desenvolvimentos em Inteligência Artificial em Nova York no Primeiro Trimestre de 2025: O que os Empregadores Devem Saber Sobre a Legislação Proposta e Aprovada
No primeiro semestre de 2025, Nova York se juntou a outros estados, como Colorado, Connecticut, Nova Jersey e Texas, buscando regular a inteligência artificial (IA) em nível estadual. Em 8 de janeiro de 2025, foram introduzidos projetos de lei focados no uso de ferramentas de tomada de decisão baseadas em IA tanto no Senado quanto na Assembleia Estadual de Nova York.
O Projeto de Lei NY AI (Bill S011692) concentra-se em abordar a discriminação algorítmica através da regulação e restrição do uso de certos sistemas de IA, incluindo no emprego. Este projeto de lei permitirá o direito de ação privada, capacitando os cidadãos a processar empresas de tecnologia. Além disso, o Projeto de Lei de Proteção ao Consumidor de IA (Bill A007683) modifica a legislação comercial geral para impedir o uso de algoritmos de IA que discriminem classes protegidas, inclusive no emprego.
Projeto de Lei do Senado 1169
O Projeto de Lei NY AI foi introduzido pela Senadora Estadual Kristen Gonzalez, que destacou que “um crescente corpo de pesquisa mostra que sistemas de IA implementados sem testes adequados, supervisão suficiente e guardrails robustos podem prejudicar consumidores e negar a grupos historicamente desfavorecidos o pleno exercício de seus direitos civis e liberdades, perpetuando desigualdades.” O projeto de lei abrange todos os “consumidores”, definidos como qualquer residente do estado de Nova York, incluindo residentes que são empregados e empregadores.
O Projeto de Lei NY AI exige que “os implementadores” que utilizam um sistema de IA de alto risco para uma decisão consequente cumpram certas obrigações. “Implementadores” é definido como “qualquer pessoa que faz negócios no estado de Nova York que implanta um sistema de decisão de IA de alto risco.” Isso inclui empregadores de Nova York.
Por exemplo, os implementadores devem divulgar ao usuário final, em termos claros, conspícuos e amigáveis, que estão utilizando um sistema de IA que toma decisões consequentes pelo menos cinco dias úteis antes do uso. Além disso, eles devem permitir tempo e oportunidade suficientes para que o consumidor opte por não participar do processo automatizado.
Direitos e Proteções dos Consumidores
Os consumidores têm o direito de optar por não participar da tomada de decisão automatizada ou apelar dos resultados. O projeto também estabelece um processo de auditoria que deve ser realizado antes de usar um sistema de IA de alto risco, seis meses após a implantação e pelo menos a cada 18 meses.
Se uma violação ocorrer, o procurador-geral pode solicitar uma liminar para impedir a continuidade da violação, e o tribunal pode impor uma multa civil de até US$ 20.000 por violação. Além disso, existe um direito de ação privada para qualquer pessoa prejudicada por uma violação do Projeto de Lei NY AI.
Projeto de Lei da Assembleia 768
Também em 8 de janeiro de 2025, o Membro da Assembleia Estadual Alex Bores introduziu o Projeto de Lei de Proteção. Assim como o Projeto de Lei NY AI, o Projeto de Lei de Proteção busca prevenir o uso de algoritmos de IA que discriminem classes protegidas.
O Projeto de Lei de Proteção exige uma “auditoria de viés e governança” que consiste em uma avaliação imparcial por um auditor independente, incluindo a análise do impacto desigual de um sistema de decisão de IA sobre os empregados.
Lei Local do Conselho da Cidade de Nova York
Enquanto o Projeto de Lei NY AI e o Projeto de Lei de Proteção ainda não foram aprovados, os empregadores da cidade de Nova York devem garantir que estão seguindo a Lei Local Int. No. 1984-A, que entrou em vigor em 5 de julho de 2023. Esta lei visa proteger candidatos a emprego e empregados de viés discriminatório ilegal ao usar ferramentas de decisão automatizada.
Comparada às leis estaduais propostas, a Lei NYC AI se aplica estritamente a empregadores e agências de emprego na cidade que utilizam ferramentas de decisão automatizada para triagem de candidatos ou empregados.
Considerações Finais para os Empregadores
Os empregadores devem trabalhar para estar em conformidade com a Lei NYC AI existente e se preparar para futuras legislações estaduais. Eles devem:
- Avaliar Sistemas de IA: Identificar quaisquer sistemas de IA que sua empresa desenvolve ou utiliza, especialmente aqueles usados em decisões consequentes relacionadas ao emprego.
- Revisar Políticas de Gestão de Dados: Garantir que suas políticas de gestão de dados estejam em conformidade com os padrões de proteção de dados.
- Preparar-se para Auditorias: Familiarizar-se com os requisitos de auditoria e começar a se preparar para possíveis auditorias de sistemas de IA de alto risco.
- Desenvolver Processos Internos: Estabelecer processos internos para divulgações relacionadas a violações de sistemas de IA.
- Monitorar Legislação: Manter-se informado sobre projetos de lei propostos e revisar continuamente as diretrizes de agências federais.
