Quando a Inteligência Artificial Discrimina: Conformidade dos Empregadores na Ascensão da Contratação por IA
Candidatos a empregos frequentemente se preocupam com o que pode impedi-los de conseguir uma posição. Embora possam entender que a falta de qualificações ou experiências pode trabalhar contra eles, pode não estar tão claro que as ferramentas de recrutamento e contratação usadas pelos empregadores também podem ser um obstáculo.
Os processos que os empregadores utilizam para reduzir o número de candidatos e, finalmente, selecionar os melhores estão se tornando cada vez mais automatizados; de fato, um relatório indicou que aproximadamente 88% das empresas já utilizam alguma forma de inteligência artificial (IA) na triagem de candidatos.
Riscos da Utilização de IA
A IA pode ser uma ferramenta incrivelmente útil para os empregadores na otimização e personalização dos processos de contratação, mas seu uso não é isento de riscos. Considere uma plataforma online que combina a postagem de emprego de um empregador com as credenciais de um candidato e prioriza os candidatos para revisão com base em uma avaliação algorítmica de quão forte é a correspondência. Embora isso soe como uma maneira conveniente e lógica de filtrar um grupo de candidatos, esses são exatamente os instrumentos em questão em um processo judicial que alegou discriminação ilegal contra candidatos a emprego.
Um dos casos em destaque envolve um indivíduo que alegou ter sido rejeitado repetidamente por empregadores que utilizavam ferramentas de contratação baseadas em IA. Ele argumentou que essas ferramentas impactaram negativamente sua posição devido a características protegidas e incorporaram preconceitos de empregadores anteriores. Além disso, alegou que essas ferramentas afetaram uma ampla classe de candidatos e apresentou reivindicações sob a Lei de Discriminação na Idade, a Lei dos Direitos Civis e a Lei dos Americanos com Deficiências.
Implicações e Riscos
O caso mencionado serve como um aviso sobre os riscos envolvidos na utilização de ferramentas de IA em tarefas de recrutamento e contratação. Processos judiciais alegando discriminação contra ferramentas de IA estão aumentando desde 2022 e não mostram sinais de diminuição. Mesmo empregadores bem-intencionados podem estar expostos, uma vez que é difícil avaliar a conformidade dos empregadores quando se trata de sistemas algorítmicos que criam resultados não transparentes.
Uma certeza emergente é que os empregadores não podem se esconder atrás da natureza automatizada de suas ferramentas de contratação, sob o risco de engajar-se em discriminação ilegal (embora não intencional). Embora o processo judicial seja contra a empresa por trás das ferramentas de IA, outros processos implicaram os empregadores como partes responsáveis pelas decisões de contratação baseadas em ferramentas de IA supostamente discriminatórias.
Recomendações para Empregadores
Os empregadores devem buscar entender como uma ferramenta é projetada para avaliar e como foi treinada e testada para preconceitos antes de delegar qualquer processo de contratação a ela. Devem utilizar apenas ferramentas que forneçam informações sobre por que um candidato foi priorizado ou despriorizado, em vez de ferramentas que tomam decisões sem explicação. Avaliações regulares da funcionalidade e dos resultados das ferramentas de contratação por IA são essenciais para manter a consciência sobre se a IA está se engajando em avaliações potencialmente discriminatórias.
A IA deve ser usada como uma ajudante e não como uma fonte de autoridade. As decisões finais devem ser sempre deixadas nas mãos de pessoas reais por trás dos procedimentos de contratação de um empregador. Buscar eficiência e valor na contratação não é ilegal; é uma prática comercial inteligente. No entanto, o caso mencionado e o cenário rapidamente evolutivo da IA lembram os empregadores que existem riscos a serem considerados.
Conclusão
Manter supervisão e buscar clareza em todo o processo de contratação ajudará os empregadores a navegar as armadilhas potenciais e garantir que suas práticas resultem em candidatos ideais sem deixar ninguém de fora da equação.
