Trabalhadores contestam ferramentas de contratação baseadas em IA em ação coletiva
Os trabalhadores estão ficando frustrados com as práticas de contratação baseadas em IA. Uma nova ação coletiva movida na Califórnia alega que candidatos humanos estão sendo injustamente perfilados por tecnologias de contratação de IA “ocultas” que coletam informações “sensíveis e muitas vezes imprecisas” sobre candidatos a emprego “desavisados”.
A ação se concentra especificamente em uma empresa de tecnologia, alegando que as ferramentas utilizadas deveriam ser regulamentadas da mesma forma que os bureaus de crédito são por meio da Lei de Relato Justo de Crédito (FCRA) e leis estaduais baseadas nela.
Implicações amplas da ação
O caso pode ter implicações abrangentes para o uso crescente de IA em contratações. Especialistas afirmam que essa ação representa um ponto de virada, indicando que a IA não está sendo apenas examinada pelo que faz, mas também por como faz e se as pessoas estão cientes de que isso está acontecendo com elas.
A ação foi movida no Tribunal Superior da Califórnia por um escritório de advocacia, em nome de dois indivíduos que alegam ter sido impedidos de emprego por empresas que utilizam ferramentas de contratação baseadas em IA. A queixa afirma que a empresa violou leis federais e estaduais de crédito e consumo ao coletar dados sobre candidatos e vender relatórios para uso nas decisões de emprego.
Práticas questionáveis de coleta de dados
A empresa em questão se apresenta como uma “fonte de dados de talento autoatualizável”, incorporando bilhões de pontos de dados globais, incluindo títulos de emprego e perfis de trabalhadores. Os processos utilizados para analisar dados de recursos públicos, como sites de carreira e bancos de currículos, levantam preocupações sobre a precisão e a transparência das informações coletadas.
Os algoritmos de IA então classificam a “adequação” de um candidato em uma escala numérica baseada em inferências sobre seu ajuste cultural e trajetória de carreira futura. No entanto, esses relatórios são “invisíveis” para os candidatos, que não têm a oportunidade de contestar seu conteúdo antes que sejam enviados aos gerentes de contratação.
Riscos e desafios do uso de IA
O uso de tecnologias de triagem automatizadas levanta questões sobre a equidade e a transparência nas decisões de contratação. A ação alega que a metodologia de criação de relatórios viola os requisitos da FCRA, que define relatórios de consumo como qualquer comunicação que inclua informações sobre uma pessoa para determinar seu acesso a crédito e emprego.
A ação também ressalta a necessidade de que empresas como a mencionada divulguem suas práticas, obtenham certificações e ofereçam aos consumidores um mecanismo para revisar e corrigir relatórios.
Conclusão
Esta ação legal expõe uma “falha de governança” e uma “lacuna fundamental de responsabilidade” no uso de IA na contratação. Especialistas alertam que, se os tribunais concordarem que as avaliações de IA funcionam como relatórios de crédito, as práticas de contratação serão empurradas para um território regulamentado. Isso exigirá que as empresas estabeleçam clareza e regras em torno da notificação, transparência e direitos de auditoria.
A IA pode ser valiosa em várias etapas do processo de contratação, mas quando se trata de julgamentos sobre candidatos, as coisas se tornam problemáticas. A responsabilidade nas decisões de contratação deve ser restaurada ao ser humano, que deve atuar como um agente responsável e não apenas como um observador passivo.
