Desafios enfrentados pelos empregadores ao usar aplicações de IA
As aplicações de Inteligência Artificial (IA) têm revolucionado o processo de recrutamento, permitindo que os empregadores automatizem quase todos os aspectos da candidatura, desde a criação de anúncios de emprego até a análise de documentos de candidatura e a seleção de candidatos. Embora o uso de ferramentas de IA abra numerosas oportunidades para aumentar a eficiência e otimizar os processos de decisão, é crucial observar os requisitos legais associados.
Requisitos legais para o uso de ferramentas de IA no recrutamento
Os dois principais pilares do quadro legal são o Regulamento da IA da UE e o Regulamento Geral sobre a Proteção de Dados (GDPR).
O Regulamento da IA da UE estabelece um quadro jurídico vinculativo em nível europeu, relevante para empregadores que utilizam aplicações de IA. Destacam-se os seguintes aspectos:
- Sistemas de IA de alto risco: Sistemas destinados à seleção ou avaliação de candidatos são considerados de alto risco e, portanto, estão sujeitos a regulamentações especiais. Os empregadores devem garantir que tais sistemas sejam utilizados de forma adequada e monitorados por pessoal qualificado.
- Práticas proibidas: A utilização de ferramentas de IA que reconhecem e avaliam emoções é expressamente proibida, incluindo sistemas que analisam sinais não verbais, como expressões faciais ou gestos em entrevistas por vídeo.
Além disso, o GDPR é relevante para o uso de ferramentas de IA no processo de candidatura. O processamento de dados pessoais deve ser baseado em uma base legal e deve ter um propósito específico. O Artigo 22 do GDPR destaca que os indivíduos têm o direito de não ser submetidos a uma decisão baseada unicamente em processamento automatizado que produza efeitos jurídicos ou os afete significativamente.
Isso implica que deve haver uma supervisão humana, garantindo que as circunstâncias individuais de um candidato sejam consideradas adequadamente no processo de candidatura. Os empregadores devem utilizar sistemas de IA que possam pré-selecionar e avaliar candidaturas, fazendo recomendações, mas a decisão final deve sempre ser tomada por um ser humano.
As violações do Regulamento da IA da UE e do GDPR estão sujeitas a multas altas, sendo que as violações do Regulamento da IA da UE podem resultar em multas de até 15 milhões de euros ou 3% do faturamento global anual. Já as violações do GDPR podem resultar em multas ainda maiores.
Potencial de discriminação através de aplicações de IA
Os empregadores também devem estar cientes de que, mesmo aplicações supostamente objetivas, podem levar a decisões discriminatórias, reproduzindo ou reforçando preconceitos inconscientes, especialmente se os dados de treinamento não forem suficientemente representativos. Por exemplo, se mulheres em posições de gestão estiverem sub-representadas nos dados de treinamento, a ferramenta de IA pode considerar isso como norma, desavantajando sistematicamente candidatas femininas na seleção para cargos de liderança.
A discriminação por IA é frequentemente difícil de detectar, pois variáveis proxy, como local de residência ou histórico educacional, podem ser utilizadas para inferir indiretamente características sensíveis, como gênero ou origem étnica, sem usar diretamente esses dados. Se uma decisão de contratação ou promoção for baseada em uma recomendação que se apoia em tais suposições discriminatórias, isso constituirá uma violação da Lei Geral de Igualdade de Tratamento (AGG). Nestes casos, o candidato terá direito a compensação de acordo com a Seção 15 (2) da AGG.
Conclusão
O uso de ferramentas de IA no processo de candidatura permite que as empresas agilizem e otimizem seus processos. No entanto, os empregadores devem garantir que os sistemas utilizados sejam transparentes, não discriminatórios e em conformidade com as regulamentações de proteção de dados. A realização de verificações regulares dos sistemas, a obtenção de assessoria jurídica e o estabelecimento de mecanismos de controle humano são essenciais para evitar armadilhas legais e para aproveitar plenamente as vantagens da tecnologia.
Este documento é fornecido apenas para fins informativos e não constitui aconselhamento jurídico. É recomendável obter aconselhamento jurídico profissional antes de tomar ou deixar de tomar qualquer ação com base no conteúdo deste documento.
