Estudo sobre a Implementação da Lei de IA da UE no Ambiente de Trabalho
A utilização de sistemas de gestão algorítmica e decisão nos ambientes de trabalho tem se tornado cada vez mais comum nos últimos anos. Uma pesquisa recente da OCDE indicou que mais de 70% dos gestores consultados relataram que suas empresas utilizam pelo menos uma ferramenta automatizada para instruir, monitorar ou avaliar funcionários. Este aumento no uso é compreensivelmente acompanhado por preocupações.
Uma pesquisa realizada pela Comissão Europeia evidenciou o apoio esmagador dos trabalhadores por regras que regulamentem o uso da IA no ambiente de trabalho, endossando solicitações anteriores da Confederação Europeia de Sindicatos para uma Diretiva sobre sistemas algorítmicos que aborde os desafios emergentes.
A Lei de IA da UE
A Lei de IA da UE, a primeira regulamentação abrangente sobre IA, reconhece os riscos envolvidos na implementação de sistemas de IA nos ambientes de trabalho e estabelece obrigações específicas para garantir a proteção dos trabalhadores. Essas obrigações incluem proibições e salvaguardas, variando em níveis de sucesso.
Este estudo analisa os aspectos específicos da Lei de IA mais relevantes no contexto do emprego e os direitos dos trabalhadores à luz da legislação da UE que protege os trabalhadores.
Obrigações dos Empregadores
Os empregadores que utilizam sistemas de IA no local de trabalho são considerados deployer (implantadores) de um sistema de IA, independentemente de o sistema ser desenvolvido internamente ou adquirido para uso.
Sistemas de IA Proibidos
Em linha com sua abordagem baseada em riscos, a Lei de IA proíbe várias práticas que considera de risco inaceitável, muitas das quais são relevantes para o ambiente de trabalho. A proibição do uso de sistemas de reconhecimento emocional no trabalho é uma das que se relaciona explicitamente ao contexto de emprego.
A Lei proíbe sistemas de categorização biométrica que deduzem atributos como raça ou afiliação a sindicatos, o que pode levar a consequências negativas para o trabalhador. Além disso, o uso de sistemas de reconhecimento emocional é principalmente proibido em ambientes de trabalho, exceto quando utilizado para razões médicas ou de segurança.
Proteções Limitadas contra Sistemas de Alto Risco
A maior parte da Lei de IA é dedicada à regulamentação do desenvolvimento e implantação de sistemas de IA de alto risco, que são permitidos, mas sujeitos a salvaguardas. Um sistema de IA pode ser considerado de alto risco se estiver listado no Anexo III da Lei, incluindo sistemas aplicados em recrutamento, promoções, monitoramento e avaliação de desempenho.
É importante ressaltar que a classificação de alto risco é essencial para que as principais proteções de direitos fundamentais sejam acionadas. Os sistemas de alto risco estão sujeitos a obrigações de gestão de riscos, que incluem a identificação de riscos que o sistema pode representar para a saúde e segurança dos trabalhadores.
Obrigações de Transparência
A Lei de IA impõe obrigações gerais de transparência para os empregadores que utilizam sistemas de alto risco. Isso inclui o dever de informar os representantes dos trabalhadores e os trabalhadores afetados sobre a implementação de um sistema de IA antes que esse sistema seja colocado em prática.
Além disso, os empregadores que são autoridades públicas têm obrigações adicionais, como a realização de uma avaliação de impacto de direitos fundamentais antes da implementação de sistemas de IA de alto risco.
Remédios e Governança
A Lei de IA prevê apenas um número limitado de remédios, disponíveis apenas para indivíduos afetados por um sistema de IA de alto risco. Isso inclui o direito a uma explicação clara sobre as decisões tomadas com base na saída de um sistema de IA de alto risco.
Os indivíduos também têm o direito de apresentar reclamações a uma autoridade nacional de vigilância do mercado se considerarem que alguma parte da Lei de IA foi infringida, independentemente de terem sido pessoalmente afetados.
Conclusão
Em suma, enquanto a abordagem de harmonização mínima da Lei de IA no contexto do emprego é um passo positivo, permitindo que leis mais favoráveis se apliquem, a regulamentação em si possui um potencial limitado para proteger os direitos dos trabalhadores. As contribuições principais incluem a restrição do uso de reconhecimento emocional, a criação de obrigações de aviso e mecanismos de explicação.
É vital que as organizações da sociedade civil e os movimentos de direitos dos trabalhadores sejam engajados de maneira significativa nos processos de implementação e fiscalização da Lei de IA.
