Diretrizes da Comissão da UE sobre Práticas de IA Proibidas sob a Lei de IA da UE
Em 4 de fevereiro de 2025, a Comissão Europeia (CE) emitiu diretrizes preliminares que esclarecem as práticas de IA que são proibidas sob a Lei de Inteligência Artificial (IA) da União Europeia (UE). Embora não sejam vinculativas, as diretrizes oferecem esclarecimentos valiosos e exemplos práticos para ajudar as empresas a navegar em suas obrigações sob a Lei de IA. A CE aprovou as diretrizes preliminares, que devem ser formalmente adotadas em breve.
Contexto
As disposições da Lei de IA sobre práticas de IA proibidas entraram em vigor em 2 de fevereiro de 2025, juntamente com outras disposições relacionadas à alfabetização em IA. O Artigo 5 da Lei de IA proíbe certas práticas de IA que são consideradas de risco inaceitável, como sistemas de IA que manipulam ou exploram indivíduos, realizam pontuação social ou inferem emoções de indivíduos no local de trabalho ou na educação. A proibição se aplica tanto a empresas que oferecem tais sistemas de IA quanto àquelas que os utilizam.
Práticas de IA Proibidas
Abaixo, um resumo das principais proibições sob a Lei de IA, conforme interpretadas pelas diretrizes:
- Pontuação Social. A Lei de IA proíbe a oferta ou uso de sistemas de IA que avaliam comportamentos sociais de indivíduos para determinar seu tratamento em um contexto não relacionado. Por exemplo, sistemas de IA usados para recomendar o preço de um prêmio de seguro ou para avaliar a solvência de pessoas poderiam ser considerados como pontuação social, se a avaliação basear-se em características pessoais não relacionadas.
- Manipulação e Exploração. A Lei de IA proíbe a oferta ou uso de sistemas de IA que utilizam técnicas subliminares ou exploram vulnerabilidades individuais para influenciar seu comportamento e causar danos. Exemplos incluem o uso de IA em jogos para incentivar o jogo excessivo e o uso compulsivo, explorando vulnerabilidades de crianças.
- Reconhecimento Facial e Identificação Biométrica. A Lei de IA proíbe a prática de construir bancos de dados de reconhecimento facial através da coleta indiscriminada de imagens da internet ou de filmagens de CCTV. A coleta de dados que não sejam imagens faciais, como amostras de voz, não é coberta pela proibição.
- Reconhecimento de Emoções em Locais de Trabalho e Instituições Educacionais. O uso de IA para reconhecer emoções em ambientes de trabalho e educacionais é geralmente proibido. Exemplos incluem centros de atendimento ao cliente que usam webcams para rastrear emoções dos funcionários.
- Categorização Biométrica. A categorização de indivíduos com base em atributos sensíveis, como raça ou orientação sexual, usando dados biométricos, é proibida. A proibição não se estende a casos onde a categorização é puramente técnica e necessária para um serviço comercial.
Responsabilidades dos Fornecedores de IA
As diretrizes estipulam que os fornecedores de sistemas de IA são responsáveis por não liberar um sistema que seja “provavelmente” usado para um propósito proibido, além de adotar salvaguardas para prevenir o uso indevido razoavelmente previsível. A CE espera que os fornecedores excluam claramente o uso de seus sistemas de IA para práticas proibidas em seus termos e forneçam instruções claras para uso.
Próximos Passos
As empresas que se envolvem em práticas de IA proibidas podem enfrentar multas significativas, que podem chegar a 35 milhões de euros ou sete por cento de seu faturamento global anual, o que for maior. As primeiras ações de aplicação da lei devem começar no segundo semestre de 2025, conforme os países da UE finalizam seus regimes de aplicação.
As empresas que oferecem ou usam IA na UE devem revisar seus sistemas de IA e termos à luz dessas diretrizes e abordar quaisquer lacunas de conformidade no primeiro semestre de 2025.
