A Lei de IA da UE: Proibição de IA e Regras de Alfabetização em IA Agora em Vigor
Com a aprovação do primeiro grande prazo de conformidade da Lei de IA da UE em 2 de fevereiro de 2025, os reguladores da UE oficialmente baniram certas aplicações de IA de alto risco. As empresas que desenvolvem ou implantam sistemas de IA devem agora implementar medidas para garantir que a equipe que opera esses sistemas possua um nível suficiente de alfabetização em IA.
Práticas de IA Proibidas
O Artigo 5 da Lei de IA da UE proíbe aplicações de IA que apresentem riscos inaceitáveis aos direitos fundamentais e aos valores centrais da União. Especificamente, a lei proíbe a venda (“colocação no mercado”), implantação (“colocação em serviço”) ou uso de qualquer sistema de IA que:
- Utilize técnicas subliminares, manipulativas ou enganosas que distorçam o comportamento de uma pessoa ou prejudiquem sua tomada de decisão;
- Exploite vulnerabilidades de uma pessoa ou grupo de pessoas com base em idade, deficiência ou status socioeconômico;
- Avalie indivíduos ou grupos com base em seu comportamento social ou traços de personalidade, resultando em tratamento prejudicial ou injusto;
- Avalie ou preveja o risco de uma pessoa cometer um crime com base apenas em perfis ou avaliações de seu comportamento;
- Crie ou expanda bancos de dados de reconhecimento facial através da coleta indiscriminada de imagens faciais da internet ou CCTV;
- Infira as emoções de um indivíduo no trabalho ou em uma instituição educacional;
- Use categorização biométrica para atribuir indivíduos com base em seus dados biométricos;
- Coleta de dados biométricos “em tempo real” em espaços públicos para fins de aplicação da lei.
As proibições incluem uma isenção específica para o uso de sistemas de IA projetados para inferir emoções em ambientes de trabalho ou educacionais, mas apenas para fins médicos ou de segurança. Essa exceção reflete o compromisso dos reguladores em equilibrar a inovação em IA com a proteção dos direitos do consumidor.
Requisitos de Alfabetização em IA
As disposições de alfabetização em IA sob o Artigo 4 da Lei de IA da UE também entraram em vigor em 2 de fevereiro de 2025. Sob essas novas obrigações, provedores e implementadores de – aparentemente todos – os sistemas de IA devem garantir um nível “suficiente” de alfabetização em IA entre seu pessoal. A alfabetização em IA é definida como as habilidades, conhecimentos e compreensão necessários para tomar decisões informadas sobre a implantação de sistemas de IA e para ter consciência das oportunidades, riscos e potenciais danos que esses sistemas podem causar.
Esse padrão subjetivo se aplica a todo o pessoal envolvido na operação e uso do sistema de IA em nome da organização, independentemente de seu conhecimento técnico, experiência, educação ou treinamento.
Próximos Passos
O primeiro passo será avaliar e documentar se sua empresa está utilizando alguma aplicação de IA proibida sob o Artigo 5 da Lei de IA da UE. Se sim, a próxima prioridade é envolver as partes interessadas, começar a descontinuar os sistemas de IA aplicáveis e, em última instância, interromper seu uso.
Ao longo desse processo, é aconselhável estabelecer procedimentos para identificar futuras iniciativas de IA que possam se cruzar com a proibição, implementar treinamento para funcionários para garantir uma compreensão básica de conformidade entre as equipes e coordenar com os provedores de serviços para manter uma abordagem consistente em relação à adesão regulatória.
Mesmo que as proibições específicas não se apliquem aos casos de uso de IA da sua organização, os requisitos de alfabetização em IA abrangem uma gama muito mais ampla de atividades de IA. Se ainda não estiverem em vigor, esta é uma oportunidade de colaborar com equipes internas para desenvolver governança abrangente em IA, materiais educacionais, programas de treinamento e salvaguardas contra o uso indevido.
