Conformidade com a IA: Um Lembrete Rápido
A inteligência artificial (IA) está reformulando a sociedade moderna, permitindo a automação e modificação de atividades humanas rotineiras e, consequentemente, aumentando a eficiência e a produtividade. Como qualquer desenvolvimento tecnológico, a IA apresenta tanto benefícios quanto riscos.
As preocupações em torno da IA incluem possíveis viéses, invasões de privacidade e dilemas éticos.
De acordo com o Relatório de Índice de Inteligência Artificial 2024, uma pesquisa da Ipsos realizada em 2023 revelou que 66% dos entrevistados acreditam que a IA mudará significativamente suas vidas em um futuro próximo, enquanto 54% acreditam que os benefícios superam as desvantagens. No entanto, o sentimento público é misto: 52% relataram sentir-se nervosos em relação aos produtos e serviços de IA, com um aumento de 13% em relação a 2022. Globalmente, as maiores preocupações giram em torno do uso indevido da IA para fins prejudiciais (49%), seu impacto no emprego (49%) e possíveis violações de privacidade (45%).
As autoridades em todo o mundo estão tentando acompanhar o rápido desenvolvimento da IA e mitigar os riscos e preocupações públicas associadas por meio de regulamentações. Um exemplo marcante é a Lei de IA da UE, que constitui a primeira estrutura legal focada em IA para o desenvolvimento, implantação e uso de sistemas de IA e modelos de IA de uso geral. A Lei de IA da UE entrou em vigor em 1º de agosto de 2024, com o primeiro conjunto de regras impactantes entrando em vigor em 2 de fevereiro de 2025, focando em (1) sistemas de IA proibidos e (2) obrigações de alfabetização em IA.
Sistemas de IA Proibidos
De acordo com a Lei de IA da UE, certos sistemas de IA são proibidos devido ao risco inaceitável para os direitos fundamentais. Estes incluem sistemas de IA que:
- Usam técnicas subliminares, manipulativas ou enganosas que distorcem o comportamento e prejudicam a tomada de decisões, causando danos significativos;
- Exploram vulnerabilidades relacionadas à idade, deficiência ou status socioeconômico para distorcer o comportamento, levando a danos;
- Fornecem categorização biométrica para inferir ou deduzir status em grupos sensíveis;
- Fornecem pontuação social que resulta em tratamento injusto ou prejudicial com base em comportamentos ou características pessoais;
- Fornecem avaliação de risco criminal com base em perfil ou traços de personalidade;
- Criam bancos de dados de reconhecimento facial por meio de raspagem em massa da internet ou imagens de CCTV;
- Fornecem reconhecimento de emoções no local de trabalho ou na educação;
- Conduzem identificação biométrica remota em tempo real em espaços públicos para fins de aplicação da lei.
Essas proibições vêm com certos qualificadores, bem como isenções relacionadas à segurança e aplicação. Para garantir a aplicação consistente e uniforme da Lei de IA da UE nesse aspecto, em fevereiro de 2025, a Comissão Europeia publicou duas diretrizes draft: (1) as Diretrizes sobre a definição de sistemas de IA e (2) as Diretrizes sobre práticas de IA proibidas.
Alfabetização em IA e Conformidade
A alfabetização em IA é outro aspecto crucial da Lei de IA da UE que faz parte de uma estrutura de governança. Isso significa que os empregadores devem garantir que seus funcionários envolvidos na implantação de IA compreendam como esses sistemas funcionam, os riscos associados e quaisquer desafios potenciais que eles apresentem.
O Artigo 4 da Lei de IA da UE exige que os provedores e implantadores de sistemas de IA adotem medidas para garantir que seu pessoal associado possua alfabetização em IA suficiente, “levando em consideração seu conhecimento técnico, experiência, educação e treinamento, e o contexto em que os sistemas de IA serão utilizados, considerando as pessoas ou grupos de pessoas sobre os quais os sistemas de IA serão utilizados”. O objetivo dessa obrigação é fomentar uma cultura de uso responsável da IA, apoiando a conformidade e a inovação.
Este artigo serve como um breve lembrete da necessidade de cumprir os requisitos regulatórios. Para mais detalhes sobre conformidade e as etapas a serem seguidas, é essencial consultar publicações relevantes sobre a Lei de IA da UE.
