Europa Avança para Proibir Ferramentas de Nudificação por IA sob o Ato de IA Atualizado
A União Europeia está se aproximando da atualização de seu marco regulatório, com novas emendas propostas pelo Conselho Europeu visando simplificar regulamentos enquanto aborda riscos emergentes da inteligência artificial.
Atualizações Propostas no Ato de IA da UE
O Conselho divulgou sua posição sobre as atualizações do Ato de IA da UE, incluindo uma nova proibição de ferramentas de nudificação por IA e padrões mais rigorosos sobre o uso de dados pessoais sensíveis. Essa proposta faz parte do pacote legislativo mais amplo “Omnibus VII”, que visa simplificar o quadro regulatório digital da UE e reduzir a carga de conformidade para as empresas.
Embora as mudanças pretendam tornar as regras mais práticas para as empresas, as emendas também refletem preocupações crescentes sobre o uso indevido das tecnologias de IA e a necessidade de salvaguardas mais robustas.
Proibições e Safeguards para Conteúdo Prejudicial de IA
Uma das mudanças mais significativas propostas é a proibição direcionada a ferramentas de IA capazes de gerar imagens sexuais ou íntimas não consensuais. O Conselho afirma que a nova disposição proíbe explicitamente “práticas de IA relacionadas à geração de conteúdo sexual e íntimo não consensual ou material de abuso sexual infantil.” Essa medida surge à medida que reguladores na Europa enfrentam os danos causados por conteúdos gerados por IA, como deepfakes.
Regulamentações de Sistemas de IA de Alto Risco
Além da nova proibição, as reformas propostas também ajustam o cronograma para a implementação de regras sobre sistemas de IA de alto risco. O prazo para sistemas de IA autônomos de alto risco foi alterado para 2 de dezembro de 2027, e para sistemas de alto risco incorporados em produtos, para 2 de agosto de 2028. Essas extensões visam fornecer orientações mais claras e tempo suficiente para que as organizações se preparem, garantindo que a estrutura regulatória permaneça aplicável.
O Conselho também restabeleceu a exigência de que provedores registrem sistemas de IA no banco de dados da UE para tecnologias de alto risco, mesmo quando as empresas acreditam que seus sistemas qualifiquem para isenções. Essa medida tem como objetivo fortalecer a transparência e a supervisão sob o Ato de IA da UE.
Proteções Mais Fortes para Dados Sensíveis
Outra emenda importante foca em como as organizações processam dados pessoais sensíveis ao desenvolver ou testar sistemas de IA. A proposta do Conselho restaura o padrão de “necessidade estrita” para o uso de categorias especiais de dados pessoais em processos de detecção e correção de viés. Isso significa que as organizações devem justificar claramente por que tais dados são necessários antes de usá-los para melhorar a justiça algorítmica.
Objetivos de Simplificação e Conclusão
O objetivo mais amplo por trás das emendas propostas é simplificar a complexa rede de regulamentos digitais que afetam as empresas na UE. A proposta busca trazer maior clareza legal, tornar as regras mais proporcionais e garantir uma implementação mais harmonizada entre os Estados-membros.
Com o Conselho adotando oficialmente sua posição de negociação, as discussões avançarão para a próxima etapa. Embora o processo possa envolver revisões, os últimos desenvolvimentos sinalizam que a Europa está comprometida em moldar a governança global da IA, equilibrando inovação, competitividade empresarial e salvaguardas contra riscos tecnológicos emergentes.
