Legisladores da UE e Líderes da Indústria de Tecnologia Tomam Medidas para Facilitar a Conformidade sob a Lei de IA da UE
Os deepfakes podem ser criados e utilizados para diversos fins. Se revelados como deepfakes e a criação não violar outras leis aplicáveis, a existência do deepfake geralmente não levanta preocupações para os legisladores. O princípio orientador é se a existência do deepfake viola a privacidade ou os direitos de propriedade intelectual de alguém, ou se o deepfake engana consumidores, o público em geral ou indivíduos notáveis que não foram devidamente avisados.
No entanto, existem preocupações em relação à ameaça que essa tecnologia representa para a segurança e a privacidade, devido ao seu poder de compartilhar desinformação e influenciar comportamentos por meio da enganação. Sua capacidade de impersonar pessoas e causar danos à reputação corporativa e pessoal, além de servir como veículo para golpistas extraírem grandes quantidades de dinheiro de indivíduos e instituições, a posiciona como um terreno fértil para desestabilizar a confiança pública.
Os arquivos de deepfake aumentaram drasticamente de 500 mil dólares em 2023 para 8 milhões de dólares em 2025. Juntamente com a proliferação desses arquivos, houve um alarmante aumento de 3.000% nas tentativas de fraude em 2023. Em 2024, os incidentes de deepfake ocorreram a uma taxa de um a cada 5 minutos e projeta-se que as perdas financeiras apenas nos EUA, facilitadas pela IA generativa, aumentem de 12,3 bilhões de dólares em 2023 para 40 bilhões de dólares até 2027, uma taxa de crescimento anual composta de 32%.
A crescente má utilização dos deepfakes e o risco crescente aos direitos do consumidor, da privacidade e da propriedade intelectual geraram preocupações nas comunidades internacionais. Em resposta, legisladores em todo o mundo instituíram várias leis abordando os direitos considerados mais vulneráveis a violações por deepfakes. O foco atual das leis promulgadas e propostas para regular os deepfakes gira em torno de:
- Transparência (etiquetagem de conteúdo gerado por IA),
- Consentimento (permissão da pessoa cuja imagem foi publicada, replicada ou manipulada pela ferramenta de IA), e
- Exigências de remoção (impostas a empresas e plataformas que publicam conteúdo deepfake).
A Lei de IA da UE
A Lei de IA da UE, o primeiro conjunto de leis a fornecer uma estrutura legal para abordar os riscos associados à IA, entrou em vigor em agosto de 2024 e pede uma abordagem faseada para a implementação. Desde a sua promulgação, a Lei atraiu atenção e provocou discussões que vão desde seu potencial de estabelecer um precedente para futuras leis de IA em todo o mundo até críticas sobre a superregulamentação e a ameaça que representa à inovação no espaço tecnológico. Atenta às preocupações levantadas pela indústria de tecnologia de que a Lei impõe responsabilidades onerosas e orientações vagas para conformidade e pode impedir a UE de manter uma competitividade em relação a outros países, a Comissão Europeia propôs um “Pacote de Simplificação Digital” visando agilizar as regras sob a Lei.
A parte “Digital Omnibus” do pacote modifica a Lei de uma maneira que visa proporcionar uma aplicação mais previsível e eficiente dos requisitos da Lei. Além disso, a Comissão agendou proativamente reuniões com grupos da indústria de tecnologia para discutir especificamente os requisitos de etiquetagem sob a lei da UE, que entrarão em vigor em agosto de 2026. Para garantir que as plataformas responsáveis pela conformidade entendam como se adequar, os reguladores estão trabalhando com integrantes da indústria tecnológica para estabelecer um conjunto de protocolos, conhecido como um código de prática, que fornecerá às empresas orientações sobre como podem cumprir a lei. As duas partes negociarão os termos do código voluntário nos próximos meses, com o primeiro rascunho sendo publicado em dezembro de 2025, seguido por um segundo rascunho em junho e o final em agosto de 2026.
Como as estruturas regulatórias variam de país para país, as empresas que operam em um cenário internacional devem alinhar-se a todos os requisitos nas jurisdições onde possuem presença comercial. Para negócios operando em qualquer um dos países da UE, a atenção aos requisitos da Lei de IA da UE é de extrema importância. Mesmo que as empresas não operem nessas localidades, a Lei é frequentemente referenciada e tem o potencial de servir como modelo para legislação em outras jurisdições, semelhante à influência tremenda e em cascata do GDPR.
Destacando a importância que todas as partes estão atribuindo a facilitar um caminho suave para a conformidade sob a Lei, empresas de tecnologia concorrentes se uniram para formar a Coalizão para Proveniência e Autenticidade de Conteúdo, criando uma técnica para codificar informações sobre a origem do conteúdo e se ele é gerado por IA nos metadados. Juntamente com o avanço da tecnologia de IA, é provável que vejamos mais inovadores utilizando a inovação para simplificar a conformidade regulatória.
