Governo acusado de procrastinar na lei sobre deepfakes devido à Grok AI
Campanhas têm acusado o governo de demorar na implementação de uma lei que tornaria ilegal a criação de deepfakes sexualizados não consensuais. A controvérsia surgiu em meio a críticas sobre imagens criadas com a IA Grok de Elon Musk, que retira digitalmente roupas das pessoas. Uma mulher relatou que mais de 100 imagens sexualizadas foram criadas dela.
Atualmente, é ilegal compartilhar deepfakes de adultos no Reino Unido, mas uma nova legislação que tornaria crime criar ou solicitar esses conteúdos ainda não está em vigor, apesar de ter sido aprovada em junho de 2025. No entanto, não está claro se todas as imagens criadas pela Grok se enquadrariam nessa lei.
A posição do governo e das autoridades
Em uma declaração, a plataforma X afirmou que “qualquer pessoa que use ou solicite que a Grok crie conteúdo ilegal enfrentará as mesmas consequências que se carregasse conteúdo ilegal”. O Primeiro-Ministro, abordando preocupações sobre imagens sexualizadas de adultos e crianças produzidas pela Grok, chamou a situação de “vergonhosa” e “repugnante”.
O Secretário de Tecnologia pediu à X que “resolvesse isso com urgência”, descrevendo a situação como “absolutamente horrível”. O regulador Ofcom informou que fez contato urgente com a X e a xAI, que desenvolveu a Grok, e está investigando as preocupações.
O Ministério da Justiça declarou que já é um crime compartilhar imagens íntimas nas redes sociais sem consentimento, incluindo deepfakes. Uma disposição na Lei de Dados (Uso e Acesso) de 2025 criminalizou a criação ou a solicitação de “imagens íntimas supostas” – ou deepfakes.
Desafios e impactos
Apesar de um ano desde o anúncio inicial de uma repressão ao delito, o governo ainda não implementou uma disposição legal chave que poderia atingir aqueles que pedem à Grok para criar deepfakes sexualizados de mulheres. Especialistas e ativistas afirmam que essa ofensa “pareceria ser uma boa opção para algumas das imagens criadas com a Grok”, mas ainda não foi colocada em vigor.
Ativistas alertam que não implementar a lei coloca mulheres e meninas em situação de vulnerabilidade. Deepfakes sexualizados não consensuais são uma clara violação dos direitos das mulheres e têm um impacto traumático duradouro sobre as vítimas.
Reações de usuários e a necessidade de ação
Várias mulheres relataram que imagens suas foram transformadas em deepfakes pela Grok. A ferramenta é acessível gratuitamente e permite que os usuários alterem fotos de outras pessoas por meio de prompts. Uma usuária mencionou que, embora tenha começado a receber pedidos para que a Grok a colocasse em biquínis, a atualização recente facilitou esse processo, tornando as imagens mais realistas.
Outra usuária expressou que o fato de a Grok postar automaticamente as imagens alteradas a fez sentir-se como se tivesse sido assediada. Essas experiências têm gerado um sentimento de humilhação e controle sobre suas imagens pessoais.
Conclusão
A situação atual em relação à Grok e à questão dos deepfakes destaca a necessidade urgente de uma regulamentação eficaz e a implementação de leis que protejam os direitos das mulheres. A indústria da tecnologia deve ser responsabilizada por facilitar e lucrar com comportamentos que promovem a violência contra as mulheres e meninas.
