Governo exige ação da plataforma X sobre ‘repugnantes’ deepfakes do Grok AI
O governo solicitou que a plataforma de mídia social X tome medidas rapidamente após seu chatbot de IA, Grok, ter sido usado para gerar imagens sexualizadas de mulheres e crianças sem o seu consentimento. A Secretária de Tecnologia descreveu a situação como “absolutamente repugnante” e afirmou que o governo não tolerará a disseminação de conteúdos degradantes e abusivos.
Ela enfatizou que a proliferação dessas imagens não pode e não será permitida, e que as plataformas possuem um claro dever legal de agir. A intervenção ocorreu após “contato urgente” feito pelo regulador de mídia com a X e sua subsidiária de IA, xAI, devido a preocupações de que o Grok estava produzindo o que o regulador descreveu como “imagens despidas” de pessoas reais.
Ação do regulador
Um porta-voz do regulador afirmou que, com base na resposta recebida, será realizada uma avaliação rápida para determinar se há questões de conformidade que justifiquem uma investigação. A Secretária de Tecnologia apoiou totalmente a abordagem do regulador e qualquer ação de enforcement que possa ser tomada. Ela destacou que a questão é sobre fazer cumprir a lei, não sobre limitar a liberdade de expressão.
Prioridades do governo
O governo priorizou a legislação sobre abuso de imagens íntimas e cyberflashing sob a Lei de Segurança Online, incluindo casos em que imagens são geradas usando IA. O Grok é um assistente virtual gratuito, com alguns recursos premium, que responde a comandos dos usuários quando é mencionado em postagens na plataforma.
Preocupações crescentes
As preocupações aumentaram desde que a X introduziu um botão de “Editar Imagem”, que permite aos usuários alterar imagens usando comandos de texto, mesmo que não tenham carregado a fotografia original e sem o consentimento da pessoa mostrada. Várias mulheres cujas imagens foram alteradas dessa forma descreveram a experiência como desumanizadora.
Um usuário frequente expressou que começou a ver fotos do dia a dia que havia postado na plataforma sendo sexualizadas através do Grok, o que a deixou se sentindo “humilhada” e com medo por sua segurança pessoal.
Responsabilidade da plataforma
A plataforma afirmou que toma medidas contra conteúdo ilegal, incluindo material de abuso sexual infantil. Qualquer um que use ou solicite ao Grok a criação de conteúdo ilegal sofrerá as mesmas consequências que se tivesse carregado conteúdo ilegal. O líder de um partido político pediu ao governo que tome medidas rápidas para impedir a criação de imagens sexualizadas usando o chatbot, sugerindo que uma opção poderia ser reduzir o acesso à plataforma se as preocupações forem confirmadas.
Conclusão
A Lei de Segurança Online torna ilegal criar ou compartilhar imagens íntimas ou sexualmente explícitas sem o consentimento da pessoa, incluindo aquelas geradas por IA. A lei também exige que as empresas de tecnologia adotem medidas apropriadas para limitar a exposição dos usuários a esse tipo de material e removê-lo rapidamente uma vez identificado.
