Investigação da UE sobre imagens sexualizadas do Grok
Em 26 de janeiro, foi anunciado que a plataforma social enfrenta uma investigação da União Europeia para determinar se dissemina conteúdo ilegal, após a repercussão pública sobre a divulgação de imagens sexualizadas manipuladas pelo chatbot Grok.
A investigação da Comissão Europeia
A Comissão Europeia, o órgão executivo do bloco de 27 nações, declarou que investigará se a plataforma está protegendo os consumidores adequadamente ao avaliar e mitigar os riscos relacionados às funcionalidades do Grok.
A investigação surge duas semanas após o regulador britânico de mídia iniciar sua própria apuração sobre a criação de imagens deepfake sexualmente íntimas, além de intervenções temporárias de vários países na utilização do chatbot.
A Comissão classificou as imagens geradas pela IA que mostravam mulheres e crianças nuas como ilegais e chocantes, juntando-se às condenações globais. A chefe de tecnologia da UE descreveu as deepfakes não consensuais como uma forma inaceitável de degradação.
A resposta da plataforma
A plataforma declarou que restringiu a edição de imagens para os usuários do Grok e bloqueou usuários em regiões onde a geração de imagens de pessoas em roupas reveladoras é ilegal, embora não tenha especificado os países.
Alguns países restabeleceram o acesso ao Grok após a implementação de medidas de segurança adicionais.
Implicações e riscos da investigação
A ação da Comissão, conforme a Lei de Serviços Digitais da UE, visa garantir que grandes plataformas de tecnologia façam mais para combater conteúdo online ilegal e prejudicial. Empresas que violarem essa lei podem enfrentar multas de até 6% de seu faturamento global anual.
Embora as mudanças feitas pela plataforma tenham sido bem recebidas, elas não resolvem todos os problemas e riscos sistêmicos, conforme mencionado por um oficial sênior da Comissão. Acredita-se que a plataforma não tenha realizado uma avaliação ad hoc ao implementar as funcionalidades do Grok na Europa.
Conclusão
A investigação não apenas poderá afetar a plataforma, mas também pode provocar uma reação negativa da administração de novos líderes, aumentando as tensões em torno da regulamentação de grandes tecnologias. Legisladores europeus destacaram a necessidade de um marco regulatório dinâmico que possa responder a lacunas na aplicação das leis de IA.
