Controvérsia do Grok AI
A plataforma de mídia social X reconheceu falhas em seus padrões de moderação de conteúdo, segundo fontes governamentais. A empresa informou que operará em total conformidade com todas as leis e regulamentos aplicáveis na Índia. Como parte das medidas corretivas, a X já bloqueou 3.500 peças de conteúdo e deletou mais de 600 contas. Além disso, a plataforma garantiu às autoridades que não permitirá imagens obscenas no X daqui para frente.
Medidas do Ministério da Eletrônica e Tecnologia da Informação
Na semana passada, o Ministério de Eletrônica e Tecnologia da Informação enviou um aviso ao responsável pela conformidade da X, solicitando um relatório detalhado das ações tomadas em um prazo de 72 horas para garantir a conformidade ou prevenir a hospedagem, geração, publicação, transmissão, compartilhamento ou upload de conteúdo obsceno, nu, indecente e sexualmente explícito através do uso indevido de serviços baseados em IA como o Grok.
No comunicado, o ministério direcionou a plataforma a abster-se estritamente de permitir conteúdo que seja “obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedofílico ou de outra forma proibido por qualquer lei em vigor”. A falha em observar tais obrigações de diligência resultará na perda da isenção de responsabilidade e poderá levar a ações legais conforme previsto na legislação.
Reações e Críticas
Enquanto isso, uma parlamentar criticou a plataforma X por restringir a geração de imagens problemáticas e sexualizadas através do Grok apenas para usuários pagos, em vez de interrompê-la totalmente. Ela alegou que essa medida efetivamente permite o uso não autorizado de imagens de mulheres e crianças, colocando-as em risco. A crítica sugere que a plataforma parece estar monetizando comportamentos reprováveis sob a aparência de criatividade e inovação, chamando isso de “uso vergonhoso da IA”.
Além disso, a Indonésia se tornou o primeiro país a suspender completamente o acesso ao Grok, em meio a crescentes preocupações globais sobre o uso indevido da IA para criar imagens sexualizadas sem consentimento.
