O que a proibição do Grok na Indonésia e na Malásia ensina os Pequenos Estados sobre a governança de plataformas de IA
As restrições temporárias, impostas durante um único fim de semana, ocorreram após os reguladores descobrirem que a plataforma estava sendo usada para gerar imagens deepfake não consensuais de mulheres e crianças.
A Indonésia e a Malásia tornaram-se os primeiros países a bloquear o acesso ao Grok, o chatbot de IA integrado à plataforma de mídia social X. A rapidez da ação oferece lições importantes para formuladores de políticas em toda a região da Ásia-Pacífico, especialmente para aqueles em estados menores que enfrentam desafios na governança de plataformas de IA desenvolvidas e operadas além de suas fronteiras.
O que os reguladores fizeram
O Ministério da Comunicação e Assuntos Digitais da Indonésia impôs um bloqueio temporário no sábado, seguido pela Comissão de Comunicação e Multimídia da Malásia no domingo. O Ministro da Comunicação da Indonésia, Meutya Hafid, apresentou a decisão em termos de direitos humanos, afirmando que os deepfakes sexuais não consensuais representam “uma violação séria dos direitos humanos, dignidade e segurança dos cidadãos no espaço digital.”
O regulador da Malásia citou “uso repetido” do Grok para gerar imagens obscenas e sexualmente explícitas, incluindo conteúdo envolvendo menores. Notificações foram emitidas à empresa responsável, exigindo salvaguardas mais robustas, mas as respostas recebidas se basearam principalmente em mecanismos de denúncia de usuários, que os reguladores consideraram insuficientes. Ambos os países impuseram restrições temporárias enquanto os processos legais e regulatórios continuam, com o acesso permanecendo bloqueado até que salvaguardas eficazes sejam demonstradas.
Respostas globais mais lentas
A resposta global tem sido mais lenta. A UE, Reino Unido, França, Índia e Austrália expressaram preocupação ou abriram investigações, mas nenhum deles restringiu o acesso. A Comissão Europeia ordenou que a empresa preservasse todos os documentos relacionados ao Grok até o final de 2026 e chamou as imagens geradas de “ilegais” e “chocantes”. A Ofcom do Reino Unido fez contato urgente com a empresa. O Ministério de TI da Índia emitiu um ultimato de 72 horas após considerar a resposta inicial insatisfatória. A França encaminhou casos para os promotores. No entanto, a Indonésia e a Malásia permanecem os únicos países a tomar ações diretas em nível de plataforma.
Por que isso é importante para os Pequenos Estados Insulares
Para os Pequenos Estados Insulares (PEIs) ao redor do Oceano Índico, Pacífico e Caribe, essa situação expõe um desafio estrutural na governança digital. Por exemplo, um país como as Maldivas possui uma população de 500.000 habitantes espalhados por 1.200 ilhas. A nação inteira é menor que a força de trabalho de algumas empresas de tecnologia. Em contraste, a Indonésia possui 275 milhões de habitantes e a Malásia 34 milhões, tendo presença de mercado suficiente para chamar a atenção das plataformas.
As opções disponíveis para estados menores quando as plataformas falham em implementar salvaguardas adequadas não devem ser aceitas passivamente, mas sim repensadas sob uma nova abordagem para a governança de plataformas de IA.
Cinco considerações políticas para reguladores de estados pequenos
- 1. Mecanismos de coordenação regional: A Indonésia e a Malásia agiram em dias consecutivos. Os PEIs devem explorar uma coordenação de resposta rápida através de organismos existentes.
- 2. Prontidão do arcabouço legal: Ambos os países tinham instrumentos legais existentes que possibilitaram a ação rápida. Os estados pequenos devem avaliar se suas arquiteturas legais atuais podem responder a danos gerados por IA com a mesma agilidade.
- 3. Infraestrutura pública digital como camada de governança: Países que constroem infraestrutura digital nacional têm a oportunidade de incorporar salvaguardas de IA em nível de plataforma.
- 4. Participação na definição de normas internacionais: Os pequenos estados devem participar ativamente de fóruns para garantir que suas perspectivas informem as estruturas emergentes.
- 5. Conscientização pública como infraestrutura regulatória: A governança eficaz de IA requer cidadãos que compreendam as capacidades e riscos da IA generativa.
A questão da soberania
Um diretor de supervisão digital notou que as descobertas iniciais mostraram que o Grok “não possui salvaguardas eficazes para impedir que os usuários criem e distribuam conteúdo pornográfico com base em fotos reais.” Essa formulação é importante, pois posiciona a questão não apenas como moderação de conteúdo, mas como proteção dos cidadãos contra falhas técnicas de uma plataforma estrangeira.
Para estados pequenos, essa perspectiva de soberania pode ser mais eficaz do que tentar igualar a capacidade regulatória de jurisdições maiores. A lacuna entre a capacidade tecnológica e a capacidade regulatória aumenta a cada dia que a ação é adiada. A Indonésia e a Malásia demonstraram que estados de médio porte podem agir de forma decisiva quando as plataformas falham com seus cidadãos.
A questão que os estados menores enfrentam é como construir coalizões, quadros legais e capacidade institucional para fazer o mesmo. O incidente do Grok não será o último. Como os pequenos estados se prepararem agora determinará se respondem com força ou se apressam-se para alcançar a situação.
