Grok AI está monetizando abusos e governo deve agir, alerta organização
O abuso de imagens geradas por IA está aumentando em um ritmo sem precedentes, e o governo, junto com as plataformas de tecnologia, deve tomar medidas urgentes para proteger mulheres e meninas, alerta uma organização de apoio a vítimas de abuso doméstico.
A chamada para ação surge em resposta ao crescente número de usuários de uma plataforma de mídia social que utilizam tecnologia de IA para criar imagens sexualizadas de mulheres e meninas. Imagens inocentes postadas por mulheres e fotografias de crianças têm sido manipuladas para remover roupas, colocá-las em posições sexualizadas e adicionar marcas de violência.
A recente decisão de restringir o acesso à geração de imagens de IA apenas a assinantes pagos foi criticada como uma monetização do abuso. Embora essa mudança possa marginalmente reduzir o volume de abusos, o problema em si não foi resolvido; em vez disso, foi simplesmente colocado atrás de um paywall, permitindo que a plataforma lucre com o dano causado.
Reação das autoridades
A secretária de tecnologia pediu uma ação rápida, descrevendo a manipulação sexual de mulheres e crianças como “desprezível e abominável”. Ela afirmou ser inaceitável que a plataforma permita esse tipo de abuso, mesmo que por um custo.
A Lei de Segurança Online permite que uma autoridade reguladora bloqueie serviços que não cumpram as leis do país. Caso utilize esses poderes, terá o apoio total do governo. Espera-se que todas as plataformas sigam as novas diretrizes de combate à violência contra mulheres e meninas.
Implicações do abuso facilitado por tecnologia
Apesar da publicação de diretrizes para combater a violência, as medidas não são legalmente vinculativas, e as recentes denúncias demonstram que, quando deixadas para autorregulação, as empresas de tecnologia falham em proteger mulheres e meninas.
É fundamental que o governo intervenha, pois o aumento do abuso de imagens geradas por IA é impulsionado por perpetradores motivados por misoginia. Se as plataformas permitirem que o abuso persista, ou pior, lucrem com ele, a segurança de mulheres e meninas continuará em risco.
Conclusão
A organização está pedindo ao governo que tome medidas urgentes para responsabilizar as empresas e proteger as vítimas contra o crescente abuso online facilitado por tecnologias de inteligência artificial.
