Indústria de IA promete conformidade após Gala 3.15 da China expor ‘envenenamento de dados’ através da tecnologia GEO
Após a Gala anual de Direitos do Consumidor 3.15 da China Central Television (CCTV) destacar o chamado “envenenamento de IA” impulsionado por uma técnica comercial conhecida como otimização de motor generativo (GEO), algumas empresas iniciantes na indústria de GEO emitiram declarações, prometendo conformidade pública na otimização de busca de IA.
O canal financeiro da CCTV, citando players da indústria, relatou que alguns provedores de serviços GEO prometeram aos clientes que, mediante pagamento, seus produtos podem frequentemente aparecer nas respostas geradas por IA, permitindo até que conteúdos publicitários falsos sejam apresentados como “respostas padrão” nas respostas da IA.
Práticas e Ameaças
A Gala revelou atividades como geração de informações falsas, envenenamento de dados de IA, manipulação de rankings e competição maliciosa usando GEO, que é vista como uma crescente ameaça à integridade de grandes modelos de inteligência artificial (IA).
Uma das empresas envolvidas disse que seu produto “Zhaixing GEO” adere ao princípio de “tecnologia para o bem, conformidade em primeiro lugar” e que a empresa “traça uma linha clara entre si e operadores ilegais do mercado negro e cinza”. A empresa se comprometeu a controlar rigorosamente os fluxos de conteúdo, rejeitar firmemente o uso de técnicas de marketing digital ou tráfego falso para impulsionar rankings e “não cooperará, participará ou tolerará qualquer comportamento GEO não conforme”.
Outra empresa baseada em Xangai também emitiu uma declaração de emergência, declarando sua oposição a qualquer forma de promoção falsa, falsificação de dados ou manipulação maliciosa de saídas de IA. A empresa afirmou que não participa, desenvolve ou fornece serviços descritos em relatórios da indústria como “lavagem cerebral de IA” ou “manipulação de respostas padrão”.
Definição e Implicações do ‘Envenenamento de IA’
Especialistas definem “envenenamento de IA” como a alimentação deliberada de informações fabricadas – como identidades de especialistas falsas ou relatórios de pesquisa fraudulentos – no ecossistema informativo para que sistemas de IA aprendam e reproduzam essas falsidades. Esses atores foram rotulados de “envenenadores” por seu potencial de contaminar dados corpus.
Os serviços GEO são particularmente insidiosos porque podem disfarçar promoção comercial como conhecimento aparentemente objetivo gerado por IA, dificultando a detecção da intenção comercial pelos consumidores. Tal comportamento pode infringir o direito dos consumidores à escolha informada e violar regulamentos publicitários sobre identificabilidade de anúncios; fabricar fatos também pode se qualificar como publicidade falsa ou concorrência desleal.
Conclusão
As autoridades devem melhorar ativamente o ambiente ecológico da informação na internet, aumentando a qualidade da informação e aumentando a oferta de informações objetivas, neutras e científicas. Se o problema não for levado a sério, especuladores usando tecnologia GEO podem rapidamente poluir modelos grandes.
Em janeiro, a Administração Estatal para Regulamentação do Mercado identificou explicitamente a publicidade gerada por IA como um desafio-chave para a regulamentação de publicidade na internet em 2026, exigindo supervisão e gestão fortalecidas dessas práticas.
