Novas regras do MeitY apertam a supervisão da IA, mas deepfakes obscenos continuam a assombrar os anunciantes
Após a notificação do Ministério da Eletrônica e das Tecnologias da Informação sobre emendas abrangentes às Regras de Tecnologia da Informação, especialistas da indústria afirmam que a regulamentação sozinha não neutralizará a crescente onda de obscenidades geradas por IA online.
Embora a estrutura legal esteja agora mais rigorosa, a circulação de conteúdos de IA sexualmente explícitos, não consensuais e ofensivos continua a criar uma “crise persistente de segurança da marca e governança” para os anunciantes.
Novas Regras e Desafios de Implementação
As novas regras exigem que os intermediários rotulem claramente o material gerado por IA, incorporem metadados rastreáveis e removam conteúdos ilegais dentro de três horas após serem sinalizados pelas autoridades. Essa nova exigência é uma melhoria significativa em relação à janela anterior de 36 horas, com foco explícito em deepfakes e imagens sexuais não consensuais.
No entanto, a aplicação dessas regras continua sendo o principal desafio. Recentemente, notificações foram emitidas sobre o uso indevido de ferramentas de IA, que permitiram a geração e compartilhamento de imagens explícitas de mulheres. As autoridades consideraram isso uma violação da dignidade e privacidade das mulheres, exigindo auditorias e medidas de segurança mais rigorosas.
O Desafio da Zona Cinza
Um aspecto complicado reside na “zona cinza” de conteúdos sexualizados e provocativos que podem não ser claramente ilegais, mas que levantam questões éticas. Esses conteúdos não violam necessariamente as leis, mas podem causar repercussões negativas para as marcas.
As plataformas não podem se eximir de responsabilidade se amplificam e monetizam conteúdos “limítrofes” ou prejudiciais, especialmente quando jovens estão envolvidos. Se o conteúdo é ilegal, as plataformas arriscam perder proteções legais se não agirem. Se é legal, mas controverso, a responsabilidade se torna regulatória e reputacional.
Ameaças para os Anunciantes
Os anunciantes enfrentam ameaças duplas: a proximidade de suas marcas com conteúdos sintéticos explícitos e o uso indevido da imagem de embaixadores de marcas através de deepfakes. O marketing de influenciadores, central na estratégia digital, está particularmente exposto, com muitos relatos de que suas imagens foram manipuladas sem consentimento.
As plataformas não podem se distanciar da responsabilidade quando seus algoritmos são projetados para maximizar o engajamento. Se suas estratégias intencionalmente promovem conteúdos inadequados, isso os torna parte do problema.
Implicações das Novas Regras
As novas regras tentam fechar lacunas exigindo metadados embutidos em materiais gerados por IA e declarações de usuários quando ferramentas sintéticas são utilizadas. No entanto, é importante notar que a tecnologia de detecção muitas vezes fica atrás das ferramentas de geração, tornando a moderação em tempo real complexa.
As marcas que experimentam influenciadores de IA ou ativos criativos sintéticos adotam uma estratégia cautelosa. A promessa criativa da IA deve ser equilibrada com guardrails éticos. A pesquisa indica que apenas uma pequena porcentagem de grandes empresas multinacionais testou influenciadores de IA, destacando a importância da autenticidade e confiança no marketing eficaz.
Conclusão
As novas regras do MeitY sinalizam uma mudança de política mais ampla, tratando o dano sintético com urgência semelhante a outras formas de conteúdo ilegal. No entanto, a conformidade dependerá fortemente da implementação em nível de plataforma. A cooperação contínua entre reguladores, plataformas e a indústria será crucial para determinar se essas novas diretrizes serão eficazes em mitigar o uso indevido de conteúdos gerados por IA.
