Índia estabelece prazo de 3 horas para plataformas de mídia social removerem conteúdo gerado por IA e deepfakes
A Índia direcionou plataformas de mídia social a rotular claramente todo o conteúdo gerado por IA e garantir que esse material sintético contenha identificadores incorporados, de acordo com uma ordem oficial.
Medidas de Aplicação Mais Rigorosas
O governo estabeleceu um prazo de três horas para que as empresas de mídia social removam conteúdo gerado por IA ou deepfake assim que for sinalizado pelo governo ou por ordem de um tribunal.
As plataformas também foram proibidas de permitir a remoção ou supressão de rótulos de IA ou metadados associados uma vez que tenham sido aplicados.
Requisitos de Detecção e Prevenção
Para combater o uso indevido, as empresas deverão implementar ferramentas automatizadas para detectar e prevenir a circulação de conteúdo gerado por IA que seja ilegal, explorativo sexualmente ou enganoso.
Além disso, as plataformas precisam alertar regularmente os usuários sobre as consequências de violar as regras relacionadas ao uso indevido de IA, com avisos a serem emitidos pelo menos uma vez a cada três meses.
Contexto e Diretrizes Recentes
As diretrizes mais recentes surgem em meio a crescentes preocupações sobre a disseminação de deepfakes baseados em IA online e se baseiam em emendas propostas no mês anterior pelo Ministério da Eletrônica e Tecnologia da Informação.
As regras propostas buscam obrigar a divulgação pelos usuários ao postar conteúdo gerado ou modificado por IA e exigem que as plataformas adotem tecnologia para verificar tais declarações.
As plataformas de mídia social já implementaram recursos permitindo que os usuários rotulem certos conteúdos como gerados ou modificados usando inteligência artificial. O foco inicial do esforço de aplicação do governo está nas plataformas intermediárias de mídia social com cinco milhões ou mais usuários registrados.
Atualmente, algumas plataformas exigem que os criadores divulguem conteúdo “significativamente alterado” ou gerado sinteticamente em casos específicos, incluindo vídeos que fazem uma pessoa real parecer dizer ou fazer algo que não fez, alterando filmagens de eventos ou locais reais ou criando cenas realistas que nunca ocorreram.
