Relatório Conjunto: Impacto da IA na Índia 2026 – Governança da IA à Beira do Retrocesso Democrático
Com a Índia se preparando para sediar a Cúpula de Impacto da IA 2026, a primeira cúpula global de IA no Sul Global, foi divulgado um relatório de política que examina o descompasso entre a retórica oficial da IA na Índia e a realidade da discriminação, vigilância e violência habilitadas por IA contra comunidades minoritárias e marginalizadas, em um contexto geral de retrocesso democrático.
Uso da IA e Desafios Democráticos
O relatório documenta como ferramentas de IA generativa estão sendo utilizadas para desumanizar minorias religiosas, enquanto sistemas de IA não transparentes implantados pelo estado permitem vigilância em massa e exclusão de serviços essenciais. O uso da IA é direcionado para promover conteúdos divisivos e desumanizadores nas redes sociais, incluindo vídeos que incitam violência contra homens visivelmente muçulmanos.
Além disso, agências de aplicação da lei em vários estados implementam tecnologia de reconhecimento facial e algoritmos de policiamento preditivo sem supervisão independente, autorização judicial ou transparência. Um dos casos mais alarmantes inclui o desenvolvimento de uma ferramenta de IA para detectar imigrantes supostamente ilegais, o que pode discriminar comunidades já perseguidas.
Diretrizes de Governança da IA
As diretrizes de governança da IA, divulgadas em novembro de 2025, favorecem a autorregulação voluntária em vez de mecanismos vinculativos de responsabilização. Embora reconheçam a necessidade de proteger grupos vulneráveis, não abordam os danos específicos enfrentados por minorias religiosas e outras comunidades marginalizadas. Essa abordagem transfere o ônus para as comunidades mais afetadas reunirem evidências e desafiarem sistemas poderosos de IA, sem garantir a transparência necessária.
Chamado à Ação
O relatório conclama os líderes globais presentes na cúpula a exigirem e comprometerem-se com regulamentação que respeite os direitos, estabelecendo obrigações claras em toda a cadeia de valor da IA. É essencial proibir o uso da IA para vigilância em massa e policiamento preditivo, além de exigir transparência e supervisão independente para todas as implementações de IA no setor público.
Os estados devem ir além dos compromissos voluntários das empresas de tecnologia e reconhecer urgentemente a necessidade de regulamentação robusta para lidar com os danos decorrentes do design, desenvolvimento e implantação de sistemas de IA.
