Direitos humanos alertam que IA na Índia alimenta ódio
Enquanto autoridades se reúnem na capital para a Cúpula de Impacto da IA 2026, duas organizações da sociedade civil divulgaram um relatório alertando que o modelo de governança da inteligência artificial (IA) na Índia corre o risco de aprofundar a discriminação e acelerar a erosão democrática.
Modelo de Governança em Questão
O relatório, intitulado “Governança da IA à Beira do Retrocesso Democrático”, argumenta que a abordagem regulatória de Nova Délhi depende fortemente da conformidade voluntária e da autorregulação da indústria, evitando mecanismos de responsabilização vinculativos. O Ministério da Eletrônica e da Tecnologia da Informação da Índia emitiu diretrizes de governança da IA em novembro de 2025, afirmando que uma lei separada sobre IA não é necessária no momento.
Em vez disso, os danos potenciais devem ser tratados sob a legislação existente, como a Lei de Tecnologia da Informação de 2000 e o novo código penal da Índia, a Bharatiya Nyaya Sanhita de 2023. O relatório salienta que essa estrutura carece de padrões de transparência obrigatórios, auditorias independentes e regras claras de responsabilidade.
Impacto nas Comunidades Vulneráveis
Embora a mensagem oficial da cúpula enfatize a “democratização da IA”, os autores do relatório argumentam que comunidades vulneráveis — incluindo muçulmanos, Dalits, Adivasis e minorias sexuais — permanecem amplamente negligenciadas no design das políticas. Eles alertam que a opacidade algorítmica dificulta que grupos marginalizados contestem decisões automatizadas em tribunal.
O relatório documenta casos em que ferramentas de IA generativa foram usadas para espalhar propaganda comunal. Cita vídeos e imagens gerados por IA direcionados a comunidades muçulmanas e líderes de oposição, incluindo material circulado por unidades estaduais do partido Bharatiya Janata.
Riscos Expandindo com o Uso de IA
Além dos danos online, os autores destacam a crescente utilização estatal da IA em policiamento e vigilância. Em algumas regiões, as autoridades propuseram ferramentas de IA para identificar imigrantes alegados e refugiados, o que especialistas dizem que pode permitir a segmentação étnica ou religiosa.
Sistemas de reconhecimento facial também foram implantados em várias cidades sem um framework legal abrangente. A integração da IA na entrega de serviços sociais é outra preocupação, pois a obrigatoriedade do reconhecimento facial em programas de nutrição do governo levantou temores de exclusão devido a falhas técnicas.
Conclusões e Recomendações
Enquanto delegados globais discutem inovação e crescimento, o relatório pede supervisão vinculativa, salvaguardas para minorias e limites claros na vigilância biométrica. Ele alerta que, sem proteções aplicáveis, a expansão da IA na Índia pode reforçar hierarquias existentes de casta, religião e poder político, em vez de reduzir as divisões tecnológicas.
