Informe Conjunto: Cumbre de Impacto de IA en India 2026: Gobernanza de IA en el Límite del Retroceso Democrático
A medida que India se prepara para acoger la Cumbre de Impacto de IA 2026, la primera cumbre global de IA en el Sur Global, se ha publicado un informe de políticas que examina la desconexión entre la retórica oficial sobre la IA en India y la realidad de la IA que habilita el odio, la discriminación, la vigilancia, la represión y la violencia contra comunidades minoritarias y marginadas, todo ello en un entorno de retroceso democrático.
Uso de la IA como herramienta de división
El informe documenta cómo las herramientas de IA generativa están siendo utilizadas, incluso por el partido gobernante, para demonizar y deshumanizar a las minorías religiosas. Sistemas de IA opacos desplegados por el estado están habilitando la vigilancia masiva, la exclusión de servicios esenciales y la eliminación de votantes de los registros electorales.
Patrones preocupantes en el despliegue de IA
El informe revela un patrón alarmante en el uso de la IA que socava los derechos democráticos y apunta a comunidades vulnerables. El gobierno y sus proxies han utilizado contenido generado por IA en cuentas oficiales de redes sociales para difundir contenido divisivo y deshumanizador contra las minorías, incluyendo videos que muestran violencia contra hombres musulmanes.
Desarrollo de herramientas discriminatorias
Un desarrollo reciente que ha generado preocupación es un software para detectar inmigrantes supuestos basado en patrones lingüísticos, que podría convertirse en un instrumento de discriminación contra comunidades musulmanas bengalíes y trabajadores migrantes de bajos ingresos.
Enfoque de gobernanza de la IA
Las directrices de gobernanza de IA publicadas en noviembre de 2025 priorizan la autorregulación voluntaria sobre mecanismos de responsabilidad vinculantes, lo que coloca a las comunidades más afectadas en una posición difícil para desafiar sistemas de IA poderosos sin las obligaciones de transparencia necesarias.
Recomendaciones para un futuro más justo
Se hace un llamado a los líderes globales que asisten a la cumbre para que exijan una regulación que respete los derechos, prohíba el uso de la IA para la vigilancia masiva y la policía predictiva, y que centre las voces de las comunidades afectadas en las discusiones sobre gobernanza de la IA.
Conclusión
A medida que se aproxima la Cumbre de Impacto de IA en India, es crucial que la conversación sobre la gobernanza de la IA no solo se centre en la innovación, sino que también aborde las preocupaciones de derechos humanos y la protección de las comunidades vulnerables. La regulación robusta y la transparencia son esenciales para mitigar los daños que pueden surgir del uso indebido de la tecnología de IA.
