Derechos humanos advierten que la IA en India alimenta el odio
Con la celebración de la Cumbre de Impacto de la IA 2026 en la capital, dos organizaciones de la sociedad civil han publicado un informe que advierte que el modelo de gobernanza de la inteligencia artificial en India corre el riesgo de afianzar la discriminación y acelerar la erosión democrática.
Marco regulatorio y preocupaciones
El informe, titulado Gobernanza de la IA en el borde de la regresión democrática, argumenta que el enfoque regulatorio de Nueva Delhi se basa en gran medida en el cumplimiento voluntario y la autorregulación de la industria, evitando mecanismos de responsabilidad vinculantes. Las directrices de gobernanza de la IA emitidas por el Ministerio de Electrónica y Tecnología de la Información en noviembre de 2025 establecen que no se requiere una ley separada para la IA en la actualidad. En su lugar, se espera que los daños potenciales se aborden bajo legislación existente como la Ley de Tecnología de la Información de 2000 y el nuevo código penal de India.
El informe señala que este marco carece de estándares de transparencia obligatorios, auditorías independientes y reglas claras de responsabilidad.
Comunidades vulnerables y decisiones automatizadas
Mientras que el mensaje oficial de la cumbre enfatiza la democratización de la IA, los autores argumentan que las comunidades vulnerables, incluidas las minorías religiosas y étnicas, no están adecuadamente consideradas en el diseño de políticas. Advierten que la opacidad algorítmica dificulta que los grupos marginados impugnen decisiones automatizadas en los tribunales.
El informe documenta casos en los que herramientas de IA generativa se utilizaron para difundir propaganda comunal, citando videos e imágenes generadas por IA dirigidas a comunidades minoritarias y líderes de oposición.
Uso estatal de la IA y vigilancia
Más allá de los daños en línea, los autores destacan la creciente utilización de la IA por parte del estado en la policía y la vigilancia. Se han propuesto herramientas de IA para identificar a inmigrantes y refugiados a través de perfiles lingüísticos, lo que podría permitir la segmentación étnica o religiosa. Además, se han desplegado sistemas de reconocimiento facial en varias ciudades sin un marco legal comprensivo.
La integración de la IA en la entrega de servicios también es motivo de preocupación. La obligatoriedad del reconocimiento facial a través de programas gubernamentales ha suscitado temores de exclusión debido a fallos técnicos.
Conclusión y recomendaciones
Mientras los delegados globales discuten innovación y crecimiento, el informe insta a establecer una supervisión vinculante, salvaguardias para las minorías y límites claros en la vigilancia biométrica. Advierte que, sin protecciones aplicables, la expansión de la IA en India podría reforzar las jerarquías existentes de casta, religión y poder político en lugar de cerrar las brechas tecnológicas.
