Propuesta de marco de IA podría afianzar sesgos contra minorías, advierten grupos
A medida que se acerca la Cumbre de Impacto de IA 2026, un nuevo informe advierte que el marco de gobernanza de inteligencia artificial propuesto podría perjudicar desproporcionadamente a las minorías religiosas, comunidades Dalit y Adivasi, así como a minorías sexuales y de género, en ausencia de salvaguardias vinculantes.
Análisis del informe
Titulado Gobernanza de IA en el Bordo del Retroceso Democrático, el informe argumenta que la preferencia del gobierno por el cumplimiento voluntario y la autorregulación en lugar de protecciones legales ejecutables corre el riesgo de afianzar desigualdades estructurales. Esto es especialmente preocupante, ya que las comunidades marginadas a menudo carecen de la capacidad financiera e institucional para impugnar sistemas algorítmicos opacos en los tribunales.
A pesar de que las Directrices de Gobernanza de IA del Ministerio de Electrónica y Tecnología de la Información, publicadas en noviembre de 2025, rechazan lo que describen como regulación pesada en cumplimiento y afirman que no es necesaria una ley independiente de IA en este momento, el informe sostiene que depender de estatutos existentes podría resultar inadecuado para abordar los daños emergentes relacionados con los sistemas de toma de decisiones automatizados.
Riesgos y preocupaciones
El informe destaca que la visión del gobierno de Democratizar la IA y cerrar la brecha de IA, basada en los pilares de Personas, Planeta y Progreso, enfatiza el crecimiento tecnológico inclusivo. Sin embargo, argumenta que las directrices solo se refieren de manera general a grupos vulnerables y no reconocen explícitamente los riesgos específicos que enfrentan los musulmanes, Dalits, Adivasis y personas LGBTQIA+, dejando importantes vacíos en las protecciones dirigidas.
Además, se documentan casos en los que herramientas de IA generativa han amplificado la polarización comunal, incluyendo la circulación de videos e imágenes generadas por IA que apuntan a comunidades musulmanas y líderes de oposición. También se plantean preocupaciones sobre el uso creciente de la IA en la vigilancia y la policía, advirtiendo que los pilotos de policía predictiva podrían replicar sesgos arraigados en datos históricos de delitos.
El informe también señala que el uso de tecnología de reconocimiento facial en varias ciudades es problemático, especialmente porque India carece de un marco legal dedicado que restrinja la identificación biométrica en tiempo real en espacios públicos. Además, se observan riesgos de exclusión en la entrega de bienestar, ya que la autenticación obligatoria de reconocimiento facial en programas podría afectar desproporcionadamente a beneficiarios pobres y marginados en caso de fallos técnicos.
Conclusión
Aunque se reconoce la ambición de India de construir capacidad soberana en IA, los autores concluyen que sin obligaciones de transparencia vinculantes, supervisión independiente y protecciones explícitas para las minorías, el modelo de gobernanza actual podría profundizar las desigualdades existentes en lugar de democratizar el progreso tecnológico.
