India propone un marco técnico-legal para la gobernanza de la IA
La Oficina del Asesor Científico Principal de India ha publicado un documento técnico sobre la gobernanza de la inteligencia artificial (IA), proponiendo un marco «técnico-legal» destinado a equilibrar la innovación con la mitigación de riesgos. Este marco integra salvaguardias legales, controles técnicos y mecanismos institucionales para asegurar el desarrollo y la implementación de la IA de manera confiable.
Detalles del marco propuesto
El documento, titulado «Fortaleciendo la Gobernanza de la IA a través de un Marco Técnico-Legal», describe un mecanismo institucional integral para operacionalizar el ecosistema de gobernanza de la IA en India. Se enfatiza que el éxito de cualquier instrumento de política depende en última instancia de su implementación efectiva. El marco busca fortalecer el ecosistema de IA más amplio, que incluye la industria, la academia, los organismos gubernamentales, los desarrolladores de modelos de IA, los implementadores y los usuarios.
Creación del Grupo de Gobernanza de la IA
En el centro de la iniciativa está el establecimiento del Grupo de Gobernanza de la IA (AIGG), que estará presidido por el Asesor Científico Principal. Este grupo coordinará entre los ministerios gubernamentales, los reguladores y los organismos de asesoría política para abordar la fragmentación actual en la gobernanza de la IA y los procesos operativos. Esta coordinación tiene como objetivo establecer estándares uniformes para regulaciones y directrices de IA responsables.
Comité de Expertos en Tecnología y Política
Apoyando al AIGG, se formará un Comité de Expertos en Tecnología y Política (TPEC) que se ubicará dentro del Ministerio de Electrónica y Tecnología de la Información. Este comité reunirá a expertos de diversas disciplinas, abarcando derecho, política pública, aprendizaje automático, seguridad de la IA y ciberseguridad. El TPEC asesorará al AIGG sobre cuestiones de importancia nacional, incluidos desarrollos en políticas globales de IA y capacidades emergentes de IA.
Instituto de Seguridad de la IA
El marco también propone la creación de un Instituto de Seguridad de la IA (AISI), que actuará como el centro principal para evaluar, probar y garantizar la seguridad de los sistemas de IA desplegados en varios sectores. Se espera que el AISI apoye la Misión IndiaAI desarrollando herramientas técnico-legales para abordar desafíos como la autenticación de contenido, los sesgos y la ciberseguridad.
Base de datos nacional de incidentes de IA
Para monitorear los riesgos post-despliegue, el marco introduce una Base de Datos Nacional de Incidentes de IA para registrar, clasificar y analizar fallas de seguridad relacionadas con la IA, resultados sesgados y violaciones de seguridad en todo el país. La base de datos se adaptará a las realidades sectoriales y estructuras de gobernanza de India, tomando como referencia las mejores prácticas globales.
Compromisos de la industria y autorregulación
El documento también aboga por compromisos voluntarios de la industria y autorregulación. Se destacan las prácticas lideradas por la industria, como los informes de transparencia y ejercicios de evaluación crítica, como fundamentales para fortalecer el marco técnico-legal. El gobierno planea proporcionar incentivos financieros, técnicos y regulatorios a las organizaciones que demuestren liderazgo en prácticas de IA responsable.
En conclusión, este marco técnico-legal representa un esfuerzo significativo para establecer una gobernanza efectiva de la IA que no solo promueva la innovación, sino que también mitigue los riesgos asociados con su implementación.
