Marco Tecnológico-Legal EXPLICADO: India presenta su marco de gobernanza de IA – ¿Qué significa y cómo funciona?
La Oficina del Asesor Científico Principal de India ha publicado un documento técnico sobre la gobernanza de la inteligencia artificial (IA), que describe un marco «tecnológico-legal» diseñado para equilibrar la innovación tecnológica con la gestión de riesgos.
¿Qué es el Marco Tecnológico-Legal?
El documento «Fortaleciendo la Gobernanza de IA a través del Marco Tecnológico-Legal» describe un mecanismo institucional integral para operacionalizar el ecosistema de gobernanza de IA de India. Se enfatiza que el éxito de cualquier instrumento de política depende de su implementación efectiva.
El marco propuesto tiene como objetivo fortalecer el ecosistema de gobernanza de IA que comprende la industria, la academia, el gobierno, los desarrolladores de modelos de IA, los implementadores y los usuarios de IA. Un elemento central de esta iniciativa es el establecimiento del Grupo de Gobernanza de IA (AIGG), que estará presidido por el Asesor Científico Principal. Este grupo coordinará entre varios ministerios gubernamentales, reguladores y cuerpos asesores de políticas para abordar «la actual fragmentación en los procesos de gobernanza y operación».
¿Cómo funciona?
Dentro del contexto de gobernanza tecnológico-legal, esta coordinación tiene como objetivo establecer estándares uniformes para las regulaciones y directrices responsables de IA. El AIGG será responsable de «promover la innovación responsable de IA y el despliegue beneficioso de IA en sectores clave», mientras identifica lagunas regulatorias y recomienda enmiendas legales necesarias.
El AIGG estará respaldado por un Comité de Expertos en Tecnología y Políticas (TPEC) que se alojará dentro del Ministerio de Electrónica y Tecnología de la Información. Este comité reunirá experiencia multidisciplinaria en áreas como Derecho, Políticas Públicas, Aprendizaje Automático, seguridad de IA y ciberseguridad.
Según el documento, el TPEC asistirá al AIGG en asuntos de importancia nacional, incluidos los desarrollos globales en políticas de IA y capacidades emergentes de IA.
Instituto de Seguridad de IA
El marco también introduce el Instituto de Seguridad de IA, que servirá como el centro principal para «evaluar, probar y garantizar la seguridad de los sistemas de IA desplegados en diversos sectores». Se espera que el Instituto apoye la misión de IA de India desarrollando herramientas tecnológico-legales para abordar la autenticación de contenido, sesgos y ciberseguridad. Generará informes de riesgos y revisiones de cumplimiento para informar decisiones de política, mientras facilita la colaboración transfronteriza con institutos de seguridad globales y cuerpos de establecimiento de estándares.
Base de Datos de Incidentes de IA
Para monitorear los riesgos posteriores al despliegue, se establecerá una base de datos nacional de incidentes de IA para registrar, clasificar y analizar fallos de seguridad, resultados sesgados y violaciones de seguridad a nivel nacional. Esta base de datos se basará en las mejores prácticas globales, pero se adaptará para ajustarse a las realidades sectoriales y estructuras de gobernanza de India.
Los informes para esta base de datos serán presentados por organismos públicos, entidades privadas, investigadores y organizaciones de la sociedad civil. El documento aboga además por compromisos voluntarios de la industria y autorregulación. Las prácticas lideradas por la industria, como la publicación de informes de transparencia y la realización de ejercicios de «red-teaming», se destacan como vitales para fortalecer el marco tecnológico-legal.
El gobierno planea ofrecer incentivos financieros, técnicos y regulatorios a las organizaciones que demuestren liderazgo en prácticas responsables de IA. A través de estas medidas, el énfasis se mantiene en «consistencia, aprendizaje continuo e innovación» para prevenir enfoques aislados y proporcionar claridad a las empresas.
