Marco Ético Nacional de IA Emitido para Guiar el Despliegue Seguro y Responsable
El Ministro de Ciencia y Tecnología ha firmado un comunicado que emite el Marco Ético Nacional de Inteligencia Artificial, diseñado para orientar la investigación, desarrollo y despliegue de sistemas de IA hacia resultados que sean seguros, responsables y beneficiosos para las personas, comunidades y la sociedad en general.
Obligaciones Específicas
Según el comunicado que entra en vigor el 10 de marzo, el marco impone obligaciones específicas a las entidades e individuos involucrados en actividades de IA. En particular, el uso de IA debe garantizar la seguridad y fiabilidad, mientras previene daños a la vida humana, salud, dignidad, honor y bienestar mental.
Responsabilidades de Desarrolladores y Operadores
Los desarrolladores y operadores son responsables de incorporar características de seguridad desde la etapa de diseño, anticipando escenarios potencialmente dañinos y adoptando controles preventivos adecuados. También deben establecer criterios de calidad claros para los datos, modelos y resultados, junto con procesos internos para pruebas, validación y verificación antes de cualquier despliegue.
Intervención Humana y Supervisión
El marco exige capacidades de supervisión e intervención humana para todas las decisiones y acciones impulsadas por IA, calibradas según el nivel de impacto potencial del sistema. Las entidades e individuos deben establecer mecanismos para recopilar retroalimentación, detectar errores, iniciar correcciones y mantener planes de contingencia en caso de mal funcionamiento o uso indebido.
Protocolos de Seguridad
Protocolos de seguridad robustos deben detectar y mitigar amenazas, incluyendo acceso no autorizado, secuestro del sistema, envenenamiento de datos o modelos, ataques adversariales, explotación de vulnerabilidades, violaciones de datos u otras formas de uso indebido, asegurando así la confidencialidad, integridad y disponibilidad de datos, modelos, algoritmos e infraestructura de soporte.
Respeto por los Derechos Humanos y Civiles
Se pone un énfasis particular en el respeto por los derechos humanos y civiles, con compromisos hacia la equidad, transparencia y no discriminación en el desarrollo y uso de la IA. Las entidades e individuos deben aplicar procesos de revisión apropiados para prevenir vulneraciones a la privacidad, protección de datos personales, libertad de elección, acceso a la información, derecho a un tratamiento igualitario y otros derechos consagrados en la ley.
Detección y Mitigación de Sesgos
Se requieren esfuerzos para detectar y mitigar sesgos en datos, modelos y operaciones, prestando especial atención a los efectos sobre grupos vulnerables como niños, ancianos, personas con discapacidades y otros grupos desfavorecidos. Las entidades e individuos deben proporcionar notificaciones claras sobre la participación de IA, ofreciendo detalles razonables sobre los objetivos del sistema, alcance, fuentes de datos, principios operativos generales y limitaciones conocidas.
Uso de IA para el Bienestar Social
Además, el marco fomenta el uso de IA que avance en el bienestar social, inclusividad y progreso sostenible. Las entidades e individuos deben evaluar el uso de energía, recursos computacionales y huellas ambientales a lo largo de todo el ciclo de vida de la IA, favoreciendo tecnologías energéticamente eficientes y procesos de bajas emisiones. El diseño de sistemas de IA debe seguir normas éticas sociales y la identidad cultural, evitando resultados discriminatorios o impactos adversos en los intereses comunitarios.
Innovación y Responsabilidad Social Corporativa
La innovación y la responsabilidad social corporativa son fomentadas bajo este marco. Se respalda la experimentación responsable, así como la investigación abierta y la difusión de conocimientos de acuerdo con las regulaciones legales y la protección de los derechos de propiedad intelectual.
Revisión y Actualización del Marco
El marco será objeto de revisión periódica y actualizaciones cada tres años, o antes si se producen cambios significativos en la tecnología, legislación o prácticas de gestión.
La emisión de este marco refuerza la implementación de resoluciones sobre avances en ciencia y tecnología, innovación y transformación digital nacional, y apoya la aplicación de la ley sobre IA que entró en vigor el 1 de marzo de 2026.
