La Inteligencia Artificial que Queremos
Los recientes desarrollos en inteligencia artificial (IA) continúan revolucionando casi todos los aspectos de nuestras vidas. La IA también puede ayudar a mejorar problemas globales como el mantenimiento de la paz, la prevención de conflictos y las respuestas humanitarias. Sin embargo, si se utiliza de manera incorrecta, puede representar una amenaza potencial para la paz y la seguridad internacional.
En este contexto, durante la 80ª sesión de la Asamblea General de la ONU, los Estados miembros llevaron a cabo debates para discutir la gobernanza de la IA y sus implicaciones para la paz y la seguridad internacionales.
Debate Abierto del Consejo de Seguridad
El 24 de septiembre, el Consejo de Seguridad celebró un debate abierto de alto nivel sobre la IA, enfocándose en el impacto de la IA en la paz y la seguridad internacionales. El objetivo principal de la reunión fue fomentar la discusión sobre cómo mitigar riesgos y maximizar beneficios de la IA en este contexto. Los participantes compartieron sus mejores prácticas y enfoques para el desarrollo, despliegue y uso responsable de la IA, incluyendo aplicaciones militares.
Lanzamiento del Diálogo Global sobre Gobernanza de la IA
El debate del Consejo de Seguridad fue seguido por una reunión de alto nivel de la Asamblea General sobre la gobernanza de la IA el 25 de septiembre, lanzando el Diálogo Global sobre Gobernanza de la IA. Esta reunión, co-facilitada por Costa Rica y España, reunió a científicos, miembros de la comunidad tecnológica, el sector privado y la sociedad civil. Por primera vez, todos los 193 Estados miembros de la ONU tuvieron la oportunidad de participar en un diálogo global inclusivo sobre la IA y dar forma a la cooperación global en su gobernanza.
Abordando Problemas Relacionados con la IA
En los últimos años, la Asamblea General de la ONU ha estado particularmente activa en la atención de cuestiones relacionadas con la IA. En la Cumbre del Futuro del 22 de septiembre de 2024, los Estados miembros adoptaron el Pacto por el Futuro, que incluye el Compromiso Digital Global (GDC) y la Declaración sobre las Generaciones Futuras. El GDC también se comprometió a establecer un Panel Científico Internacional Independiente sobre IA (IISP-AI) y un Diálogo Global sobre Gobernanza de la IA. Ambos organismos fueron adoptados por la Asamblea General de la ONU el 26 de agosto de 2025, basándose en recomendaciones del Cuerpo Asesor de Alto Nivel sobre Inteligencia Artificial en el informe de la ONU de 2024, “Gobernando la IA para la Humanidad”.
El objetivo del Panel es emitir evaluaciones científicas basadas en evidencia que sintetizan y analizan la investigación sobre las oportunidades, riesgos e impactos de la IA. Servirá como un sistema de alerta temprana contra amenazas como la desinformación, la manipulación algorítmica o el uso de la IA en sistemas de armas autónomas. Su trabajo ayudará a garantizar que la formulación de políticas esté fundamentada en evaluaciones científicas independientes.
Implicaciones de la IA en el Ámbito Militar
El 24 de diciembre de 2024, la Asamblea General de la ONU adoptó una resolución, co-redactada por los Países Bajos y la República de Corea, sobre la IA en el ámbito militar y sus implicaciones para la paz y la seguridad internacionales. La resolución destaca la necesidad del uso responsable y centrado en el ser humano de la IA en estos contextos.
A nivel regional, en la Unión Europea (UE), el uso de inteligencia artificial está regulado por la Ley de IA, la primera ley integral sobre IA en el mundo, que establece un sistema de clasificación de riesgos para la IA. Las nuevas reglas establecen obligaciones para proveedores y usuarios dependiendo del nivel de clasificación de riesgo de la IA.
Influencia de la IA en la Paz y la Seguridad
En su discurso inaugural en el debate del Consejo de Seguridad, el Secretario General, António Guterres, afirmó que “la cuestión no es si la IA influirá en la paz y la seguridad internacionales, sino cómo daremos forma a esa influencia”. Destacó cuatro prioridades, como garantizar el control humano sobre el uso de la fuerza, marcos regulatorios globales coherentes, proteger la integridad de la información en situaciones de conflicto, cerrar la brecha de capacidades de IA y crear espacio para que todas las naciones den forma a nuestro futuro en IA.
El Primer Ministro de Grecia, Kyriakos Mitsotakis, subrayó que “las decisiones que tomemos sobre inteligencia artificial no solo redefinirán el equilibrio de poder, sino que también determinarán si la tecnología se convierte en una fuerza para el progreso humano o en un motor de peril humano”.
El Primer Ministro Adjunto del Reino Unido, David Lammy, señaló que “estamos cruzando la frontera tecnológica más profunda de la humanidad. Nuestras vidas, nuestro mundo, nuestra política están a punto de ser inundadas por IA superpoderosa”.
Por otro lado, el representante de Dinamarca destacó que la IA podría traer nuevas oportunidades para el desarrollo sostenible, los derechos humanos y la paz y la seguridad, pero también conlleva riesgos significativos que pueden desestabilizar sociedades y socavar los esfuerzos de los Cascos Azules de la ONU.
Modelos de IA y Eficiencia en Operaciones de Paz
La IA tiene el potencial de mejorar la eficacia operativa de las operaciones de paz y apoyar el monitoreo de acuerdos de alto el fuego. Los modelos de IA pueden procesar datos de satélites, drones y sensores en tiempo real para monitorear los movimientos de tropas, vehículos y artillería, emitiendo alertas automatizadas.
Francia enfatizó que, si se utiliza responsablemente, las capacidades de recopilación y análisis de datos de la IA pueden mejorar la protección de las poblaciones civiles y anticipar y gestionar los riesgos asociados con crisis humanitarias o desastres climáticos.
Desafíos y Futuro de la Gobernanza de la IA
Durante el lanzamiento del Diálogo Global sobre Gobernanza de la IA, el Secretario General de la ONU, António Guterres, destacó que la trayectoria de la inteligencia artificial dependerá de nuestra disposición a escuchar, adaptarnos y cooperar.
La Presidenta de la Asamblea General, Annalena Baerbock, mencionó tres desafíos que se avecinan: la concentración de los beneficios de la IA, la gobernanza que debe ser rápida y justa, y la sostenibilidad ya que la IA utiliza vastas cantidades de energía.
El Primer Ministro de España, Pedro Sánchez Pérez-Castejón, instó a que “el auge de la inteligencia artificial es imparable, pero no puede ser ingobernable. Y necesitamos gobernarlo juntos”.
En conclusión, la comunidad internacional enfrenta la responsabilidad de guiar el desarrollo de la inteligencia artificial con sabiduría, garantizando que esta tecnología se utilice para el avance de la humanidad y no como un factor de división o peligro.
