Hacia un Consenso sobre la Ciencia y Gobernanza de la IA
En la 80ª sesión de la Asamblea General de las Naciones Unidas, celebrada el mes pasado en Nueva York, los Estados Miembros de la ONU lanzaron formalmente dos nuevas iniciativas: el Diálogo Global sobre la Gobernanza de la IA y el Panel Científico Internacional Independiente sobre la IA. Ambas iniciativas derivan del Pacto Digital Global y fueron legitimadas en la resolución A/RES/79/325, adoptada oficialmente el 26 de agosto.
Previo a su inclusión en el Pacto Digital Global, ambas iniciativas formaron parte de las recomendaciones reportadas en septiembre de 2024 por el Órgano Asesor de Alto Nivel sobre Inteligencia Artificial, propuesto inicialmente en 2020 como parte de la Hoja de Ruta del Secretario General para la Cooperación Digital.
Diálogo Global sobre la Gobernanza de la IA
El Diálogo Global sobre la Gobernanza de la IA proporcionará una plataforma inclusiva dentro de las Naciones Unidas para que los estados y las partes interesadas discutan los problemas críticos relacionados con la IA que enfrenta la humanidad hoy en día. Esta iniciativa promoverá la interoperabilidad entre diferentes ramas de gobernanza y estimulará la innovación abierta.
Complementando iniciativas internacionales existentes, como el Proceso de IA de Hiroshima del G7, su objetivo es proporcionar un hogar inclusivo y estable para coordinar la gobernanza de la IA, ayudando a construir sistemas de IA seguros, confiables y eficaces. La inclusión de los 193 Estados Miembros ha sido bien recibida por el Foro Económico Mundial, que señala que, a medida que las capacidades y el despliegue de la IA continúan acelerándose a nivel mundial, 118 países no están involucrados en ninguna iniciativa significativa de gobernanza de IA.
Panel Científico Internacional Independiente sobre la IA
El Panel Científico Internacional Independiente sobre la IA actuará como un puente crucial entre la investigación de vanguardia en IA y la formulación de políticas. Al proporcionar evaluaciones científicas rigurosas e independientes, ayudará a la comunidad internacional a anticipar desafíos emergentes y tomar decisiones informadas sobre cómo gobernar esta tecnología transformadora.
Compuesto por 40 expertos globales, el panel tendrá la tarea de producir un informe científico anual sobre los riesgos, oportunidades e impactos de la IA. La convocatoria abierta para solicitantes cierra el 31 de octubre y será dirigido por dos co-presidentes, uno de un país desarrollado y otro de uno en desarrollo. Los miembros serán seleccionados en base a su experiencia excepcional en IA y campos relacionados, así como a una perspectiva interdisciplinaria y equilibrio geográfico y de género.
Desafíos y Críticas
La nueva arquitectura de gobernanza de la IA de la ONU ha sido proclamada un triunfo simbólico. Sin embargo, presenta varios desafíos:
- Capacidad de Respuesta: Las instituciones internacionales representativas son inadecuadas para mantenerse al día con tecnologías en rápida evolución y responder a crisis impredecibles.
- Falta de Aplicación: La ONU carece de mecanismos para hacer cumplir resoluciones, lo que limita la efectividad de cualquier acción coordinada.
- Dificultades Financieras: Todas las actividades de la ONU dependen de la financiación de los Estados Miembros, lo que plantea incertidumbres sobre la sostenibilidad financiera de las nuevas iniciativas.
- Objetivos de Gobernanza: Existe una pregunta sobre si las iniciativas están destinadas a fomentar la mejor investigación posible sobre la gobernanza de la IA o simplemente a cumplir objetivos de desarrollo social de la ONU.
Aunque la ONU merece cierto reconocimiento por lograr una cooperación internacional imperfecta en el ámbito de la IA, su impacto o influencia real aún está por verse.
