Objetivos Globales, Realidades Locales: Alineando la Gobernanza de la IA con la Inclusión
En septiembre de 2024, la Asamblea General de las Naciones Unidas adoptó el Pacto por el Futuro, una resolución histórica que incluyó el Compromiso Digital Global (GDC). Entre sus iniciativas clave se encontraba la creación de un Panel Científico Internacional Independiente sobre Inteligencia Artificial (IA) y el lanzamiento de un Diálogo Global sobre la Gobernanza de la IA.
A primera vista, el GDC parece ser un paso en la dirección correcta. Visualiza un futuro digital que sea inclusivo, justo, seguro y sostenible. Sin embargo, el Compromiso no ofrece ninguna orientación concreta para garantizar que tanto el Panel Científico como el Diálogo Global sean realmente inclusivos. Sin un marco claro y aplicable para la representación y participación, es difícil imaginar cómo estos esfuerzos cumplirán con sus ambiciones declaradas.
La Importancia de la Inclusión
Para entender por qué esto es importante, primero hay que comprender cómo cobran vida las resoluciones de la ONU. Aunque son negociadas formalmente por los Estados miembros, estos procesos a menudo dejan poco espacio para la participación de la sociedad civil, comunidades marginadas o expertos independientes. Gran parte de la redacción ocurre a puertas cerradas, impulsada por un pequeño círculo de diplomáticos. Los facilitadores pueden solicitar comentarios o invitar a presentaciones por escrito, pero no existen mecanismos vinculantes que garanticen que las perspectivas diversas no solo sean escuchadas, sino que se reflejen de manera significativa en el resultado final.
Esta arquitectura procesal es incapaz de abordar un desafío tan dinámico y multifacético como la IA. Cuando la inclusividad está ausente del proceso, rara vez está presente en el resultado. Si continuamos construyendo marcos de gobernanza global de IA a través de procesos que reflejan solo un conjunto limitado de experiencias y prioridades, corremos el riesgo de inculcar inequidad en los sistemas del futuro.
Las Barreras del Lenguaje
El lenguaje presenta una de las primeras y más inmediatas barreras. Casi tres mil millones de personas en todo el mundo no pueden hablar, leer o escribir en ninguno de los seis idiomas oficiales de la ONU. Si no pueden acceder a las conversaciones—ya sea en consultas nacionales o reuniones globales—¿cómo pueden sus realidades informar las políticas que se desarrollan en su nombre? ¿Cómo podemos afirmar que estamos diseñando sistemas de IA equitativos cuando comunidades lingüísticas y culturales enteras están excluidas de la mesa?
Este no es un problema teórico—está sucediendo hoy, incluso dentro de la ONU. Como el Secretario General enfatizó recientemente, la ONU debe volverse más ágil, transparente y accesible. Sin embargo, incluso ahora, las consultas informales y negociaciones en la ONU a menudo carecen de servicios de traducción, desplazando efectivamente a numerosos Estados miembros y grupos de la sociedad civil que no pueden operar en ninguno de los seis idiomas oficiales de la ONU.
En lugar de depender únicamente de costosos intérpretes humanos—o peor, de esperar que los participantes se las arreglen por su cuenta—la ONU podría adoptar herramientas de traducción impulsadas por IA para cerrar estas brechas en tiempo real, particularmente durante consultas informales donde los recursos son limitados. Al entrenar estas herramientas en conjuntos de datos lingüísticos nacionales, los países no solo pueden mejorar su capacidad diplomática, sino también garantizar que sus idiomas y contextos culturales estén representados en el desarrollo de los algoritmos de IA.
Desigualdades en el Desarrollo de la IA
El desarrollo de la IA está dominado en gran medida por un pequeño número de empresas tecnológicas multinacionales. Estas empresas tienen su sede en el Global North, pero gran parte de los datos que alimentan sus sistemas provienen del Global South. El desequilibrio es notable: el Global South contribuye con la materia prima para tecnologías avanzadas de IA, pero está excluido de las decisiones que gobiernan cómo se construyen, entrenan y despliegan esas tecnologías.
Consideremos un sistema de IA diseñado para monitorear tendencias de salud entre mujeres de ascendencia africana en los Estados Unidos. Ignorar los contextos de salud más amplios de las poblaciones africanas y caribeñas no solo sería una visión de corto plazo, sino que podría ser peligroso. Los resultados de salud están moldeados por la interacción de la genética, la dieta, el medio ambiente, la historia y el estatus socioeconómico. Cuando los conjuntos de datos carecen de contexto global, las tecnologías resultantes son sesgadas, incompletas y a menudo dañinas.
Construyendo un Futuro Inclusivo
A medida que la comunidad global comienza a definir la arquitectura de la gobernanza de la IA, debemos evitar repetir los patrones de exclusión que nos han llevado a este punto. Eso significa rechazar los viejos reflejos diplomáticos que valoran la velocidad y el consenso sobre la equidad y la representación. Si estamos serios acerca de construir sistemas de IA inclusivos y éticos, entonces la inclusión debe ser fundamental, no una reflexión posterior.
En un mundo ideal, el Diálogo Global sobre la Gobernanza de la IA adoptaría una estructura híbrida de múltiples niveles que garantice la representación, la rendición de cuentas y la transparencia desde el principio:
- Primero, se podría establecer un Grupo Asesor Global Inclusivo, compuesto por representantes de comunidades marginadas, pueblos indígenas, minorías lingüísticas, jóvenes, personas con discapacidades y expertos del Global South—seleccionados a través de procesos abiertos y transparentes liderados por redes regionales y temáticas. Este grupo tendría un estatus formal dentro del proceso del diálogo, empoderado para co-diseñar agendas, aprobar metodologías de consulta y revisar borradores de resultados.
- En segundo lugar, todas las consultas—ya sean virtuales o en persona—se llevarían a cabo en múltiples idiomas más allá de los seis idiomas oficiales de la ONU, aprovechando la IA para la traducción simultánea a cualquier idioma para asegurar la participación significativa e inclusiva.
- En tercer lugar, el Diálogo debería comprometerse a un enfoque abierto e iterativo, publicando posiciones borrador para comentarios públicos y exigiendo a los Estados miembros que informen de manera transparente cómo se han abordado esos aportes. Esto ayudaría a asegurar que el Diálogo Global no simplemente refleje los habituales procesos cerrados liderados por el Estado, sino que se convierta en una plataforma verdaderamente participativa que refleje diversas realidades vividas y sistemas de conocimiento.
La inclusión debe dar forma a quién se sienta en el Panel Científico, cómo se diseña y lleva a cabo el Diálogo Global, y cómo se reconocen y validan el conocimiento, la experiencia y la vivencia a través de fronteras culturales y disciplinarias. Significa asegurar que el Global South, los pueblos indígenas, las minorías lingüísticas, las personas con discapacidades y los jóvenes no solo estén presentes, sino empoderados para dar forma a la agenda. Significa tratar la traducción, la accesibilidad y la alfabetización digital no como complementos opcionales, sino como componentes esenciales de legitimidad. Y significa reconocer que la diversidad no es una casilla para marcar—es la base de la credibilidad, la resiliencia y la justicia.
Nos encontramos en un punto crucial. Las estructuras de gobernanza que construimos hoy darán forma a los límites éticos, las trayectorias tecnológicas y las consecuencias sociales de la IA durante las próximas décadas. Si no actuamos con intencionalidad inclusiva ahora, corremos el riesgo de crear sistemas que afianzan desigualdades existentes y sirven a los intereses de unos pocos a expensas de muchos.
El tiempo para gestos simbólicos ha pasado. Lo que necesitamos ahora es un liderazgo audaz y principista—un liderazgo que priorice la justicia, la accesibilidad y la representación en la gobernanza global de la IA.
