La ONU busca construir un consenso sobre IA ‘segura, protegida y confiable’
La Organización de las Naciones Unidas está haciendo un esfuerzo por influir más directamente en la política global sobre la inteligencia artificial, incluyendo la promoción de la formulación de políticas y estándares técnicos en torno a una IA “segura, protegida y confiable”.
El mes pasado, el organismo mundial finalizó planes para crear un nuevo panel de expertos enfocado en desarrollar estándares científicos, técnicos y de política para esta tecnología emergente. El Panel Científico Independiente sobre IA estará compuesto por 40 expertos internacionales que servirán términos de tres años y serán seleccionados para promover una comprensión científica equilibrada sobre los riesgos e impactos.
Diálogo Global sobre Gobernanza de la IA
La misma resolución también creó el Diálogo Global sobre Gobernanza de la IA, que tiene como objetivo reunir a gobiernos, empresas y expertos para “discutir la cooperación internacional, compartir mejores prácticas y lecciones aprendidas, y facilitar discusiones abiertas, transparentes e inclusivas sobre la gobernanza de la inteligencia artificial”. La primera tarea del diálogo es “el desarrollo de una inteligencia artificial segura, protegida y confiable”.
El Secretario General, António Guterres, mencionó que estas acciones ayudarán a la ONU a pasar “de los principios a la práctica” y a promover la organización como un foro global para dar forma a la política y estándares de IA.
Construyendo un consenso internacional
Esta iniciativa también será una oportunidad para construir un consenso internacional sobre una variedad de cuestiones complejas, incluyendo el consumo de energía de los sistemas de IA, el impacto de la tecnología en la fuerza laboral humana y las mejores maneras de prevenir su uso indebido para fines maliciosos o la represión de los ciudadanos.
El trabajo de la ONU “complementará los esfuerzos existentes en todo el mundo – incluyendo en la OCDE, el G7 y organizaciones regionales – y proporcionará un hogar inclusivo y estable para los esfuerzos de coordinación en gobernanza de IA”, afirmó Guterres. “En resumen, se trata de crear un espacio donde gobiernos, industrias y la sociedad civil puedan avanzar juntos hacia soluciones comunes”.
Desafíos y limitaciones
Expertos internacionales en tecnología han comentado que esto puede dejar una apertura para que la ONU o algún otro organismo creíble tenga una voz más fuerte en las discusiones sobre IA segura y responsable. Sin embargo, también son realistas sobre la autoridad limitada de la ONU para hacer mucho más que fomentar buenas políticas.
Pavlina Pavova, experta en políticas cibernéticas en la Oficina de las Naciones Unidas contra la Droga y el Delito en Viena, Austria, mencionó que la ONU ha estado construyendo una base para tener discusiones más sustantivas sobre IA y sigue siendo “el foro más inclusivo para el diálogo internacional” sobre la tecnología. Sin embargo, añadió: “Los nuevos formatos establecidos son consultivos y carecen de autoridad para hacer cumplir, jugando un papel de construcción de confianza como máximo”.
James Lewis, asesor sénior en el Centro de Análisis de Políticas Europeas, coincidió con algunos de estos sentimientos, señalando que los esfuerzos de la ONU tendrán “un impacto limitado”. Pero también expresó que está claro que la industria de la IA es “completamente incapaz de juzgar el riesgo” y que poner a responsables políticos con un verdadero “interés” a cargo del desarrollo de soluciones podría ayudar a contrarrestar esa dinámica.
La importancia de un liderazgo fuerte
Esto refleja un enfoque tomado por los organizadores del U.S. Cyberspace Solarium, quienes llenaron su comisión con legisladores influyentes y expertos en políticas para obtener apoyo en propuestas concretas. Esto funcionó: la comisión estima que el 75% de sus recomendaciones finales se han adoptado en la legislación.
“Lo más importante que pueden hacer es tener un presidente fuerte, porque un presidente fuerte puede asegurar que el producto final sea útil”, dijo Lewis.
Perspectivas no tradicionales
Otro desafío señalado por Lewis es que la adopción e inversión en IA tiende a ser más alta en los EE.UU., Reino Unido y Unión Europea, todos gobiernos que probablemente buscarán abrirse camino en sus propias políticas de IA. Estos gobiernos pueden terminar rechazando las recomendaciones de un panel compuesto por expertos de países con tasas de adopción de IA más bajas, algo que Lewis comparó con pasajeros “diciéndote cómo conducir el autobús”.
Por su parte, Tiffany Saade, experta en tecnología y consultora de políticas de IA para el gobierno libanés, argumentó que la inclusión de esas perspectivas no tradicionales es el objetivo, dándoles la oportunidad de dar forma a políticas para una tecnología que impactará sus vidas muy pronto. Saade, quien asistió a las discusiones de la ONU en Nueva York esta semana sobre IA, mencionó que la confianza fue un tema importante, particularmente para países con menores recursos tecnológicos y financieros.
Sin embargo, cualquier buena idea que surja del proceso de la ONU necesitará tener incentivos reales incorporados para motivar a países y empresas a adoptar las políticas preferidas.
“Tenemos que encontrar estructuras en torno a eso para incentivar a los gobiernos líderes y laboratorios de vanguardia a cumplir con [las recomendaciones] sin comprometer la innovación”, concluyó.
