De la Seguridad a la Acción: La Próxima Cumbre de IA en Francia
El 10 y 11 de febrero, Francia albergará la Cumbre de Acción de IA, reuniendo a funcionarios gubernamentales, ejecutivos y representantes de ONG y organizaciones de la sociedad civil en París. El presidente francés, Emmanuel Macron, espera utilizar la cumbre para promover el liderazgo francés en IA en Europa y a nivel internacional. Así, la cumbre se presenta como una buena ocasión para analizar más de cerca la estrategia de Francia sobre IA y sus ambiciones en un competitivo entorno tecnológico y político global.
La Inflación de Reuniones sobre Política de IA
La Cumbre de Acción de IA de París es el tercero de una serie de eventos que comenzó en Bletchley Park, Reino Unido, en noviembre de 2023. Esa reunión atrajo a representantes de 28 países, incluyendo a EE. UU., China y líderes de la UE. El enfoque estaba en abordar los riesgos de la IA y promover un desarrollo de esta tecnología que sea humano-céntrico y confiable. Todos los miembros acordaron ratificar la declaración de Bletchley, que llama a la cooperación internacional para abordar los riesgos planteados por modelos fronterizos, el uso malicioso de modelos disponibles públicamente por organizaciones criminales y los riesgos existenciales potenciales de la IA.
Con valores de producción espectaculares, la cumbre de Bletchley Park se presentó como “revolucionaria” y logró poner la seguridad de la IA en el centro de atención. Notablemente, el Reino Unido anunció la creación de su Instituto de Seguridad de IA, el primero de varios institutos que surgieron en todo el mundo. Justo antes de la cumbre, el expresidente Joe Biden firmó su Orden Ejecutiva sobre el Desarrollo y Uso Seguro, Seguro y Confiable de la IA, que delineaba objetivos de seguridad para el gobierno de EE. UU. Unos meses después, en febrero de 2024, Biden anunció la creación del Instituto de Seguridad de IA de EE. UU. como parte del Instituto Nacional de Estándares y Tecnología, con la misión de mitigar «los riesgos de los sistemas de IA avanzados para que [EE. UU.] pueda aprovechar el enorme potencial de esta tecnología revolucionaria». Las discusiones también alimentaron el trabajo de los responsables de políticas de la UE que están promulgando la Ley de IA de la UE.
Corea del Sur fue el anfitrión de la segunda cumbre en Seúl en mayo de 2024. A pesar de una menor asistencia y alcance que Bletchley Park, se hicieron anuncios significativos en Seúl. Japón, Corea del Sur y Canadá lanzaron institutos de seguridad de IA, y la UE anunció que su Oficina de IA se uniría a la red internacional de institutos de seguridad de IA.
¿Qué dirección tomará la Cumbre Francesa de 2025?
Inmediatamente después de la cumbre de Seúl, Francia anunció su ambición de albergar la próxima reunión en París. Ser el primer estado miembro de la UE en ser anfitrión es notable, ya que la Unión Europea representa un motor importante de estandarización tecnológica a escala global. La Ley de IA de la UE marcó un paso significativo hacia un marco de política estándar para regular la IA, convirtiendo a la Unión en un centro natural para esas discusiones.
Sin embargo, han surgido algunas preocupaciones dentro de la comunidad de seguridad de la IA tras la decisión de Francia de rebautizar la próxima “Cumbre de Seguridad de IA” como “Cumbre de Acción de IA”. Este cambio de nombre señala una inclinación hacia una agenda orientada al crecimiento y un enfoque más amplio que va más allá de las preocupaciones de seguridad, planteando preguntas sobre las prioridades del evento. En una reciente entrevista, Anne Bouverot, enviada especial de Francia sobre IA, abordó estas preocupaciones directamente.
La seguridad, también pensamos, tiende a centrarse en los riesgos y, por lo tanto, de alguna manera, a prevenir que la gente esté en la delantera. Entonces, sí, queríamos algo diferente, pero la parte de ‘acción’ es porque, después de dos cumbres, se quiere decir a la gente que no solo se están reuniendo para reunirse.
Este cambio se refleja aún más en la agenda oficial, que esboza un alcance ampliado con cinco áreas clave de enfoque: (1) IA de Interés Público, (2) Futuro del Trabajo, (3) Innovación y Cultura, (4) Confianza en la IA y (5) Gobernanza Global de IA. Mientras que el tema “Confianza en la IA” continúa las importantes discusiones iniciadas en las cumbres de Bletchley Park y Seúl, ya no es el pilar central del evento. En cambio, la agenda destaca un intento deliberado de ampliar la conversación, abordando desafíos y oportunidades en múltiples dimensiones del desarrollo y despliegue de la IA.
La Estrategia Francesa de IA, Con Todo Sobre Ella
La decisión de Francia de ampliar los temas de la Cumbre de Acción de IA y orientarla hacia la “acción” refleja un enfoque deliberado y estratégico para afirmar su posición en el escenario global. Este movimiento es parte de un esfuerzo más amplio para fortalecer la independencia de Francia de potencias significativas mientras se mejora su credibilidad con socios europeos. En política digital, Francia ha buscado encontrar un delicado equilibrio, aprovechando el liderazgo de EE. UU. en tecnologías clave como los semiconductores mientras mantiene canales de cooperación abiertos con China y otras potencias emergentes.
Este enfoque dual es evidente en la estructura de la cumbre, con India sirviendo como copresidencia para elevar el papel de las naciones emergentes en la configuración de futuras iniciativas de IA. El compromiso de Francia con la inclusividad en la gobernanza de la IA también se demostró en mayo de 2024, cuando emitió una declaración conjunta con China abordando riesgos de seguridad y existenciales en IA, señalando una apertura a colaborar incluso con actores no occidentales sobre desafíos compartidos.
Al mismo tiempo, Francia intenta seguir siendo atractiva para los inversores estadounidenses, socios críticos en sus esfuerzos por nutrir campeones tecnológicos nacionales. Aunque Francia no es un líder mundial en la carrera de IA, busca posicionarse como un jugador creíble, como lo demuestra el auge de Mistral AI. Recientemente valorada en más de 6 mil millones de dólares, Mistral AI ha ganado reconocimiento por desarrollar modelos de última generación y está a la vanguardia de las ambiciones de Francia en IA. Además, Mistral apoya modelos de código abierto para ofrecer una alternativa a líderes estadounidenses como OpenAI. El reciente pánico en torno al modelo de DeepSeeks podría señalar un interés creciente en modelos más frugales y de código abierto en el futuro, lo que podría reforzar la posición de Mistral.
Sin embargo, mantener tales campeones nacionales requerirá cooperación sostenida con EE. UU. para asegurar el acceso a tecnologías de vanguardia y financiamiento. Notablemente, Francia se beneficia de una posición privilegiada en el recientemente emitido Marco de Difusión de IA de EE. UU., que la coloca en la categoría superior de países exentos de controles de exportación sobre semiconductores. Esta nueva política de EE. UU. asegura acceso sin restricciones a la tecnología crítica de chips de EE. UU. para una lista restringida de naciones, subrayando la importancia de esta asociación transatlántica en el avance de los objetivos de IA de Francia.
El objetivo de seguir siendo competitivo en la carrera tecnológica se volvió particularmente relevante durante los debates en torno a la Ley de IA de la UE, con Francia oponiéndose a algunas disposiciones propuestas por sus socios europeos. Se argumentó que la dirección tomada por la Ley de IA de la UE podría ser letal para Mistral AI y otras empresas europeas prometedoras. Francia, Alemania e Italia intentaron flexibilizar la regulación para evitar sofocar la innovación. Hasta el último minuto, Francia ha estado tensando a sus socios europeos al debilitar la Ley de IA antes de finalmente votar a favor después de presionar por enmiendas alineadas con su visión. Como suerte, las primeras disposiciones de la Ley entran en vigor menos de dos semanas antes de la cumbre, el 2 de febrero.
El enfoque de Francia refleja la doctrina de “en même temps” (al mismo tiempo) del presidente Macron, que busca reconciliar visiones conflictivas. Al mismo tiempo, Francia se posiciona como portavoz de Europa, pero corre el riesgo de socavar el marco regulatorio de la Ley de IA para satisfacer sus intereses. Aboga por una cooperación inclusiva con potencias emergentes, pero al mismo tiempo refuerza su alineación con EE. UU. como su principal socio comercial en IA. Asume un papel de liderazgo en iniciativas de seguridad de IA, pero utiliza la misma plataforma para enfatizar la innovación y la competitividad.
Esta estrategia tiene el potencial de generar beneficios significativos, pero también corre el riesgo de diluir los avances logrados en las cumbres anteriores. Un desafío significativo será asegurar un acuerdo sobre principios compartidos entre EE. UU. y China, como se vio en Bletchley Park en 2023. Este logro sigue siendo incierto, particularmente dada la reciente cambio de prioridades de EE. UU. bajo la administración Trump y la ausencia de China en el último evento en Seúl. A medida que Francia acaba de anunciar el 3 de febrero la creación del equivalente de un Instituto de Seguridad de IA (INESIA), será interesante ver si otras naciones siguen esta dinámica.
La Cumbre de Acción de IA presenta un momento significativo para evaluar el paisaje evolutivo de la gobernanza global de IA. A medida que la nueva administración Trump afirma sus prioridades, particularmente en su rivalidad con China, y las capacidades de modelos continúan avanzando en medio de una creciente inestabilidad global, las apuestas para la colaboración internacional en este campo nunca han sido tan altas. Sin duda, los resultados de la cumbre insinuarán desarrollos geopolíticos en los próximos años. Solo se puede esperar que la comunidad de seguridad de IA siga siendo una fuerza orientadora constante, asegurando que la innovación progrese con cierta medida de responsabilidad y previsión.
