Singapur: Avanzando en la Gobernanza y Colaboración Regional de IA
Recientemente, se llevó a cabo la Conferencia PECC 2025 en Singapur, donde policymakers, investigadores y líderes de la industria se reunieron para explorar la aceleración de la gobernanza responsable de la IA y la preparación para la transformación impulsada por la IA. En la conferencia, se destacó la necesidad de una acción colectiva para aprovechar el potencial de la IA, asegurando su uso responsable, seguro y equitativo.
Se subrayó que la IA ya está generando un valor significativo en la región, mejorando la logística a través de la optimización de la planificación de rutas, agilizando los flujos de trabajo hospitalarios y transformando la forma en que los gobiernos y las empresas sirven al público. Sin embargo, también se advirtió sobre los peligros de una IA no controlada, que puede conducir a resultados poco fiables y daños sociales.
Importancia de la Confianza en la IA
La confianza, la seguridad y la fiabilidad de la IA son fundamentales para facilitar su adopción. Es crucial que los modelos de IA se alineen con idiomas locales, leyes y valores sociales. Iniciativas como SEA-LION, un modelo multilingüe de código abierto entrenado específicamente para el Sudeste Asiático, demuestran cómo la localización mejora la relevancia y la confianza de los resultados de la IA.
Se enfatizó la necesidad de compartir conocimientos a través de las fronteras, especialmente en relación con el entrenamiento de modelos locales y su ajuste fino, lo que puede acelerar el desarrollo para todos. Además, se subrayó que capacitar a las empresas locales para construir aplicaciones de IA requiere no solo innovación sino también acceso a datos de calidad y específicos para su uso.
Desafíos en la Disponibilidad de Datos
La disponibilidad de datos se identificó como un importante obstáculo. En una encuesta global, el 42% de los encuestados mencionó la disponibilidad de datos como uno de los principales desafíos. Se destacaron políticas necesarias para desbloquear datos de manera responsable, y se mencionaron mecanismos regionales como las Reglas de Privacidad Transfronterizas Globales (GCBPR) y las Cláusulas Contractuales Modelo de ASEAN como caminos para mejorar los flujos de datos transfronterizos mientras se asegura el cumplimiento.
Innovaciones en Protección de Privacidad
Los esfuerzos de Singapur para promover Tecnologías de Mejora de la Privacidad (PETs), como a través de su Sandbox regulatorio y la guía de adopción recientemente publicada, demuestran cómo la innovación y la protección de la privacidad pueden coexistir. Se alentó a las naciones de APAC a adoptar salvaguardias técnicas similares y a compartir información sobre su uso.
Mitigación de Riesgos de IA
En cuanto a la mitigación de riesgos de IA, se reiteró la importancia de la confianza pública. Se advirtió sobre los crecientes desafíos planteados por contenidos generados por IA dañinos, decisiones algorítmicas injustas y resultados engañosos. Sin confianza, los consumidores no adoptarán la IA, y sin adopción, no se realizarán sus beneficios completos.
Se presentó el Consenso de Singapur, un nuevo documento que describe las prioridades clave para la investigación en seguridad de la IA, desarrollado con la colaboración de más de 100 expertos globales. Este marco ofrece un recurso valioso para que gobiernos, investigadores y desarrolladores identifiquen áreas para invertir y colaborar en la ciencia de la seguridad de la IA.
Normas de Gobernanza y Colaboración Regional
Las normas de gobernanza son esenciales y requieren un enfoque conjunto para la implementación responsable de la IA, que reduzca la fragmentación regulatoria y los costos de cumplimiento. La Guía de Gobernanza y Ética de IA de ASEAN, desarrollada por un grupo de trabajo regional presidido por Singapur, proporciona un marco compartido basado en la equidad, la transparencia y la responsabilidad.
Singapur también está liderando la experimentación en pruebas de aplicaciones de IA a través de su Sandbox Global de Garantía de IA, que permite a desarrolladores, evaluadores y reguladores explorar conjuntamente cómo evaluar los sistemas de IA en términos de seguridad y fiabilidad.
Implicaciones Sociales de la IA
Es fundamental no perder de vista las implicaciones sociales más amplias de la IA. Desde la creciente amenaza de deepfakes y desinformación hasta la disrupción masiva esperada en los mercados laborales y la educación, el impacto de la IA va más allá de la tecnología. Se destacó que nuestros trabajadores necesitarán nuevas habilidades, y la recapacitación y el reentrenamiento son críticos.
Estos desafíos son complejos e interconectados, lo que exige más que soluciones individuales; requieren una comprensión y acción colectiva. Se instó a los policymakers, tecnólogos e instituciones de la región a fomentar nuevas asociaciones, alinearse en marcos prácticos y trabajar juntos para dar forma a un futuro de IA inclusivo, confiable e innovador para la región de Asia-Pacífico.
