Singapur: Fortalecimiento de la Protección de Datos y la Gobernanza de la IA
Singapur está respondiendo de manera proactiva a los desafíos evolutivos que plantea el uso de datos en la era de la inteligencia artificial (IA). Durante la Semana de Protección de Datos Personales 2025, se destacó la creciente importancia de la protección de datos en un paisaje tecnológico y global en constante cambio.
Desarrollo de la IA y la Protección de Datos
La ministra de Comunicaciones e Información, Josephine Teo, subrayó cómo los datos son fundamentales en todo el ciclo de desarrollo de la IA, desde el pre-entrenamiento hasta la validación. Aplicaciones específicas del sector, como el chatbot AskMax del Aeropuerto Changi y GPT-Legal, utilizan conjuntos de datos de alta calidad y específicos del dominio.
No obstante, el uso de datos también ha presentado limitaciones. Los datos de internet utilizados para el entrenamiento son a menudo desiguales y pueden incluir contenido sesgado o tóxico. Un desafío regional de red-teaming reveló estereotipos preocupantes generados por un modelo de lenguaje, lo que subraya los riesgos de usar datos de entrenamiento no filtrados.
Desafíos en el Despliegue de Aplicaciones de IA
Las aplicaciones de IA pueden plantear desafíos cuando se despliegan. Por ejemplo, una prueba encontró que un chatbot utilizado por un fabricante de alta tecnología filtró tasas de comisión de ventas en el backend cuando se le consultó en mandarín. Este caso resalta la importancia de contar con salvaguardias sólidas y pruebas antes del lanzamiento.
Se utilizan controles como prompts de sistema, generación aumentada por recuperación (RAG) y filtros de datos para abordar cuestiones de fiabilidad, sesgo y privacidad. Sin embargo, fallos inesperados resaltan la necesidad de pruebas independientes, como enfatizó la ministra Teo, para asegurar que las aplicaciones de IA generativa funcionen como se espera.
Innovaciones en Protección de Datos
El Sandbox de Tecnologías de Mejora de Privacidad (PETs) de Singapur proporciona un espacio seguro para la experimentación. Por ejemplo, la firma financiera Ant International entrenó un modelo con un socio de billetera digital utilizando conjuntos de datos separados, mejorando el targeting de cupones y el compromiso sin comprometer la privacidad del cliente.
Los datos sintéticos también muestran un gran potencial. La Guía de Generación de Datos Sintéticos del PDPC establece mejores prácticas y empresas locales como Betterdata ayudan a los desarrolladores a aumentar conjuntos de datos de entrenamiento mientras protegen información sensible.
Guías y Colaboración en la Adopción de Tecnologías
Para fomentar una adopción más amplia, la IMDA introducirá una Guía de Adopción de PETs para líderes de C-suite, ayudando a las empresas a elegir e implementar tecnologías de privacidad adecuadas. El Summit de PETs regresa este año para profundizar en la colaboración entre reguladores, proveedores de tecnología y adoptantes.
Avances en Aseguramiento de la IA
Singapur también avanza en el aseguramiento de la IA. El piloto de Aseguramiento Global de IA y un nuevo Sandbox de Aseguramiento de IA tienen como objetivo desarrollar métodos de prueba estandarizados para gestionar riesgos como contenido tóxico y filtraciones de datos. El Kit de Inicio de IMDA ofrece herramientas prácticas que van más allá de marcos de alto nivel.
Ejemplos de estas iniciativas incluyen el Hospital General de Changi, que probó una herramienta de sistematización para la seguridad clínica, y NCS, que verificó que su asistente de codificación cumplía con estándares internos y regulatorios.
Compromiso con la Gobernanza de Datos
El Data Protection Trustmark ha sido elevado a la Norma de Singapur 714, estableciendo un referente nacional para las organizaciones que demuestran prácticas de protección de datos sólidas. Este nuevo estándar asegura a los consumidores que las empresas certificadas están adoptando medidas de gobernanza de datos de clase mundial, lo que permite a las empresas obtener una ventaja competitiva al mostrar su compromiso con el uso responsable de datos y la conformidad con la privacidad.
La ministra Teo concluyó instando a una responsabilidad colectiva a lo largo del ciclo de vida de la IA y reafirmó el compromiso de Singapur de habilitar la innovación responsable mientras fomenta la confianza pública en la gobernanza de datos y la IA.
Al abordar estos desafíos de manera colaborativa, Singapur aspira a liderar en la adopción de IA confiable y efectiva en todos los sectores. El enfoque equilibrado del país para fomentar la innovación mientras asegura la seguridad y la responsabilidad podría servir como un modelo global para la gobernanza de la IA y los datos.
