Singapour : Renforcement de la Protection des Données et de la Gouvernance de l’IA
Singapour répond de manière proactive aux défis évolutifs posés par l’utilisation des données à l’ère de l’intelligence artificielle (IA). Lors de la Semaine de la Protection des Données Personnelles 2025, l’importance croissante de la protection des données dans un paysage technologique et mondial en rapide évolution a été soulignée.
Cette année, le thème « Protection des Données dans un Monde en Changement » reflète le besoin pressant d’adapter non seulement les lois et pratiques, mais aussi les normes sociales plus larges.
Le Rôle des Données dans le Développement de l’IA
Les données alimentent l’ensemble du cycle de développement de l’IA, depuis la pré-formation jusqu’à l’affinage, le test et la validation. Des applications sectorielles comme AskMax, le chatbot de l’aéroport de Changi, et GPT-Legal, affiné à l’aide de la base de données LawNet, illustrent la dépendance de l’IA à des ensembles de données de haute qualité et spécifiques au domaine.
Contraintes et Défis
Cependant, les données sont également devenues une contrainte. Les données Internet utilisées pour l’entraînement sont souvent inégales et peuvent contenir des contenus biaisés ou toxiques. Un défi régional de red-teaming a révélé des stéréotypes troublants générés par un modèle de langage, soulignant les risques des données d’entraînement non filtrées.
Avec les développeurs épuisant les ensembles de données publiques, l’attention se tourne vers des sources plus sensibles, y compris des partenariats privés avec des universités, des entreprises et des gouvernements, ce qui soulève de nouvelles préoccupations en matière de confidentialité.
Défis des Applications d’IA
Les applications d’IA peuvent également poser des défis lors de leur déploiement. Un test a révélé qu’un chatbot utilisé par un fabricant de haute technologie a divulgué des taux de commission de vente en arrière-plan lorsqu’il a été sollicité en mandarin. Cet exemple illustre l’importance de mesures de sécurité robustes et de tests avant la sortie.
Mesures de Protection et Sécurité
Des garde-fous tels que des prompts système, la génération augmentée par récupération (RAG) et des filtres de données sont couramment utilisés pour traiter la fiabilité, le biais et la confidentialité. Cependant, des échecs inattendus soulignent la nécessité de tests indépendants.
Le Sandbox des Technologies de Protection de la Vie Privée (PETs) de Singapour offre un espace sûr pour l’expérimentation. Par exemple, la société financière Ant International a formé un modèle avec un partenaire de portefeuille numérique en utilisant des ensembles de données séparés, améliorant le ciblage des bons et l’engagement sans compromettre la vie privée des clients.
Données Synthétiques et Adoption des Technologies
Les données synthétiques montrent également un potentiel prometteur. Le Guide du PDPC sur la Génération de Données Synthétiques décrit les meilleures pratiques, et des entreprises locales comme Betterdata aident les développeurs à augmenter les ensembles de données d’entraînement tout en protégeant les informations sensibles.
Pour soutenir une adoption plus large, l’IMDA introduira un Guide d’Adoption des PETs pour les dirigeants, aidant les entreprises à choisir et à mettre en œuvre des technologies de protection de la vie privée adéquates.
Avancées en matière d’Assurance de l’IA
Singapour avance également dans l’assurance de l’IA. Le projet pilote de Global AI Assurance et un nouveau Sandbox d’Assurance de l’IA visent à développer des méthodes de test standardisées pour gérer des risques tels que le contenu toxique et les fuites de données.
Des exemples incluent l’Hôpital Général de Changi, qui a testé un outil de résumation pour la sécurité clinique, et NCS, qui a vérifié l’alignement de son assistant de codage avec des normes internes et réglementaires.
Engagement de Singapour envers la Protection des Données
Le Data Protection Trustmark a été élevé à la norme de Singapour 714, fixant une référence nationale pour les organisations démontrant de solides pratiques de protection des données. Cette nouvelle norme assure aux consommateurs que les entreprises certifiées adoptent des mesures de gouvernance des données de classe mondiale, tout en permettant aux entreprises de se démarquer en montrant leur engagement envers un usage responsable des données et la conformité à la vie privée.
En conclusion, Singapour appelle à une responsabilité collective tout au long du cycle de vie de l’IA et réaffirme son engagement à favoriser l’innovation responsable tout en renforçant la confiance du public dans la gouvernance des données et de l’IA.
En relevant ces défis de manière collaborative, Singapour vise à devenir un leader dans l’adoption de l’IA fiable et efficace dans tous les secteurs. L’approche équilibrée du pays, encourageant l’innovation tout en garantissant la sécurité et la responsabilité, pourrait servir de modèle mondial pour la gouvernance de l’IA et des données.
