Le Ministère des Algorithmes : Quand les Data Scientists Influencent la Prise de Décision Politique
Récemment, devant un public captivé à Singapour, deux hommes ont eu une conversation qui pourrait redéfinir la manière dont le monde perçoit la réglementation de l’IA. L’un représente le côté des fournisseurs : Thomas Roehm, vice-président du marketing corporate chez SAS, fort de décennies d’expérience en analytique. L’autre, Frankie Phua, directeur général et responsable de la gestion des risques au United Overseas Bank, se confronte à un dilemme fondamental : comment gouverner une IA qui évolue plus rapidement que les règles censées la contenir ?
Du principe à la pratique : Le cadre réglementaire basé sur les données
Le Project MindForge est dirigé par l’Initiative Veritas, une initiative de la Monetary Authority of Singapore (MAS) qui examine les risques et les opportunités de la technologie IA pour le secteur des services financiers. Mais ses origines remontent à une approche méthodique de la gouvernance de l’IA, qui a commencé en 2019 dans le cadre de la Stratégie Nationale IA de Singapour.
Frankie Phua a déclaré : « Je suis très fier d’être Singapourien dans l’industrie bancaire de Singapour. » Depuis 2019, la MAS a engagé l’industrie bancaire dans un parcours d’IA. Il supervise diverses fonctions de gestion des risques, y compris le risque de crédit, le risque de marché, le risque opérationnel, le risque technologique et le risque ESG/climatique.
Le voyage a commencé avec les principes « FEAT » : Fairness (Équité), Ethics (Éthique), Accountability (Responsabilité), et Transparency (Transparence). Phua a souligné l’importance de parler de la gouvernance de l’IA en s’appuyant sur des principes mesurables.
Agilité réglementaire à l’ère de la GenAI
En 2022, l’arrivée de ChatGPT a modifié la donne. Les cadres soigneusement établis pour l’IA traditionnelle semblaient obsolètes. L’industrie a lancé le consortium MindForge, visant à examiner les risques et opportunités de la GenAI dans le secteur des services financiers.
Ce qui distingue MindForge des initiatives réglementaires typiques est son approche axée sur l’innovation et le risque. Plutôt que de voir des fonctionnaires rédiger des règles, Singapour a créé ce que Phua appelle une « approche écosystémique », où les praticiens des banques, des assureurs et des entreprises technologiques collaborent pour rédiger un manuel pour eux-mêmes.
Le paradigme de la gouvernance en tant que code
Roehm a souligné l’importance de cette approche au-delà des frontières de Singapour. Il a décrit des applications d’IA déjà intégrées dans divers secteurs, comme aider les banques à prédire et prévenir la fraude ou aider les hôtels à gérer les données pour prévoir la demande.
Le défi réglementaire réside non pas dans la préparation à l’adoption de l’IA, mais dans la gouvernance de l’IA qui prend déjà des décisions cruciales.
Le défi de la taxonomie : Définir l’IA pour la conformité réglementaire
Un des moments les plus révélateurs de la conversation a été lorsque Phua a abordé le plus grand défi en matière de gouvernance de l’IA : « Comment définissez-vous l’IA ? » Cette question n’est pas une simple querelle académique. « Pour gouverner l’IA, vous devez savoir ce qu’elle est », a-t-il souligné.
La complexité moderne de l’IA nécessite une approche collaborative pour éviter les lacunes de gouvernance.
Gestion des données et gouvernance cognitive
Les intervenants ont abordé une préoccupation majeure : l’IA pourrait-elle éroder les capacités cognitives humaines ? Phua a partagé son expérience avec la GenAI, soulignant que des outils comme ChatGPT peuvent devenir puissants lorsque les utilisateurs posent des questions critiques.
Cela reformule le défi de la gouvernance : plutôt que de protéger les humains de l’IA, il s’agit de se concentrer sur l’amélioration de la collaboration homme-IA.
Architecture réglementaire fédérée : Élargir le modèle de Singapour
La phase 2 de MindForge produit des résultats tangibles. Un manuel sera bientôt publié, fournissant des orientations pratiques sur 44 risques liés à l’IA avec des stratégies d’atténuation spécifiques.
Cette approche offre un modèle pour d’autres juridictions, démontrant qu’il est possible de construire une infrastructure de gouvernance de manière itérative avec une forte implication des praticiens.
En conclusion, la conversation entre Roehm et Phua suggère l’émergence d’un nouveau paradigme réglementaire, où le rythme du changement technologique exige des approches collaboratives et itératives pour la gouvernance.
