Mise à jour de la plateforme de ressources sur l’IA
Le 22 décembre, une mise à jour de la page de ressources sur l’intelligence artificielle (IA) a été effectuée pour consolider les références techniques et politiques clés destinées aux institutions financières. Cette page s’inscrit dans le cadre des ressources plus larges sur la cybersécurité et la technologie financière, et est explicitement présentée comme un soutien pour évaluer et effectuer une diligence raisonnable sur les fournisseurs tiers d’IA.
Gouvernance et gestion des risques liés à l’IA
Pour la gouvernance de l’IA, il est conseillé de se référer aux ressources de l’Institut national des normes et de la technologie. Ces matériaux offrent une approche structurée pour la conception, le développement, la gouvernance et l’utilisation de l’IA, y compris des recommandations pratiques pour gérer les risques pour les individus et les organisations. Ces ressources peuvent aider à développer des systèmes d’IA « fiables » qui correspondent à la mission centrée sur les membres.
Un document intitulé « Réaliser le plein potentiel de l’intelligence artificielle » applique le cadre de gestion des risques d’entreprise à l’IA, couvrant les structures de gouvernance, la supervision par le conseil d’administration, l’appétit pour le risque, les méthodologies d’évaluation des risques et le suivi des performances des implémentations d’IA.
Sécurité des données et déploiement sécurisé de l’IA
La page de ressources signale deux publications axées sur l’IA. La première est une fiche d’information sur la sécurité des données de l’IA, qui traite de la sécurisation des données qui alimentent les systèmes d’IA tout au long de leur cycle de vie. La seconde document aborde les méthodes de déploiement sécurisé et d’exploitation des systèmes d’IA développés par des entités externes, avec un accent sur la protection des modèles et l’établissement de protocoles de surveillance continue.
IA dans les services financiers et fraudes basées sur des deepfakes
Dans le contexte du secteur financier, une référence est faite à un rapport examinant les cas d’utilisation de l’IA dans les services financiers. Ce rapport aborde les normes de confidentialité et de sécurité des données, les défis de biais et d’explicabilité, ainsi que les questions de protection des consommateurs. Il est suggéré que ces documents aident à mieux comprendre le paysage réglementaire et les attentes en matière d’atténuation des risques.
Enfin, il est souligné qu’un rapport traite des fraudes impliquant des médias deepfake, décrivant comment des criminels utilisent l’IA pour créer de faux documents d’identité afin d’échapper aux contrôles de vérification des clients. Ce matériel peut être utilisé pour améliorer les capacités de détection des fraudes et protéger les membres contre les escroqueries alimentées par l’IA.
Conclusion
Dans l’ensemble, la mise à jour de la plateforme de ressources signale que les attentes de supervision concernant l’IA seront ancrées dans des cadres existants bien connus plutôt que dans un règlement spécifique à l’IA. Cette mise à jour confirme également que l’IA est clairement dans le champ de la supervision des tiers et des disciplines traditionnelles en matière de sécurité et de conformité.
