Introduction
Un régulateur financier a récemment souligné les lacunes de gouvernance et d’assurance autour des agents d’intelligence artificielle (IA) dans le secteur bancaire et de la prévoyance. L’avertissement intervient alors que les institutions élargissent l’usage de l’IA tant en interne qu’au contact des clients.
Analyse des pratiques actuelles
État de l’adoption de l’IA
Une revue ciblée de grandes entités régulées a montré que l’IA est déjà déployée dans toutes les organisations étudiées, mais que la maturité en gestion des risques et en résilience opérationnelle varie considérablement.
Gestion des risques et gouvernance
Les conseils d’administration manifestent un fort intérêt pour les gains de productivité et l’expérience client, mais beaucoup d’entre elles sont encore en phase de construction de processus de gestion des risques liés à l’IA. Les risques identifiés incluent le comportement imprévisible des modèles, les défaillances potentielles et la dépendance à des fournisseurs uniques.
Contrôles de cybersécurité
L’intégration de l’IA crée de nouvelles voies d’attaque, telles que l’injection de prompts et les intégrations non sécurisées. Les pratiques de gestion des identités et des accès n’ont pas toujours été adaptées aux entités non humaines comme les agents d’IA.
Implications et mesures recommandées
Renforcement des contrôles
Il est recommandé d’appliquer des contrôles spécifiques aux flux de travail autonomes, incluant la gestion des privilèges, la configuration, la mise à jour et les tests de sécurité du code généré par l’IA.
Gestion des fournisseurs
Les institutions doivent développer des plans de sortie ou de substitution pour réduire la dépendance à un seul fournisseur d’IA.
Normes et standards
Un groupe de travail technique dédié à l’authentification agentique travaille sur des spécifications afin de vérifier l’autorisation des actions exécutées par des logiciels autonomes.
Conclusion
Pour aligner l’utilisation de l’IA avec l’appétit pour le risque, les organisations doivent améliorer la gouvernance, renforcer les contrôles de cybersécurité et établir des cadres de sortie fournisseurs. Une approche structurée contribuera à exploiter les bénéfices de l’IA tout en atténuant les risques associés.
