Gérer l’opacité des modèles d’IA et les défis de la gestion des risques
Les modèles d’IA influencent désormais les décisions qui touchent des millions de clients et des milliards de dollars chaque jour, mais certaines institutions financières peuvent ne pas en savoir assez pour respecter les exigences de conformité.
Défis d’opacité
Les modèles d’IA fonctionnent fondamentalement différemment des modèles traditionnels. Contrairement aux calculs linéaires et traçables, l’IA développe sa propre logique inférentielle que les propriétaires de modèles ne peuvent souvent pas expliquer ou prédire pleinement.
Risque de dépendance aux tiers
La plupart des institutions financières traditionnelles utilisent des modèles fondamentaux provenant de fournisseurs externes plutôt que de construire des modèles propriétaires en interne. Cela ajoute une couche d’opacité qui rend la validation et la surveillance traditionnelles presque impossibles.
Implications réglementaires et de confiance
Les régulateurs du monde entier exigent transparence et contrôle malgré ces limitations. L’incapacité à expliquer les décisions de l’IA érode la confiance des clients, complique la conformité et crée des lacunes de gouvernance.
Développement et utilisation des modèles
Les institutions financières développent des modèles pour améliorer leur prise de décision, améliorer les rapports financiers et assurer la conformité réglementaire. Ces modèles sont utilisés dans diverses opérations bancaires et financières, y compris la notation de crédit, l’approbation de prêts, la gestion des actifs et des passifs, et les tests de résistance.
Complexité des modèles d’IA
La plupart des institutions financières ne construisent pas leurs modèles d’IA à partir de zéro ; elles utilisent des modèles fondamentaux. Cela crée une nouvelle dimension d’opacité. Les banques ne traitent pas seulement des modèles qu’elles ne peuvent pas expliquer ; elles utilisent des modèles qu’elles n’ont pas construits et ne contrôlent pas entièrement.
Gestion des risques des modèles
La gestion des risques des modèles traditionnels repose sur trois composants : validation initiale, surveillance continue et capacité à remettre en question les hypothèses du modèle. Les modèles d’IA fondamentaux peuvent perturber ces trois éléments.
La validation initiale devient problématique lorsque vous validez un système que vous ne pouvez observer que de l’extérieur. Les modèles d’IA développent leur propre logique inférentielle par le biais de l’apprentissage, qui n’est pas toujours visible.
La surveillance continue fait face à des défis similaires. Si une institution s’appuie sur un modèle fondamental, elle est soumise aux mises à jour de ce modèle, ce qui crée des incertitudes sur le comportement du modèle.
Conséquences réelles et recherche de solutions
Les enjeux vont au-delà de la conformité réglementaire. Lorsque des modèles génèrent des résultats que seule une équipe externe comprend, les risques opérationnels peuvent s’accumuler. Les représentants du service client doivent souvent expliquer pourquoi un système de fraude a signalé une transaction.
Le déficit de confiance affecte tout le monde. Les clients refusés sans explications claires perdent confiance, et les régulateurs ont du mal à vérifier la conformité. Les équipes d’audit interne peuvent ne pas offrir de confiance lorsque les modèles sont des systèmes tiers propriétaires.
Réponses de l’industrie
Face à ces défis, certaines institutions exigent plus de transparence de la part des fournisseurs d’IA. D’autres construisent des cadres de test pour valider les modèles tiers par le biais d’analyses approfondies des entrées et des sorties. Des techniques comme SHAP et LIME tentent d’illuminer les décisions des boîtes noires.
Conclusions et perspectives d’avenir
Les institutions financières doivent intégrer des mécanismes d’explicabilité et de contrôle dès le début de leurs projets d’IA. Cela pourrait nécessiter des équipes interfonctionnelles capables de négocier des conditions appropriées avec les fournisseurs d’IA fondamentaux.
Il est crucial pour les institutions de comprendre les risques associés à l’IA tout en tirant parti des avantages des modèles fondamentaux, tout en reconnaissant ce qui reste inconnu. Cette compréhension pourrait devenir un moteur stratégique, offrant un avantage concurrentiel à celles qui peuvent gérer ces défis.
