FINRA publie un aperçu de l’IA agentique dans les services financiers
Le 27 janvier, des observations ont été publiées concernant l’utilisation émergente de l’IA agentique dans l’industrie des services financiers. Les agents d’IA sont des systèmes autonomes capables de planifier, de prendre des décisions et d’exécuter des actions pour atteindre des objectifs sans règles prédéfinies ou intervention humaine continue, les différenciant ainsi des outils d’automatisation traditionnels.
Autonomie et supervision
Ces agents peuvent fonctionner avec divers degrés d’autonomie et de supervision, mais ils manquent de jugement humain et de connaissances tacites, ce qui peut poser des défis en matière de transparence et de supervision.
Risques associés
- Le potentiel pour les agents d’agir au-delà de leur portée et de leur autorité prévues.
- Les difficultés d’auditabilité et de transparence.
- Le risque potentiel d’utilisation abusive ou de divulgation de données sensibles.
- Une connaissance insuffisante du domaine pour des tâches complexes.
- Des fonctions de récompense mal alignées.
- Des risques persistants uniques liés à l’IA générative, tels que les biais, les hallucinations et les préoccupations en matière de confidentialité.
Types d’agents d’IA
- Des agents conversationnels qui interagissent via un langage naturel.
- Des agents de développement logiciel qui automatisent la programmation et la gestion des infrastructures.
- Des agents de détection et de prévention de la fraude.
- Des agents de surveillance des transactions et de lutte contre le blanchiment d’argent.
- Des agents d’automatisation et d’optimisation des processus.
- Des agents d’exécution des transactions.
Un infographique a été publié sur ces différents types d’agents d’IA.
