FINRA pubblica una panoramica sull’AI agentica nei servizi finanziari
Il 27 gennaio è stata pubblicata un’osservazione sull’uso emergente dell’AI agentica nell’industria dei servizi finanziari. Gli agenti AI sono sistemi autonomi capaci di pianificare, prendere decisioni ed eseguire azioni per raggiungere obiettivi senza regole predefinite o intervento umano continuo, distinguendosi dagli strumenti di automazione tradizionali.
Autonomia e supervisione
È stato notato che questi agenti possono operare con vari gradi di autonomia e supervisione, ma mancano di giudizio umano e conoscenza tacita, il che può presentare sfide in termini di trasparenza e supervisione.
Rischi associati agli agenti AI
- la potenziale azione degli agenti oltre il loro ambito e autorità intesa;
- difficoltà nell’auditabilità e nella trasparenza;
- potenziale abuso o divulgazione di dati sensibili;
- insufficiente conoscenza del dominio per compiti complessi;
- funzioni di ricompensa mal allineate;
- rischi persistenti unici legati alla GenAI, come bias, allucinazioni e preoccupazioni sulla privacy.
Tipi di agenti AI
- agenti conversazionali che interagiscono tramite linguaggio naturale;
- agenti di sviluppo software che automatizzano la codifica e la gestione delle infrastrutture;
- agenti per la rilevazione e prevenzione delle frodi;
- agenti di sorveglianza per il commercio e l’AML;
- agenti per l’automazione e l’ottimizzazione dei processi;
- agenti per l’esecuzione degli scambi.
È stata pubblicata anche un’infografica su questi diversi tipi di agenti.
