Il Settore Finanziario Non è Pronto per la Conformità all’IA: Il Ruolo Cruciale del CCO nella Leadership dei Controlli
Per prevenire incidenti derivanti dall’uso dell’intelligenza artificiale (IA) nel settore finanziario, è necessario un organo decisionale sull’IA guidato da un presidente di livello esecutivo, che possa includere tutti i dipartimenti rilevanti. È fondamentale includere i dirigenti IT e di gestione del rischio, ma il ruolo del Chief Consumer Officer è di massima importanza.
Raccomandazioni per la Gestione del Rischio dell’IA
Si raccomanda di separare l’organizzazione di gestione del rischio dell’IA dalle unità di pianificazione e sviluppo dell’IA per risolvere i conflitti di interesse. È necessario stabilire regolamenti di gestione del rischio che coprano aree come lo sviluppo di sistemi di IA, la protezione dei consumatori e le linee guida operative per i comitati etici sull’IA come regole interne aziendali.
Approccio Sistematico Necessario
È fondamentale accelerare gli approcci sistematici per prevenire incidenti legati all’IA, dato che l’IA si sta diffondendo nelle operazioni aziendali. Recenti violazioni della sicurezza nel settore finanziario sono state in gran parte causate da una gestione passata che trattava gli investimenti in sicurezza come un costo piuttosto che una necessità. Gli incidenti potenziali includono clienti che ricevono informazioni errate tramite consultazioni con IA o l’esposizione di dati personali nei set di addestramento dei chatbot.
Potenziale dell’IA nel Settore Finanziario
Il settore finanziario, che comprende banche, assicurazioni e titoli, è considerato il settore con il maggiore potenziale per l’IA. Un rapporto recente ha mostrato che l’84% delle istituzioni finanziarie a livello globale ha adottato l’IA generativa nei loro ambienti lavorativi. Tuttavia, il maggiore ostacolo all’adozione e all’espansione dell’IA è l’assenza di quadri di governance e gestione del rischio.
Deficienze nel Settore Finanziario Nazionale
Le aziende finanziarie nazionali sono particolarmente carenti in termini di tassi di fornitura dei servizi e obblighi di conformità relativi all’IA ad alto impatto. Un’indagine ha rilevato che solo l’8% delle aziende finanziarie nazionali fornisce servizi di IA ad alto impatto, con molte che non soddisfano le responsabilità in aree come le misure di gestione del rischio e la protezione degli utenti.
Struttura del Framework di Gestione del Rischio dell’IA
È stato sviluppato un Framework di Gestione del Rischio dell’IA per stabilire la governance e la gestione del rischio dell’IA. Questo framework, strutturato attorno a tre pilastri—governance, valutazione del rischio e controllo del rischio—funge da linea guida per le aziende finanziarie per gestire i rischi in modo autonomo. Per la valutazione del rischio, dove le aziende affrontano le maggiori difficoltà, il framework misura i livelli di rischio suddividendo quattro principi—legalità, affidabilità, buona fede e sicurezza—in tre o cinque elementi di valutazione ciascuno.
Espansione dei Servizi di IA ad Alto Impatto
Sotto la nuova legge di base sull’IA, i servizi di IA ad alto impatto nel settore finanziario sono attualmente limitati ai “prestiti attraverso screening senza intervento umano”. Tuttavia, questo ambito è destinato ad espandersi con i progressi tecnologici, un ulteriore motivo per cui il settore finanziario deve concentrarsi sulle misure di gestione del rischio.
Conclusioni e Raccomandazioni
È fondamentale che le aziende finanziarie costruiscano sistemi di gestione dei rischi responsabili in modo autonomo, poiché le normative non possono tenere il passo con i progressi tecnologici dell’IA. La recente incidenti negli scambi di criptovalute potrebbero essere stati prevenuti se le auto-regolazioni interne fossero state rispettate. Con la tecnologia dell’IA che supera la regolamentazione, solo una crescita sostenibile sarà possibile.
