Nuovi Rischi dell’Intelligenza Artificiale Segnalati da Wall Street
Le istituzioni finanziarie di Wall Street, tra cui Goldman Sachs, Citigroup e JPMorgan Chase, hanno avvertito gli investitori riguardo ai nuovi rischi derivanti dall’uso crescente dell’intelligenza artificiale. Questi rischi includono allucinazioni software, problemi di morale dei dipendenti, uso da parte di cybercriminali e l’impatto delle leggi in cambiamento a livello globale.
Rischi Segnalati
I pericoli recentemente segnalati nei rapporti annuali delle banche comprendono modelli di intelligenza artificiale difettosi o inaffidabili, concorrenza crescente e nuove normative che limitano l’uso dell’IA. Ad esempio, JPMorgan ha dichiarato che l’IA potrebbe causare disoccupazione che potrebbe influenzare la morale e la retention del personale.
Le banche hanno riconosciuto i rischi legati all’IA nei loro rapporti annuali per alcuni anni, ma nuovi timori stanno emergendo mentre il settore finanziario abbraccia sempre di più l’IA attraverso software propri o offerte di terze parti. Se le banche non si aggiornano sulle ultime novità in materia di IA, rischiano di perdere clienti e affari.
Inoltre, l’aumento dell’uso dell’IA le espone anche a rischi derivanti da cyberattacchi e uso improprio.
Meccanismi di Governance
“Avere i giusti meccanismi di governance in atto per garantire che l’IA venga implementata in modo sicuro, equo e sicuro non può essere trascurato,” ha affermato un esperto del settore. “Questa non è una tecnologia da collegare e utilizzare.”
Le banche rischiano di testare tecnologie che potrebbero essere costruite utilizzando dati finanziari obsoleti, distorti o inaccurati.
Integrazione dell’IA
Goldman Sachs ha affermato che, mentre ha aumentato il suo investimento in attività digitali, blockchain e IA, la concorrenza crescente rappresenta un rischio per integrare le tecnologie IA in modo tempestivo per aumentare la produttività e ridurre i costi.
Le istituzioni finanziarie devono anche affrontare il rischio di mantenere la privacy dei dati e la conformità normativa in un ambiente che è “meno certo e in rapida evoluzione.” Nel 2024, è entrato in vigore il Regolamento sull’Intelligenza Artificiale dell’UE, stabilendo nuove norme sull’uso dei sistemi IA nella regione.
Risposta ai Rischi Crescenti
Le banche stanno utilizzando una combinazione di strumenti IA propri e acquisiti da fornitori esterni. Citigroup sta implementando un insieme di strumenti per sintetizzare informazioni chiave dai documenti pubblici. Inoltre, Morgan Stanley sta adottando un’interfaccia simile a ChatGPT per svolgere compiti ripetitivi.
“È fondamentale adottare un approccio responsabile e applicare controlli per proteggersi da potenziali inaccuratezze e allucinazioni,” ha affermato un dirigente durante una conferenza.
Il CEO di JPMorgan, Jamie Dimon, ha dichiarato che l’IA potrebbe essere la questione più importante con cui la sua banca sta lottando.
Cybercriminali e IA
Con il crescente utilizzo dell’IA da parte delle banche, anche i cybercriminali stanno adottando questa tecnologia, diventando sempre più sofisticati. Un’indagine globale condotta da Accenture ha rivelato che l’80% degli esecutivi della sicurezza informatica crede che l’IA generativa stia potenziando i criminali più velocemente di quanto le banche possano rispondere.
Le banche devono stabilire regole per evitare problemi derivanti dall’uso dell’IA mentre lavorano da casa, poiché i rischi aumentano in modo critico.
