Come Scegliere gli Strumenti di Governance AI Giusti: Un’Iniziativa Congiunta con il Gruppo Tokio Marine
Con l’adozione accelerata dell’AI generativa, emergono nuovi rischi. Gli strumenti di governance AI offrono un modo per gestire questi rischi, ma scegliere la soluzione giusta non è semplice a causa di un mercato affollato e in rapida evoluzione. Per affrontare questa sfida, è stata creata una struttura di valutazione in collaborazione con il Gruppo Tokio Marine Holdings e Tokio Marine & Nichido Systems.
I Rischi nelle Applicazioni di AI Generativa
L’AI generativa sta avanzando rapidamente, con applicazioni che spaziano dal servizio clienti alla progettazione di prodotti. Tuttavia, con questa rapida adozione, emergono nuovi rischi, tra cui:
- Rischi legali: La responsabilità in caso di malfunzionamento dell’AI è spesso poco chiara, creando preoccupazioni legali per le aziende.
- Rischi sociali: La fuoriuscita non intenzionale di informazioni private o la perpetuazione di pregiudizi possono minare la fiducia pubblica.
- Rischi tecnici: Le vulnerabilità dell’AI possono derivare dai dati stessi, rendendo difficile il loro rilevamento e controllo.
Utilizzare Strumenti di Governance AI per Gestire i Rischi
Uno dei modi più efficaci per affrontare i rischi dell’AI generativa è attraverso strumenti di governance AI. Questi strumenti si dividono in due categorie principali:
- Strumenti di guardrail: Monitorano in tempo reale gli input e gli output dei sistemi AI, bloccando richieste o risposte dannose.
- Strumenti di testing: Valutano i modelli in condizioni controllate, identificando anomalie o vulnerabilità prima del deployment.
La Sfida di Selezionare Strumenti di Governance AI
La scelta dello strumento giusto non è un processo semplice, poiché il mercato è affollato di soluzioni che variano ampiamente. Le principali sfide includono:
- Confronti funzionali con criteri coerenti: Le funzioni core degli strumenti di governance AI sono spesso definite in modo astratto, rendendo difficile una valutazione equa.
- Valutazione funzionale che rifletta le ultime tendenze: È essenziale considerare le capacità attuali e come si allineano con le normative e le pratiche del settore in evoluzione.
Il Gruppo Tokio Marine e il Nostro Approccio Congiunto
Per affrontare queste sfide, è stata progettata una procedura di valutazione strutturata che comprende:
- Stabilire prospettive di valutazione: Sono stati combinati i quadri di valutazione più recenti da organizzazioni esterne, creando un insieme di 30 criteri di valutazione.
- Creare set di dati di valutazione: È stato sviluppato un dataset di grande scala con 933 set di dati individuali, mappati contro le prospettive di valutazione.
- Confrontare e valutare strumenti di oltre 20 fornitori: È stata effettuata una valutazione dettagliata in ambienti PoC utilizzando i dataset sviluppati.
La Strada da Seguire
Attraverso questa iniziativa congiunta, si mira a identificare la soluzione più adatta e implementarla entro l’anno fiscale 2025, riducendo i rischi associati all’AI generativa e creando condizioni per una sua adozione più ampia.
In questo modo, si intende migliorare l’efficienza operativa, rafforzare la competitività delle aziende e fungere da catalizzatore per l’innovazione nel settore assicurativo.
