Governance dell’AI nell’impresa
La promessa dell’AI è una forza animatrice in tutta l’economia, con ogni organizzazione che valuta come può sfruttare questa tecnologia per guidare l’efficienza e l’efficacia. Tuttavia, accanto a questo entusiasmo, esistono realtà legate alla mitigazione dei rischi associati all’AI, che possono includere azioni di conformità e regolamentazione, perdita di clienti, danno al marchio e, in alcuni casi, azioni legali.
La necessità di una governance dell’AI
In questo contesto, è fondamentale comprendere come dovrebbe essere strutturata la governance dell’AI per le organizzazioni aziendali. Particolarmente nel settore dei servizi finanziari, è essenziale trovare il percorso migliore per banche, compagnie di assicurazione e altre aziende altamente regolamentate che cercano di valorizzare l’AI in modo sicuro e performante.
Temi trattati nel webinar
Durante una recente discussione, sono stati esplorati diversi temi chiave:
- La necessità di una governance dell’AI
- Come il GenAI e l’Agentic AI stanno influenzando le aziende
- Evitare il ‘baratro di conformità dell’AI’
- Regolamentare e gestire l’uso dei modelli linguistici di grandi dimensioni (LLM) e dell’AI
- Esempi di utilizzo dell’Agentic AI e della governance dell’AI
Esempi di utilizzo dell’AI
Un esempio significativo fornito riguarda la creazione di lettere di richiesta dei clienti per conto degli agenti di trasferimento. Queste lettere si basano sulle note prese durante un’indagine da parte dell’agente e vengono elaborate tramite un modello linguistico di grandi dimensioni con un prompt standardizzato. Le lettere generate sono sottoposte a un controllo di qualità prima di essere inviate, assicurando che il cliente non riceva un documento generato unicamente dall’AI.
Un altro caso d’uso riguarda la registrazione delle descrizioni dei reclami e dei riassunti, allineati agli standard di conformità della FCA. Utilizzando una piattaforma di gestione dei processi come Blue Prism Chorus, viene generata automaticamente una trascrizione ogni volta che viene identificato un reclamo. È interessante notare che la trascrizione non deve essere impeccabile; per comprendere l’intento della conversazione, non è necessaria una trascrizione perfetta al 100%.
La governance dell’AI
Per quanto riguarda la governance di tali casi d’uso, è necessario che le organizzazioni dispongano di uno strato di isolamento per un LLM. Questo framework aiuta a proteggere sia l’input che l’output, garantendo che l’organizzazione sia autorizzata a utilizzare il modello e che non vengano divulgate informazioni sensibili.
La governance dell’AI si differenzia da altre forme di governance tecnologica, poiché l’AI, e in particolare l’AI generativa, ha la capacità di pensare e svilupparsi autonomamente. Ciò rappresenta un’opportunità significativa non solo per risparmi in termini di produttività, ma anche per la creazione di risultati che potremmo non desiderare. Con l’AI, esiste il potenziale per un crescita esponenziale incontrollata, perciò è fondamentale avere una governance sicura, specialmente quando si maneggiano dati sensibili.
In un contesto normativo in evoluzione, la governance dell’AI diventa sempre più critica. Essa amplia le preoccupazioni organizzative in aree che includono l’etica, dove la governance tecnologica tradizionale raramente si avventura.
