L’Importanza della Governance nell’Innovazione AI
Con l’adozione crescente dell’AI generativa (GenAI) nella regione Asia-Pacifico, molte organizzazioni, soprattutto in settori non regolamentati, possono essere riluttanti a implementare framework di governance, temendo che la burocrazia possa soffocare l’innovazione.
Tuttavia, è stato osservato che confini chiari sono essenziali per mantenere la velocità. Mentre la regione guida l’uso di GenAI, la fiducia degli utenti nei risultati dell’AI può erodere le iniziative AI. Stabilire guardrail di governance può colmare il divario di fiducia.
Governance e Velocità di Innovazione
Esiste una concezione errata che la governance rallenti le iniziative AI. Al contrario, le organizzazioni che si muovono più rapidamente sono quelle che hanno già stabilito una forte posizione di governance sull’AI. La governance è paragonabile a barriere di sicurezza sulle autostrade, dove queste permettono ai veicoli di viaggiare in sicurezza a velocità più elevate.
Per muoversi più velocemente, è necessario comprendere dove sono i confini. Le organizzazioni che stabiliscono questi parametri all’inizio eliminano le esitazioni attorno all’innovazione, poiché i team sanno esattamente cosa è permesso.
Sfide della Shadow AI
Un fattore che spinge verso la governance dell’AI è l’emergere della shadow AI, ovvero quando i lavoratori utilizzano strumenti AI non approvati per il lavoro. È stato osservato che il 77% dei professionisti della sicurezza ha notato che i dipendenti espongono dati aziendali a modelli di linguaggio di grandi dimensioni (LLM). Questo comportamento raramente è malevolo; avviene perché non ci sono buoni strumenti interni.
I dipendenti si rivolgono spesso a strumenti AI esterni per mancanza di accesso fluido a opzioni interne. La soluzione non è semplicemente vietare gli strumenti esterni, ma fornire opzioni interne integrate con i necessari protocolli di governance.
Coinvolgimento del Consiglio Aziendale
Le conversazioni sulla governance dell’AI sono spesso avviate dai chief data officer (CDO), ma stanno guadagnando attenzione anche nelle sale dei consigli aziendali, non solo a causa dei rischi di sicurezza, ma anche per i costi crescenti associati a esperimenti AI non regolamentati.
Un esempio riguarda un’unità aziendale che ha accumulato costi imprevisti. Il progetto AI da 3 milioni di dollari avviato dal CDO ha visto costi mensili salire a 47.000 dollari, senza prove chiare di ritorno sugli investimenti. Di conseguenza, i team finanziari e di audit interno sono diventati più coinvolti nella governance dell’AI per affrontare sia i rischi tecnici che finanziari.
Strategie e Raccomandazioni
Alcune aziende hanno iniziato a costruire i propri LLM per motivi di governance e controllo. Tuttavia, si consiglia di non farlo, poiché il rapido cambiamento tecnologico rende spesso obsoleti i progetti interni prima che siano completati.
Si raccomanda un approccio basato su piattaforme, dove i requisiti di governance sono incorporati nell’infrastruttura, consentendo alle aziende di integrare i modelli più recenti rimanendo conformi.
Conclusione
La spesa globale per l’AI è prevista in aumento, e l’adozione dell’AI è plasmata dalla prontezza del capitale umano e dei processi organizzativi. Le organizzazioni che possiedono una maggiore maturità esperienziale stanno dando priorità a risultati comprovati piuttosto che potenziale speculativo.
