OpenText avverte del divario nella sicurezza e governance dell’AI
È emerso un rapporto che indica come molte organizzazioni stiano implementando l’AI generativa senza adottare misure adeguate di sicurezza e governance. La ricerca ha rivelato che il 52% delle imprese ha implementato completamente o parzialmente l’AI generativa.
Divario nella Governance
Solo una su cinque imprese ha raggiunto quello che il rapporto definisce come maturità dell’AI nella sicurezza, con l’AI completamente integrata nelle attività di sicurezza e i rischi valutati. Quasi l’80% delle organizzazioni non ha raggiunto tale stadio.
Adottare politiche specifiche per l’AI rimane limitato. Solo il 41% delle organizzazioni ha politiche di privacy dei dati specifiche per l’AI, mentre il 43% ha adottato un approccio di governance basato sul rischio che copre questioni come bias, minacce alla sicurezza e preoccupazioni etiche.
Il rapporto indica che il ritmo di implementazione supera i controlli interni. Quasi il 59% dei rispondenti afferma che l’AI rende più difficile conformarsi alle normative sulla privacy e sulla sicurezza, eppure la maggior parte delle organizzazioni non ha introdotto regole specifiche di privacy per i sistemi AI.
Problemi Operativi
Le preoccupazioni operative sono state altrettanto evidenti. Il 58% dei rispondenti ha dichiarato che i rischi legati ai prompt o agli input, comprese le risposte fuorvianti o dannose, sono molto o estremamente difficili da minimizzare. Più della metà (56%) ha segnalato difficoltà nella gestione dei rischi per gli utenti, inclusa la diffusione involontaria di disinformazione.
Problemi di Fiducia
Lo studio ha anche esaminato se i sistemi AI stiano offrendo i benefici attesi nelle operazioni di sicurezza. Solo il 51% dei rispondenti ha affermato che l’AI è efficace nel ridurre il tempo necessario per rilevare anomalie o minacce emergenti. La fiducia era ancora più bassa per usi più avanzati: meno della metà (48%) ha valutato l’AI come efficace per la rilevazione delle minacce e per l’analisi approfondita, riducendo il lavoro manuale.
Il bias e l’affidabilità rimangono ostacoli significativi. Quasi due terzi dei rispondenti (62%) hanno affermato che è molto o estremamente difficile minimizzare i rischi di bias nei modelli, incluse le uscite ingiuste o discriminatorie. Altri ostacoli riguardano il modo in cui i sistemi AI sono costruiti e utilizzati; il 45% ha citato errori nelle regole decisionali dell’AI come problema principale.
Conclusione
Per molte aziende, l’AI completamente autonoma sembra ancora lontana. Solo il 47% ha affermato che i propri modelli AI possono apprendere norme robuste e prendere decisioni sicure in autonomia, mentre il 51% ha detto che è necessaria una supervisione umana nella governance dell’AI, poiché gli attaccanti possono adattarsi rapidamente.
È fondamentale che la sicurezza e la governance siano integrate fin dall’inizio. Organizzazioni che si preparano per la prossima fase di adozione saranno quelle che affrontano la supervisione sin dall’inizio.
