Governance dei dati a zero fiducia necessaria per proteggere i modelli di AI
Le organizzazioni devono essere meno fiduciose nei confronti dei dati, considerando quanto di essi sia generato dall’AI, secondo nuove ricerche.
Con sempre più aziende che si uniscono al treno dell’AI generativa, il rischio cresce che i futuri modelli di linguaggio di grandi dimensioni (LLM) vengano addestrati su output di modelli precedenti, aumentando così il pericolo di ciò che viene chiamato “collasso del modello”.
Raccomandazioni per la gestione del rischio
Per evitare questo, si raccomanda alle aziende di apportare modifiche per gestire il rischio di dati non verificati. Queste includono:
- Nomina di un leader per la governance dell’AI che collabori a stretto contatto con i team di dati e analisi;
- Miglioramento della collaborazione tra i reparti con gruppi trasversali che includano rappresentanti della cybersecurity, dei dati e delle analisi;
- Aggiornamento delle politiche di sicurezza e gestione dei dati esistenti per affrontare i rischi derivanti dai dati generati dall’AI.
Previsioni future
Si prevede che entro il 2028, il 50% delle organizzazioni dovrà adottare un approccio a zero fiducia per la governance dei dati a causa di questo tsunami di dati non verificati generati dall’AI.
“Le organizzazioni non possono più fidarsi implicitamente dei dati o presumere che siano stati generati da esseri umani,” ha dichiarato un esperto in un comunicato. “Poiché i dati generati dall’AI diventano pervasivi e indistinguibili dai dati creati dagli esseri umani, un approccio a zero fiducia che stabilisca misure di autenticazione e verifica è essenziale per salvaguardare i risultati aziendali e finanziari.”
Complessità nella gestione dei dati
La situazione è complicata ulteriormente dalle diverse politiche governative riguardanti l’AI. “I requisiti possono differire significativamente tra le varie aree geografiche, con alcune giurisdizioni che cercano di imporre controlli più rigorosi sui contenuti generati dall’AI, mentre altre possono adottare un approccio più flessibile,” ha aggiunto l’esperto.
Un esempio significativo di come l’AI possa causare problemi di governance dei dati si è verificato quando un’azienda ha dovuto rimborsare parte di una commissione contrattuale governativa a causa di errori generati dall’AI, inclusi riferimenti legali non esistenti nel rapporto finale.
