AI e l’adozione della governance dei dati zero-trust
Gartner ha avvertito che l’aumento del volume di dati generati dall’IA minaccia l’affidabilità futura dei modelli di linguaggio di grandi dimensioni (LLM).
Si prevede che il 50% delle organizzazioni adotterà un approccio zero-trust per la governance dei dati entro il 2028, a causa della proliferazione di dati generati da IA non verificati.
Investimenti in IA e rischi associati
Secondo un recente sondaggio del 2026 rivolto a CIO e dirigenti tecnologici, l’84% si aspetta un aumento dei finanziamenti per l’IA generativa. Con l’accelerazione dell’adozione e degli investimenti nelle iniziative di IA, il volume dei dati generati dall’IA continuerà a crescere. Questo significa che le future generazioni di LLM saranno sempre più addestrate sugli output dei modelli precedenti, aumentando il rischio di “crash del modello”, in cui le risposte degli strumenti di IA potrebbero non riflettere più accuratamente la realtà.
Necessità di un approccio zero-trust
Le organizzazioni non possono più fidarsi implicitamente dei dati o assumere che siano stati generati da esseri umani. Con la diffusione dei dati generati dall’IA, che diventano indistinguibili dai dati creati dall’uomo, è essenziale adottare una postura zero-trust che stabilisca misure di autenticazione e verifica per tutelare i risultati aziendali e finanziari.
Le normative per la verifica dei dati “senza IA” sono attese in alcune regioni, sebbene possano variare notevolmente tra le diverse giurisdizioni. Alcuni territori potrebbero cercare di imporre controlli più severi sui contenuti generati dall’IA, mentre altri potrebbero adottare un approccio più flessibile.
Identificazione dei dati generati dall’IA
Gli LLM sono tipicamente addestrati utilizzando dati estratti dal web, oltre a varie altre fonti, tra cui libri, repository di codice e articoli di ricerca. Alcune di queste fonti contengono già contenuti generati dall’IA e, se l’attuale tendenza continua, praticamente tutte saranno eventualmente riempite di dati generati dall’IA.
In questo contesto normativo in evoluzione, tutte le organizzazioni dovranno avere la capacità di identificare e contrassegnare i dati generati dall’IA. Il successo dipenderà dall’avere gli strumenti giusti e da una forza lavoro competente nella gestione delle informazioni e delle conoscenze, oltre a soluzioni di gestione dei metadati essenziali per la catalogazione dei dati.
Conclusione
Pratiche proattive di gestione dei metadati diventeranno un fattore chiave di differenziazione, consentendo alle organizzazioni di analizzare, segnalare e automatizzare il processo decisionale su tutti i loro beni informativi.
