Le organizzazioni si orientano verso una governance “Zero-Trust” a causa della minaccia di un’inondazione di dati AI
Secondo un nuovo rapporto, si prevede che il 50% delle aziende adotterà politiche di dati zero-trust entro il 2028 per contrastare il “collasso del modello” causato dall’aumento dei dati sintetici non verificati.
La necessità di un approccio zero-trust
La transizione verso una postura “zero-trust” nella governance dei dati sta rapidamente guadagnando terreno, poiché i contenuti generati dall’AI iniziano a saturare gli ecosistemi dei dati, rendendo sempre più difficile distinguere tra informazioni umane e sintetiche. Un esperto avverte che la fiducia implicita nei dati non è più una strategia praticabile.
Il rischio del “Collasso del Modello”
La proliferazione dei dati sintetici rappresenta un rischio significativo per l’affidabilità dei futuri Modelli di Linguaggio di Grandi Dimensioni (LLM). Attualmente, i modelli vengono addestrati su grandi quantità di dati raccolti dal web, articoli di ricerca e codice. Tuttavia, man mano che le uscite dell’AI vengono riproposte nei cicli di addestramento dei nuovi modelli, il settore affronta un fenomeno noto come “collasso del modello”. Ciò si verifica quando gli strumenti AI iniziano a riflettere gli errori o i pregiudizi dei loro predecessori, piuttosto che la realtà oggettiva.
Innovazioni e sfide normative
Nonostante questi rischi, la domanda di intelligenza artificiale rimane elevata. Si segnala che una vasta percentuale di dirigenti intende aumentare i finanziamenti per l’AI generativa quest’anno. Tuttavia, è emerso un quadro normativo in evoluzione, dove alcune giurisdizioni potrebbero imporre rigorosi mandati di dati “senza AI”, mentre altre potrebbero adottare approcci più flessibili.
Raccomandazioni strategiche
Per mitigare i rischi associati ai dati non verificati, si consiglia alle organizzazioni di intraprendere alcune misure immediate, tra cui:
- Nomina di un Responsabile della Governance AI: un ruolo dedicato alla supervisione delle politiche e della conformità zero-trust.
- Collaborazione interfunzionale: allineare i team di cybersecurity, analisi dei dati ed etica per condurre valutazioni complete dei rischi.
- Modernizzazione delle pratiche di metadata: implementare sistemi automatizzati per identificare e segnalare contenuti generati dall’AI inaccurati o parziali in tempo reale.
- Adottare metadata attivi: utilizzare avvisi in tempo reale per dati obsoleti o non verificati per prevenire che contenuti inaccurati o parziali raggiungano sistemi critici.
