Il stack AI agentico di Nvidia: Sicurezza e governance
Per la prima volta, un’importante piattaforma di AI è stata lanciata con la sicurezza integrata, piuttosto che aggiunta successivamente. Durante un recente evento, cinque fornitori di sicurezza hanno annunciato soluzioni di protezione per lo stack AI agentico di Nvidia, con quattro già attive e uno in fase di integrazione.
Il contesto della sicurezza
La rapida evoluzione delle minacce ha reso cruciale la sicurezza. Una percentuale significativa di professionisti della cybersecurity considera l’AI agentica come il principale vettore d’attacco per il 2026. Tuttavia, solo una minoranza delle organizzazioni si sente completamente pronta a implementare queste tecnologie in modo sicuro. La disparità tra le identità delle macchine e gli impiegati umani rappresenta un ulteriore problema.
Il CEO ha sottolineato l’importanza di limitare l’accesso delle AI ai dati sensibili e di impedire azioni privilegiate non autorizzate. Un nuovo modello di minaccia è stato definito per adattarsi alle caratteristiche uniche di diversi fornitori di sicurezza.
Il framework di governance a cinque livelli
Questo framework si basa sulle recenti annunci dei fornitori e sull’OWASP Agentic Top 10. Ogni livello di governance deve rispondere a domande specifiche; se un fornitore non può fornire risposte, quel livello è considerato non governato.
Le aree di governance includono:
- Decisioni agentiche: Controlli in tempo reale per ogni azione.
- Esecuzione locale: Monitoraggio dei comportamenti degli agenti sul dispositivo.
- Operazioni cloud: Applicazione di controlli durante il funzionamento nel cloud.
- Identità: Privilegi limitati per ogni identità agentica.
- Catena di approvvigionamento: Scansione dei modelli prima del deployment.
Rischi e lacune
Nonostante i progressi, ci sono tre aree critiche che rimangono scoperte:
- Fiducia tra agenti: Le deleghe tra agenti possono creare vulnerabilità.
- Integrità della memoria: Gli agenti con memoria persistente possono essere influenzati da attacchi.
- Provenienza dalla registrazione al runtime: È necessario garantire che il modello eseguito sia esattamente quello verificato inizialmente.
Conclusioni
Le aziende devono affrontare questi problemi per garantire una sicurezza efficace degli agenti AI. Un approccio strategico include l’audit degli agenti autonomi contro i livelli di governance e il monitoraggio delle domande senza risposta per identificare le lacune. La sicurezza deve essere integrata in ogni fase per evitare incidenti e garantire che gli agenti operino in modo sicuro.
