Governance dell’AI basata sull’identità: Sicurezza della forza lavoro agentica
Gli agenti AI operano ora all’interno di sistemi di produzione, interrogando database e aggiornando software in modo autonomo. In molte aziende, si autenticano utilizzando chiavi API statiche o credenziali condivise, piuttosto che identità distinte nel sistema di gestione delle identità aziendale.
Rischi della governance
L’autenticazione di sistemi autonomi tramite credenziali condivise introduce reali rischi di governance. Quando un agente esegue un’azione, i log spesso la attribuiscono a una chiave di sviluppo o a un account di servizio invece che a un attore autonomo definito. Questo rende l’attribuzione ambigua e indebolisce il principio del “minimo privilegio”. La revoca può richiedere la rotazione delle credenziali o la modifica del codice anziché disabilitare un’identità governata.
Le credenziali condivise trasformano i sistemi autonomi in “identità ombra”, attori che operano all’interno della produzione senza un’identità governata nel registro aziendale. La governance deve garantire che ogni attore autonomo sia tracciabile, con permessi specifici e revocabili centralmente.
Considerazioni sulla governance per sistemi non deterministici
I sistemi AI agentici operano in modo diverso rispetto al software aziendale tradizionale. Utilizzano modelli probabilistici per valutare il contesto, recuperare informazioni dinamicamente e costruire percorsi d’azione in tempo reale. Tuttavia, questo introduce nuove considerazioni di governance, poiché i percorsi di esecuzione possono variare e le azioni possono estendersi oltre ciò che è stato esplicitamente programmato.
Perché la sicurezza basata su credenziali fallisce negli ambienti agentici
La maggior parte delle aziende utilizza ancora chiavi API statiche o credenziali di servizio condivise per garantire la sicurezza degli agenti AI. Questo modello funzionava quando il software eseguiva logica prevedibile, ma si rompe quando i sistemi autonomi operano in ambienti di produzione. L’attività è registrata ma non chiaramente attribuita, rendendo più difficile applicare il principio del “minimo privilegio”.
Governance basata sull’identità: Un cambiamento strategico
Il divario di governance creato dalle identità ombra non può essere risolto con ulteriore monitoraggio. È necessario un cambiamento strutturale in come sono governati i sistemi autonomi. La governance deve trattare i sistemi autonomi come identità di primo livello all’interno dello stesso registro che governa gli utenti umani.
Esempi pratici di agenti supportati da identità
Un modo per affrontare il divario di governance è quello di considerare i sistemi autonomi come identità di primo livello nel registro aziendale. Questo approccio richiede una coordinazione tra l’orchestrazione degli agenti e l’infrastruttura di identità aziendale, assicurando che gli agenti siano dotati di identità governate.
Principi di governance per l’AI agentica
Con l’avanzare dei sistemi autonomi negli ambienti di produzione, la governance deve diventare esplicita. Tre principi fondamentali sono essenziali:
1. Eliminare le credenziali statiche
I sistemi autonomi non devono autenticarsi tramite chiavi API a lungo termine o account di servizio condivisi. Gli agenti di produzione devono utilizzare credenziali controllate da politiche, legate a un’identità governata.
2. Auditare l’attore, non la piattaforma
I registri di sicurezza dovrebbero attribuire azioni a identità autonome specifiche, non a servizi generici o chiavi di sviluppo.
3. Centralizzare l’autorità di revoca
I team di sicurezza devono essere in grado di limitare o disabilitare un sistema autonomo attraverso il piano di controllo delle identità principale.
Conclusione
I sistemi autonomi ora operano all’interno dei flussi di lavoro principali, accedendo a dati regolamentati e compiendo azioni significative. I modelli di governance progettati per il software deterministico non sono sufficienti per i sistemi autonomi. Se un sistema può agire, deve esistere come identità governata all’interno dello stesso piano di controllo che protegge la forza lavoro.
