Agenti AI – Quanto cambiano le regole per la governance dell’AI in Australia?
Negli ultimi anni, una nuova classe di strumenti di intelligenza artificiale (AI) conosciuti come agenti autonomi ha preso piede, segnando l’inizio di quella che viene comunemente definita l’era agentica. Questi agenti hanno introdotto nuove possibilità nell’automazione, ma la loro natura dinamica e autonoma ha anche il potenziale di intensificare alcuni problemi esistenti legati all’AI, come pregiudizi, discriminazione, proprietà intellettuale, privacy, trasparenza e spiegabilità.
Cosa sono gli ‘agenti’?
Non esiste ancora una definizione stabilita di cosa costituisca un agente, poiché il termine è stato applicato a una vasta gamma di tecnologie, dai modelli di ragionamento (come il modello ‘Computer Use’ di Anthropic) agli assistenti agentici (come ChatGPT). I tratti distintivi di un agente includono autonomia, adattabilità e orientamento agli obiettivi con un intervento umano minimo o nullo. Queste caratteristiche rappresentano un cambiamento rispetto al paradigma prompt-risposta dell’AI generativa.
È importante distinguere tra agenti e AI agentica, poiché quest’ultima si riferisce a un paradigma più avanzato in cui sistemi autonomi collaborano per raggiungere obiettivi complessi. I quadri di governance per gestire i rischi degli agenti potrebbero differire da quelli per l’AI agentica.
Il problema del ‘black box’
I principi attuali di trasparenza nell’AI si concentrano su disclosure (come avvisi e watermarking) per informare gli individui se stanno interagendo con l’AI. Tuttavia, questi principi sono limitati a causa del problema della black box, dove i modelli non sono necessariamente spiegabili in termini significativi. Gli agenti possono eseguire rapidamente volumi di micro-azioni in background, spesso non visibili all’organizzazione che li utilizza.
Gestire i rischi in movimento
Gli agenti sono considerati dinamici poiché possono adattarsi e sviluppare attributi emergenti senza modifiche manuali. Ad esempio, un bot di assistenza clienti potrebbe non solo rispondere a domande ma anche gestire autonomamente compiti come la navigazione in internet o l’invio di comunicazioni a terzi. Questa capacità di evoluzione dinamica richiede quadri di governance adeguati per garantire che gli agenti operino all’interno di soglie di rischio accettabili.
Salvaguardie tecniche necessarie più che mai
Con gli agenti capaci di eseguire autonomamente obiettivi complessi, la gestione dei rischi sta cambiando. Stiamo assistendo all’emergere di strumenti come piattaforme di conformità AI che forniscono dashboard e funzionalità di monitoraggio in tempo reale per le azioni degli agenti. L’uso di arbitri generativi AI multi-modello potrebbe anche aiutare a convalidare le azioni degli agenti prima che vengano eseguite.
Quali azioni intraprendere?
Le équipe legali devono collaborare proattivamente con i team di business e tecnologia per sviluppare quadri di governance efficaci e garantire la conformità con gli standard legali in evoluzione. È fondamentale stabilire documenti di governance e piani di risposta agli incidenti, mantenendo audit trail delle decisioni degli agenti per supportare indagini regolatorie.
