Un Campanello d’Allerta per la Governance delle Interazioni tra AI Multi-Agente
Questo mese, la compagnia di navigazione privata italiana Grimaldi Group ha lanciato il suo nuovo trasportatore da 9.000 unità, il Grande Tianjin, nel suo viaggio inaugurale, trasportando veicoli elettrici dalla Cina all’Europa. Durante il viaggio, attraverserà giurisdizioni, navigando tra nazioni concorrenti e adattando il suo corso in base alle rotte monitorate di altre imbarcazioni. La fluidità di un tale viaggio dipende da una rete altamente funzionante di quadri legali, infrastrutture e supervisione.
Ora, sostituiamo una nave marittima con un agente AI. Si tratta di un sistema in grado di prendere decisioni in un ambiente molto più complesso di quello marittimo. Può interagire con altri sistemi AI per raggiungere i suoi obiettivi e porre rischi senza precedenti nel farlo. Mentre questo scenario complesso si sta già sviluppando, esistono quadri di governance estremamente limitati per garantire che queste interazioni AI rimangano sicure.
I sistemi AI multi-agente pongono nuovi rischi
Aziende stanno sviluppando agenti AI, definiti come capaci di operare in ambienti complessi e perseguire obiettivi con poca istruzione o supervisione. Sebbene le capacità agentiche di GPT-5 siano state accolte con qualche scepticismo, esiste un forte incentivo di mercato per continuare a costruire questi sistemi. Nel Regno Unito, OpenAI ha annunciato un accordo governativo, mentre Palantir sta collaborando con il NHS. In Europa, l’Archibot di Anthropic sta “navigando” negli archivi del Parlamento Europeo.
Con il settore pubblico e privato che accelerano l’adozione per raccogliere valore commerciale, gli agenti AI dovranno comunicare e interagire sia tra di loro che con le persone per completare i loro compiti, creando così sistemi AI multi-agente. Ci sono già scenari preoccupanti che evidenziano i potenziali modi di fallimento che possono sorgere da queste interazioni multi-agente, inclusi:
- I sistemi AI che controllano il mercato della benzina al dettaglio in Germania hanno mostrato di colludere a spese dei clienti.
- Sistemi AI coinvolti in tre scenari simulati di condivisione delle risorse hanno accelerato il degrado delle risorse.
- Veicoli senza conducente alimentati da AI potrebbero non coordinarsi se le loro strategie sono incompatibili.
Anche se gli agenti AI possono operare autonomamente, la loro comprensione del contesto in cui si trovano e delle conseguenze delle loro azioni è limitata. Inoltre, i modelli fondamentali che formano la base degli agenti AI non sono progettati tenendo conto dei rischi multi-agente e mancano dell’intelligenza cooperativa necessaria per interagire in modo sicuro.
È necessario costruire infrastrutture e standard per una cooperazione AI sicura?
In questo contesto, il Codice di Condotta AI Generale dell’UE è un promettente inizio. Per la prima volta, un quadro di governance ha riconosciuto i rischi intrinseci derivanti dalle interazioni multi-agente. Tuttavia, questo codice è solo un pezzo di un puzzle più grande.
Il settore marittimo può offrire alcune linee guida ispiratrici su come costruire la governance e l’infrastruttura adeguate per gli agenti AI oggi:
- Rendere visibile l’invisibile. I sistemi di identificazione automatizzati nel settore marittimo consentono il tracciamento della posizione, velocità e obiettivi delle navi. Gli agenti AI dovrebbero diventare scopribili e trasparenti.
- Normative di cooperazione. Le leggi marittime stabiliscono obblighi per la cooperazione bilaterale e regionale. In questo contesto, il Trattato AI del Consiglio d’Europa potrebbe essere un buon punto di partenza.
- Creazione di un’infrastruttura cooperativa. Come i sistemi marittimi si basano su meccanismi di comunicazione e coordinamento, anche gli agenti AI richiederanno strutture simili.
Una finestra di governance per l’Europa
Con l’accelerazione della distribuzione dell’AI sotto la pressione del mercato, è fondamentale investire in governance per affrontare i rischi e i risultati senza precedenti che ne derivano. Non consentiremmo a navi o aerei di navigare senza visibilità o protocolli di coordinamento. Eppure, siamo sul punto di farlo con sistemi AI avanzati e attualmente fallibili.
È quindi l’Europa che può aprire la strada a un’implementazione responsabile dell’AI multi-agente, stabilendo misure di governance e infrastruttura da seguire in tutto il mondo.
