Espansione degli agenti AI e le sfide di sicurezza emergenti

Microsoft: L’adozione degli agenti AI sta esplodendo prima dei controlli di sicurezza

Nuove ricerche rivelano che il dispiegamento di agenti AI autonomi nelle organizzazioni del Regno Unito è aumentato drasticamente nell’ultimo anno, portando con sé un’ondata di guadagni in produttività e una crescente sfida per la sicurezza.

Un aumento dell’adozione accompagnato da un aumento del rischio

Secondo lo studio, la percentuale delle organizzazioni nel Regno Unito che stanno attivamente implementando agenti AI è quasi triplicata in soli dodici mesi, passando dal 22% al 62%. Inoltre, il 68% si aspetta che gli agenti AI siano completamente integrati in tutta l’organizzazione entro i prossimi 12 mesi.

Tuttavia, con l’aumento del dispiegamento, emergono anche agenti non autorizzati, definiti “doppi agenti”, introdotti in ambienti aziendali senza la supervisione formale di IT o sicurezza, portando permessi eccessivi e insufficienti alla governance. L’84% dei leader senior ha segnalato questi agenti non autorizzati come un crescente rischio per la sicurezza.

Le sfide di sicurezza e conformità

Il 86% dei leader riconosce che gli agenti AI introducono sfide di sicurezza e conformità che i framework esistenti non erano progettati per gestire. L’85% crede che il dispiegamento stia avanzando più rapidamente di quanto i metodi di supervisione tradizionali possano supportare. L’80% è preoccupato per la complessità di gestire agenti su larga scala.

Nonostante queste preoccupazioni, il 87% dei leader è fiducioso che la propria organizzazione possa prevenire la creazione o l’uso non autorizzato di agenti AI.

Consigli per le aziende

Microsoft offre anche consigli su come affrontare questa crescente sfida. Il messaggio principale è che gli agenti AI devono essere trattati con la stessa attenzione riservata ad altre identità in un ambiente aziendale.

Applicare principi di zero trust agli agenti AI significa concedere accesso con il minimo privilegio, definire permessi chiari e garantire un’auditabilità completa delle attività degli agenti. Gli obiettivi includono mantenere la visibilità su dove operano gli agenti e integrarli in modo sicuro nei sistemi esistenti.

Conclusione

La ricerca riflette un modello più ampio che si intensificherà. Man mano che l’AI diventa più capace e più integrata nelle operazioni aziendali, le sfide di sicurezza introdotte cresceranno con essa. L’arrivo di agenti autonomi è improbabile che sia l’ultima volta che l’adozione della tecnologia supera i framework destinati a governarla.

More Insights

Responsabilità nell’Intelligenza Artificiale: Un Imperativo Ineludibile

Le aziende sono consapevoli della necessità di un'IA responsabile, ma molte la trattano come un pensiero secondario. È fondamentale integrare pratiche di dati affidabili sin dall'inizio per evitare...

Il nuovo modello di governance dell’IA contro il Shadow IT

Gli strumenti di intelligenza artificiale (IA) si stanno diffondendo rapidamente nei luoghi di lavoro, trasformando il modo in cui vengono svolti i compiti quotidiani. Le organizzazioni devono...

Piani dell’UE per un rinvio delle regole sull’IA

L'Unione Europea sta pianificando di ritardare l'applicazione delle normative sui rischi elevati nell'AI Act fino alla fine del 2027, per dare alle aziende più tempo per adattarsi. Questo cambiamento...

Resistenza e opportunità: il dibattito sul GAIN AI Act e le restrizioni all’export di Nvidia

La Casa Bianca si oppone al GAIN AI Act mentre si discute sulle restrizioni all'esportazione di chip AI di Nvidia verso la Cina. Questo dibattito mette in evidenza la crescente competizione politica...

Ritardi normativi e opportunità nel settore medtech europeo

Un panel di esperti ha sollevato preoccupazioni riguardo alla recente approvazione dell'AI Act dell'UE, affermando che rappresenta un onere significativo per i nuovi prodotti medtech e potrebbe...

Innovazione Etica: Accelerare il Futuro dell’AI

Le imprese stanno correndo per innovare con l'intelligenza artificiale, ma spesso senza le dovute garanzie. Quando privacy e conformità sono integrate nel processo di sviluppo tecnologico, le aziende...

Rischi nascosti dell’IA nella selezione del personale

L'intelligenza artificiale sta trasformando il modo in cui i datori di lavoro reclutano e valutano i talenti, ma introduce anche significativi rischi legali sotto le leggi federali contro la...

L’intelligenza artificiale nella pubblica amministrazione australiana: opportunità e sfide

Il governo federale australiano potrebbe "esplorare" l'uso di programmi di intelligenza artificiale per redigere documenti sensibili del gabinetto, nonostante le preoccupazioni riguardo ai rischi di...

Regolamento Europeo sull’Intelligenza Artificiale: Innovare con Responsabilità

L'Unione Europea ha introdotto la Regolamentazione Europea sull'Intelligenza Artificiale, diventando la prima regione al mondo a stabilire regole chiare e vincolanti per lo sviluppo e l'uso dell'IA...