L’integrazione di GenAI nei flussi di lavoro quotidiani sfida direttamente le responsabilità dei Chief Human Resources Officers (CHRO) in materia di politiche e conformità. Un nuovo rapporto di Josys rivela che oltre un terzo dei professionisti australiani carica regolarmente dati aziendali sensibili su piattaforme AI non autorizzate, spesso senza alcun controllo formale.
Le aziende che adottano un’Intelligenza Artificiale responsabile stanno ottenendo miglioramenti significativi in aree cruciali come la crescita dei ricavi e la soddisfazione dei dipendenti. Ignorare i rischi associati all’IA può comportare costi considerevoli, con perdite finanziarie medie superiori a 4,4 milioni di dollari per le aziende colpite.
Il mercato della gestione del rischio dei modelli AI è previsto raggiungere 15,03 miliardi di dollari entro il 2033, con una crescita del 12,52% dal 2026 al 2033. Questo aumento è alimentato dall’adozione diffusa dell’AI e del machine learning, insieme a requisiti normativi sempre più rigorosi per garantire la trasparenza e l’etica dei modelli AI.
Un rapporto di Cyera ha concluso che l’adozione dell’IA supera la governance dei dati, la visibilità e i controlli. Il 66% dei rispondenti ha rilevato che l’IA accede a dati sensibili a cui non dovrebbe avere accesso.
Circa un mese fa, sono emerse preoccupazioni riguardo a un rapporto prodotto da Deloitte per il governo australiano, che conteneva materiale non verificabile. Questo incidente mette in evidenza un problema crescente nell’uso dell’IA nei contesti professionali: la normalizzazione del “lavoro sloppato”, contenuto generato dalla macchina che appare credibile in superficie ma presenta errori sottostanti.
La cybersecurity si sta evolvendo con l’ascesa dell’IA generativa e dell’IA agentica, che stanno alterando il campo di battaglia tra difensori e attaccanti. Le organizzazioni devono ripensare le loro difese informatiche, utilizzando l’IA come moltiplicatore di forza per contrastare l’uso improprio dell’IA generativa e prepararsi all’emergere dell’IA agentica.
Secondo un sondaggio di Gartner, entro il 2028 le violazioni delle normative sull’IA porteranno a un aumento del 30% delle controversie legali per le aziende tecnologiche. Solo il 23% dei leader IT si sente molto fiducioso nella capacità della propria organizzazione di gestire la sicurezza e la governance durante l’implementazione degli strumenti di GenAI.
L’IA responsabile sta migliorando le funzioni di rischio per fornire valore e innovazione nell’IA. Le organizzazioni irlandesi affrontano nuove obbligazioni con l’entrata in vigore della legge sull’IA dell’UE, e il team di audit interno può svolgere un ruolo cruciale per aiutare a soddisfare questi requisiti.
La sicurezza dei modelli linguistici di grandi dimensioni (LLM) è fondamentale per garantire interazioni etiche e affidabili con la tecnologia. Questa guida esplora i concetti chiave della sicurezza degli LLM, inclusi i rischi critici e le misure di protezione necessarie per un’implementazione responsabile.
Poppulo è diventata la prima azienda nel settore a ottenere la certificazione ISO/IEC 42001:2023, il primo standard internazionale per i sistemi di gestione dell’intelligenza artificiale. Questa certificazione rappresenta un benchmark per la governance responsabile dell’IA, garantendo pratiche di gestione del rischio e responsabilità dopo un audit rigoroso.