Durante la 80ª sessione dell’Assemblea Generale delle Nazioni Unite, sono state lanciate due nuove iniziative: il Dialogo Globale sulla Governance dell’IA e il Panel Scientifico Internazionale Indipendente sull’IA. Queste iniziative mirano a fornire una piattaforma inclusiva per discutere le questioni critiche relative all’IA e a colmare il divario tra ricerca avanzata e politiche pubbliche.
In un’intervista con Greg Hutchins di Quality Plus Engineering, si esplorano le implicazioni aziendali della governance dell’IA e dei framework di gestione del rischio. L’adozione di standard come NIST AI RMF e ISO 42001 è fondamentale per costruire fiducia nei sistemi di intelligenza artificiale emergenti.
La California sta attuando una serie di leggi sulla tecnologia, tra cui il “Transparency in Frontier Artificial Intelligence Act”, che richiede alle aziende di intelligenza artificiale di divulgare i potenziali danni e i protocolli di sicurezza. Inoltre, è stata approvata una legge che limita il volume delle pubblicità commerciali e una che facilita l’annullamento degli account sui social media.
I sistemi sanitari e le startup devono affrontare questioni difficili di governance e regolamentazione mentre implementano nuovi strumenti basati sull’intelligenza artificiale. Un recente webinar ha messo in evidenza che molte strutture sanitarie potrebbero avere l’esperienza per monitorare i modelli di apprendimento automatico, ma non dispongono ancora delle infrastrutture e delle capacità necessarie per farlo su larga scala.
Il GAIN Act richiede ai produttori di chip AI di soddisfare prima gli ordini del mercato statunitense prima di effettuare esportazioni, creando così una potenziale disuguaglianza nel mercato globale. Questo potrebbe avere ripercussioni significative per le startup di AI e per i miner di criptovalute, poiché potrebbero affrontare aumenti dei costi e difficoltà logistiche.
Il “Responsible AI Safety and Education Act” (RAISE Act) recentemente approvato dalla legislatura dello stato di New York cerca di affrontare i rischi fondamentali posti dai modelli AI avanzati. Tuttavia, imponendo obblighi esclusivamente agli sviluppatori di tali modelli, rischia di congelare l’innovazione senza migliorare significativamente la sicurezza.
Le aziende devono affrontare già oggi problemi di conformità legati all’intelligenza artificiale, poiché le normative esistenti potrebbero essere violate dalle implementazioni di AI. Con l’adozione crescente di strumenti AI, è fondamentale che le imprese comprendano le leggi applicabili e sviluppino misure strategiche per innovare in modo sicuro.
Gli strumenti di codifica AI come GitHub Copilot aumentano la produttività ma presentano gravi rischi per la sicurezza. Senza una governance adeguata e la convalida dell’AI, le organizzazioni affrontano minacce invisibili e un crescente debito tecnico.
La California ha compiuto un passo storico verso la regolamentazione dell’intelligenza artificiale, approvando il Transparency in Frontier Artificial Intelligence Act (SB 53), la prima legge statale negli Stati Uniti dedicata interamente alla sicurezza e responsabilità dell’IA. Questa legge richiede ai principali sviluppatori di IA di pubblicare quadri di sicurezza e segnalare incidenti gravi, proteggendo al contempo i dipendenti che segnalano violazioni.
L’integrazione incontrollata dell’IA nel governo minaccia i diritti umani, la responsabilità e i principi democratici, consentendo nel contempo l’eccesso di potere statale. Senza una forte opposizione pubblica e regolamentazioni, un futuro distopico è probabile.