Un nuovo studio condotto da ricercatori di istituzioni prestigiose ha rivelato i rischi legati all’uso di agenti AI autonomi, capaci di intraprendere azioni reali e gestire dati sensibili. Questi agenti possono essere manipolati per rivelare informazioni riservate e compiere azioni distruttive, evidenziando la necessità di misure di sicurezza adeguate per le organizzazioni che li utilizzano.
La Corea del Sud ha avviato un gruppo di esperti per redigere i Principi Etici sull’Intelligenza Artificiale, mirati a costruire una società dell’IA sicura e affidabile. Il ministero prevede di presentare una bozza entro metà aprile e adottare una versione finale entro giugno, dopo un processo di consultazione pubblica.
L’AI è ormai una realtà aziendale e le organizzazioni devono evolversi oltre la semplice conformità per navigare nelle complesse normative globali e nelle considerazioni etiche. Le nuove linee guida dell’OECD offrono una roadmap per strutturare un framework di governance che integri l’AI nei sistemi di gestione esistenti.
Secondo un recente post su LinkedIn di Zenity, l’azienda ha raggiunto lo stato “In Process” di FedRAMP mentre lavora per ottenere l’autorizzazione federale completa. Il post evidenzia l’attenzione sulla sicurezza degli agenti AI all’interno delle agenzie federali, sottolineando che i modelli di sicurezza esistenti potrebbero non affrontare completamente la governance e il controllo in tempo reale.
Il governo del distretto di Futian ha lanciato una versione localizzata dell’agente AI OpenClaw, conosciuta come “Lobster”, che sta dimostrando un’efficienza impressionante nella governance. Questa nuova versione consente di semplificare compiti complessi e migliorare notevolmente la gestione delle richieste pubbliche.
L’Istituto di Salute Mentale Huntsman ha annunciato la pubblicazione di un quadro innovativo per garantire che i sistemi di intelligenza artificiale utilizzati nella salute siano sviluppati eticamente e in modo trasparente. Il framework SAFE AI offre linee guida pratiche per le piccole e medie imprese che costruiscono tecnologie mediche basate su IA, mirando a garantire equità e ridurre i bias nel trattamento dei pazienti.