Google rilascia un rapporto sull’IA responsabile mentre rimuove il suo impegno anti-armi
Il rapporto annuale sull’IA responsabile di Google mette in luce alcuni aspetti cruciali, in particolare ciò che non viene menzionato. Non ci sono riferimenti a armi e sorveglianza.
Martedì, Google ha pubblicato il suo sesto Rapporto sui progressi dell’IA responsabile, che dettaglia i “metodi per governare, mappare, misurare e gestire i rischi dell’IA”, insieme a “aggiornamenti su come stiamo operativizzando l’innovazione responsabile dell’IA in tutta Google.”
Focus sui progetti e sulla sicurezza
Il rapporto evidenzia i numerosi articoli di ricerca sulla sicurezza pubblicati nel 2024 (più di 300), le spese per l’istruzione e la formazione in IA (120 milioni di dollari), e vari parametri di governance, incluso il Cloud AI di Google che ha ricevuto una valutazione di “prontezza” “matura” dal National Institute of Standards and Technology (NIST).
Il rapporto si concentra principalmente su progetti di red-teaming orientati alla sicurezza e ai contenuti, approfondendo iniziative come Gemini, AlphaFold e Gemma, e come l’azienda protegge i modelli dalla generazione o dalla diffusione di contenuti dannosi.
Strumenti di tracciamento e responsabilità
Google vanta strumenti di provenienza come SynthID, un tool per il watermarking dei contenuti progettato per tracciare meglio la disinformazione generata da IA che Google ha reso open-source.
Inoltre, Google ha aggiornato il suo Frontier Safety Framework, aggiungendo nuove raccomandazioni di sicurezza, procedure di mitigazione degli abusi e il rischio di allineamento ingannevole, che si riferisce al rischio di un sistema autonomo che mina deliberatamente il controllo umano.
Le sfide dell’IA responsabile
Il rapporto si mantiene sulla sicurezza dell’utente finale, la privacy dei dati e la sicurezza, rimanendo in un ecosistema relativamente chiuso dell’IA consumer. Sebbene il rapporto menzioni la protezione contro gli abusi e gli attacchi informatici, questi argomenti rimangono per lo più confinati a questo ambito.
È significativo notare che, allo stesso tempo, l’azienda ha rimosso dal proprio sito il suo impegno a non utilizzare l’IA per costruire armi o sorvegliare i cittadini, come riportato da Bloomberg. La sezione intitolata “applicazioni che non perseguiremo” sembra essere stata rimossa.
Riflessioni finali
Questa disconnessione tra il focus del rapporto sui consumatori e la rimozione dell’impegno su armi e sorveglianza mette in evidenza la questione perenne: cosa significa IA responsabile?
Google ha rinnovato i suoi principi sull’IA attorno a “tre principi fondamentali”: innovazione audace, progresso collaborativo e sviluppo e diffusione responsabili. Questi principi aggiornati si riferiscono alla diffusione responsabile come allineata con “gli obiettivi degli utenti, la responsabilità sociale e i principi ampiamente accettati del diritto internazionale e dei diritti umani”.
In conclusione, Google continuerà a concentrarsi sulla ricerca e sulle applicazioni dell’IA che si allineano con la sua missione, valutando sempre il lavoro specifico attraverso una valutazione attenta se i benefici superano sostanzialmente i potenziali rischi.
