Il governo chiede a X di agire riguardo agli “orribili” deepfake di Grok AI
Il governo ha richiesto con urgenza alla piattaforma di social media X di intervenire dopo che il suo chatbot AI, Grok, è stato utilizzato per generare immagini sessualizzate di donne e bambini senza il loro consenso. La Segretaria alla Tecnologia ha descritto la situazione come “assolutamente sconcertante” e ha affermato che il governo non tollererà la diffusione di contenuti che definisce degradanti e abusivi.
“Non possiamo e non permetteremo la proliferazione di queste immagini,” ha affermato, aggiungendo che le piattaforme hanno un chiaro dovere legale di agire. Questo intervento segue un “contatto urgente” effettuato dal regolatore dei media con X e la sua sussidiaria AI, xAI, dopo le preoccupazioni che Grok stesse producendo ciò che il regolatore ha descritto come “immagini senza vestiti” di persone reali.
Un portavoce di Ofcom ha dichiarato che, sulla base della risposta ricevuta, verrà effettuata una valutazione rapida per determinare se ci sono problemi di conformità che richiedono un’indagine.
Intervento del governo
La Segretaria alla Tecnologia ha pienamente supportato l’approccio di Ofcom e qualsiasi azione di enforcement che potrebbe intraprendere. “È assolutamente giusto che Ofcom esamini questa questione con urgenza e ha il mio pieno supporto per intraprendere qualsiasi azione di enforcement che ritenga necessaria,” ha dichiarato.
Ha sottolineato che la questione riguarda l’applicazione della legge e non la limitazione della libertà di espressione. “I servizi e gli operatori hanno un chiaro obbligo di agire in modo appropriato. Questo non riguarda la restrizione della libertà di parola, ma il rispetto della legge,” ha aggiunto.
Il governo ha inoltre reso prioritari i reati di abuso di immagini intime e cyberflashing ai sensi della Legge sulla Sicurezza Online, inclusi i casi in cui le immagini sono generate tramite AI.
Preoccupazioni emergenti
Grok è un assistente virtuale gratuito, con alcune funzionalità premium, che risponde ai comandi degli utenti quando viene taggato nei post su X. Sono emersi diversi esempi in cui gli utenti hanno chiesto a Grok di manipolare immagini reali per inserire donne in scenari sessualizzati.
L’Internet Watch Foundation ha anche identificato “immagini criminali” di ragazze minorenni che sembrano essere state create utilizzando Grok. Le preoccupazioni sono aumentate da quando X ha introdotto un pulsante “Modifica Immagine”, che consente agli utenti di modificare le immagini usando comandi testuali, anche se non hanno caricato la fotografia originale e senza il consenso della persona mostrata.
Molte donne le cui immagini sono state alterate in questo modo hanno descritto l’esperienza come disumanizzante. Alcuni utenti hanno espresso paura e disagio per le immagini generate, temendo per la propria sicurezza personale.
Reazioni e responsabilità
X ha dichiarato di adottare misure contro contenuti illegali sulla piattaforma, inclusi materiali di abuso sessuale su minori. “Chiunque utilizzi o chieda a Grok di creare contenuti illegali subirà le stesse conseguenze di chi carica contenuti illegali,” ha affermato la piattaforma.
Il leader dei Liberal-democratici ha esortato il governo ad agire rapidamente per prevenire la creazione di immagini sessualizzate utilizzando il chatbot. Ha suggerito che una possibile opzione potrebbe essere quella di ridurre l’accesso a X se le preoccupazioni fossero confermate.
La Legge sulla Sicurezza Online rende illegale creare o condividere immagini intime o sessualmente esplicite senza il consenso della persona, incluse quelle generate tramite AI. La legge richiede inoltre alle aziende tecnologiche di adottare misure appropriate per limitare l’esposizione degli utenti a tali materiali e di rimuoverli rapidamente una volta identificati.
