Regolamentazione dell’AI: Limiti delle Immagini di Grok su X Riservati agli Utenti Paganti
Una startup ha limitato la funzione di generazione di immagini del suo chatbot Grok sulla piattaforma social X, riservandola agli abbonati paganti, dopo che l’uso dell’AI per creare immagini sessualizzate ha suscitato un ampio malcontento.
Contesto e Reazione
La generazione di immagini del chatbot permetteva agli utenti su X di modificare o creare foto sessualizzate, utilizzate per generare immagini di donne e bambini in abbigliamento minimale, spesso senza il consenso delle persone rappresentate. Questa situazione ha portato a un’ondata di immagini semi-nude sulla piattaforma, spingendo i legislatori europei a chiedere azioni legali.
Un funzionario dei media tedeschi ha descritto tali immagini come “l’industrializzazione della molestia sessuale”, e la Commissione Europea le ha dichiarate illegali.
Restrizioni e Implicazioni
Grok ha informato gli utenti di X che le funzioni di generazione e modifica delle immagini sono ora disponibili solo per gli abbonati paganti. Tuttavia, l’app Grok, che opera separatamente da X, consente ancora agli utenti di generare immagini senza un abbonamento.
Un giornalista ha chiesto a Grok su X di convertire una sua foto in un’immagine che lo ritraesse in bikini, una richiesta diventata comune nell’ultima settimana. Il bot non ha eseguito la richiesta, rispondendo che lo strumento era disponibile solo per gli abbonati paganti della piattaforma social.
In risposta a una richiesta di commento, la startup ha affermato che “i media tradizionali mentono”. La piattaforma X non ha immediatamente risposto a una richiesta di commento.
Preoccupazioni Legali
La Commissione Europea ha dichiarato che le immagini circolanti su X sono illegali e riprovevoli, mentre l’autorità britannica per la protezione dei dati ha chiesto alla piattaforma di spiegare come stesse rispettando le leggi sulla protezione dei dati, dati i timori che Grok stesse generando immagini sessualmente abusive di donne.
La startup ha affermato che chiunque utilizzi Grok per creare contenuti illegali affronterà le stesse conseguenze di chi carica direttamente tale materiale.
