Abuso dei deepfake AI su X suscita scrutinio globale sulla sicurezza della piattaforma
Una causa collettiva intentata negli Stati Uniti ha riacceso lo scrutinio globale sulla sicurezza dell’intelligenza artificiale, dopo che il chatbot AI di X è stato utilizzato per generare immagini sessuali non consensuali di donne, inclusi bambini.
La causa, presentata il 23 gennaio 2026, segue un incidente in cui una donna ha postato una foto di sé vestita su X. Altri utenti hanno successivamente richiesto al chatbot di manipolare l’immagine in un deepfake sessualizzato. L’immagine alterata è circolata pubblicamente per diversi giorni prima di essere rimossa.
Secondo i documenti legali, la donna ha subito un significativo stress emotivo, compresi timori di danni reputazionali e professionali. La causa sostiene che X e il suo sviluppatore non abbiano implementato salvaguardie adeguate per prevenire la generazione e la diffusione di immagini intime non consensuali, descrivendo la condotta della piattaforma come “despicabile”.
Progettazione AI sotto scrutinio
Secondo il reclamo, il design del sistema di Grok mancava di protezioni di sicurezza dei contenuti fondamentali. Si sostiene che i comandi interni del sistema istruiscano il chatbot che, a meno che non sia esplicitamente limitato, non ha “nessuna limitazione” su contenuti per adulti o offensivi.
I querelanti affermano che l’assenza di salvaguardie predefinite ha reso inevitabile il danno prevedibile, specialmente in un ambiente della piattaforma già noto per molestie e abusi.
Dopo il malcontento pubblico all’inizio di gennaio, la società non ha immediatamente disabilitato la capacità di manipolazione delle immagini. Invece, ha limitato l’accesso a questa funzione agli utenti “Premium” su X, monetizzando così un comportamento abusivo piuttosto che prevenirlo.
Un passo verso la responsabilità
Le autorità di diversi paesi hanno avviato indagini o emesso avvertimenti riguardo a Grok. Diversi regolatori stanno esaminando se X non abbia valutato e mitigato i rischi sistemici, e sono stati emessi ultimatum per fermare la generazione di immagini sessualizzate false.
Questo caso rappresenta un punto focale in un dibattito internazionale più ampio sulla governance dell’AI generativa e sulla responsabilità delle piattaforme. Le misure di sicurezza volontarie e la moderazione post-evento sono considerate insufficienti nell’era dell’AI generativa.
Conclusione
L’esito della causa Grok negli Stati Uniti e le risposte normative internazionali potrebbero determinare se le piattaforme siano finalmente tenute a internalizzare i costi sociali delle tecnologie che implementano. L’implementazione di principi dei diritti umani, come dignità e privacy, deve essere incorporata sin dalla fase di progettazione.
