Grok sotto scrutinio normativo in Corea del Sud per contenuti espliciti generati da AI
La Corea del Sud ha avviato azioni normative contro Grok, il chatbot generativo sviluppato da xAI, a seguito di accuse secondo cui il sistema è stato utilizzato per generare e distribuire immagini deepfake sessualmente esplicite. La Commissione per la Protezione delle Informazioni Personali del paese ha avviato una revisione preliminare per accertare se siano state commesse violazioni e se la questione rientri nella sua giurisdizione legale.
Accuse e preoccupazioni
La revisione segue rapporti internazionali che accusano Grok di facilitare la creazione di immagini esplicite e non consensuali di persone reali, comprese persone minorenni. Sotto la Legge sulla Protezione delle Informazioni Personali della Corea del Sud, generare o alterare immagini sessuali di persone identificabili senza consenso può costituire un trattamento illecito di dati personali, esponendo i fornitori a sanzioni.
Le preoccupazioni sono aumentate dopo che gruppi della società civile hanno stimato che milioni di immagini esplicite siano state prodotte tramite Grok in un breve periodo, con migliaia di esse che coinvolgono minori. Diversi governi, tra cui quelli degli Stati Uniti, Europa e Canada, hanno avviato indagini, mentre alcune parti dell’Asia sudorientale hanno optato per bloccare completamente l’accesso al servizio.
Risposte e misure preventive
In risposta, xAI ha introdotto restrizioni tecniche per impedire agli utenti di generare o modificare immagini di persone reali. I regolatori coreani hanno anche richiesto misure più rigorose di protezione per i giovani, avvertendo che il mancato intervento su contenuti criminali che coinvolgono minori potrebbe portare a sanzioni amministrative.
Conclusione
La situazione attorno a Grok evidenzia le sfide e i rischi associati all’uso della tecnologia AI nella creazione di contenuti. Mentre le tecnologie avanzano, è fondamentale trovare un equilibrio tra innovazione e responsabilità, specialmente quando si tratta di proteggere i dati e il benessere delle persone vulnerabili.
