Controversia su Grok AI
La piattaforma di social media ha riconosciuto lacune nei suoi standard di moderazione dei contenuti, secondo fonti governative. L’azienda ha informato il governo che opererà in piena conformità con tutte le leggi e regolamenti applicabili in India. Come parte delle misure correttive, sono già stati bloccati 3.500 contenuti e oltre 600 account sono stati eliminati. Inoltre, la piattaforma ha assicurato alle autorità che non permetterà contenuti osceni in futuro.
Azioni del Ministero dell’Elettronica e della Tecnologia dell’Informazione
La scorsa settimana, il Ministero ha inviato una comunicazione al Responsabile della Conformità della piattaforma, richiedendo un rapporto dettagliato sulle azioni intraprese entro 72 ore per garantire la conformità o la prevenzione dell’hosting, generazione, pubblicazione, trasmissione, condivisione o caricamento di contenuti osceni, nudi, indecenti e sessualmente espliciti attraverso l’uso improprio dei servizi basati su AI come Grok.
Critiche e implicazioni
Un membro del Rajya Sabha ha criticato la piattaforma per aver limitato la generazione di immagini problematiche e sessualizzate attraverso Grok solo agli utenti a pagamento, invece di fermarla del tutto. Questa mossa è stata vista come una monetizzazione di comportamenti riprovevoli sotto il pretesto di creatività e innovazione, definita un “uso vergognoso dell’AI”.
Reazioni internazionali
Nel frattempo, un paese ha sospeso completamente l’accesso a Grok, sviluppato da una nota azienda, a causa delle crescenti preoccupazioni globali sull’uso improprio dell’AI per creare immagini sessualizzate senza consenso.
Conclusione
La situazione attuale pone seri interrogativi sulla responsabilità e la regolamentazione dell’uso dell’intelligenza artificiale nelle piattaforme sociali. La necessità di misure di conformità rigorose è più urgente che mai per prevenire abusi futuri.
