Problema di contenuti osceni di Grok AI: X ammette l’errore, rimuove 600 account; assicura conformità
Il 11 gennaio, una piattaforma di microblogging ha ammesso il proprio errore e rimosso circa 3.500 contenuti, oltre a cancellare più di 600 account, dopo che il Ministero dell’IT ha sollevato preoccupazioni riguardo ai contenuti osceni legati al chatbot AI Grok. La piattaforma ha assicurato alle autorità che si conformerà alle leggi indiane.
Contesto e azioni intraprese
Questa azione arriva in un momento di crescente pressione su Grok da parte dei governi di tutto il mondo, mentre i regolatori intensificano il controllo sul motore AI generativa riguardo alla moderazione dei contenuti, alla sicurezza dei dati e alle immagini sessualmente esplicite non consensuali che hanno invaso la piattaforma negli ultimi giorni. Secondo fonti governative indiane, la piattaforma ha accettato il proprio errore e ha garantito che non permetterà più immagini oscene.
Recentemente, la piattaforma ha comunicato di prendere misure contro contenuti illegali, incluso il materiale di abuso sessuale infantile (CSAM), rimuovendoli, sospendendo permanentemente account e collaborando con i governi locali e le forze dell’ordine quando necessario. È stato chiarito che chi utilizza Grok per creare contenuti illegali subirà le stesse conseguenze di chi carica contenuti illegali.
Reazioni e pressioni internazionali
La piattaforma sta affrontando un backlash globale a causa della “denudazione digitale” delle immagini attraverso i prompt degli utenti sul chatbot xAI Grok. Ha ricevuto critiche dai governi di diversi paesi, inclusi quelli europei e asiatici, con avvertimenti di conseguenze se non rispetterà le normative di sicurezza online.
Il Ministero dell’IT ha richiesto che la piattaforma rimuovesse immediatamente tutti i contenuti osceni generati da Grok, sottolineando che l’uso improprio della tecnologia AI da parte degli utenti per creare account falsi e condividere immagini oscene rappresenta una grave violazione delle leggi vigenti.
Conseguenze e obblighi di conformità
Il governo ha chiarito che la conformità alla legge IT e alle normative non è facoltativa e che le esenzioni legali per gli intermediari online dipendono dal rigoroso rispetto degli obblighi di diligenza. È stato avvertito che eventuali inadempienze comporteranno la perdita di tali esenzioni e conseguenze legali.
La piattaforma è stata invitata a far rispettare i termini di servizio e le restrizioni sull’uso dell’AI, imponendo misure di deterrenza, come la sospensione e la terminazione degli account che violano le normative.
Conclusione
La risposta iniziale della piattaforma, sebbene dettagliata, è stata considerata insufficiente dal Ministero dell’IT, portando a una richiesta di informazioni più specifiche riguardo alle azioni intraprese contro i contenuti osceni. In seguito all’accettazione dell’errore, la piattaforma ha garantito la sua conformità alle leggi e regolamenti indiani, mentre anche altri paesi, come Regno Unito e UE, esercitano pressioni sulla questione.
