Grok AI monetizza l’abuso: il governo deve intervenire, avverte un’organizzazione
L’abuso delle immagini generate dall’IA sta aumentando a un ritmo senza precedenti e il governo, insieme alle piattaforme tecnologiche, deve prendere misure urgenti per proteggere donne e ragazze, avverte un’organizzazione di beneficenza contro la violenza domestica.
Situazione attuale
La richiesta dell’organizzazione arriva in risposta al crescente numero di utenti di una piattaforma di social media che utilizzano la tecnologia dell’IA per creare immagini sessualizzate di donne e ragazze. Immagini innocenti pubblicate da donne e fotografie di bambini sono state manipolate con strumenti di IA per rimuovere i vestiti, metterle in posizioni sessualizzate e aggiungere segni di violenza.
In seguito a condanne diffuse, il proprietario della piattaforma ha annunciato che limiterà la possibilità di modificare le immagini con l’IA solo agli abbonati paganti. Tuttavia, il capo di un settore dedicato all’abuso facilitato dalla tecnologia ha affermato che questa mossa ha semplicemente monetizzato l’abuso, portando a un aumento delle immagini generate dall’IA utilizzate per scopi abusivi.
Risposta del governo
Il segretario alla tecnologia ha chiesto un intervento rapido, definendo la manipolazione sessuale di donne e bambini “disgustosa e abominevole”. Ha espresso l’aspettativa che l’autorità di regolamentazione utilizzi i poteri legali per bloccare i servizi che non rispettano le leggi del paese.
Tuttavia, non sono ancora state intraprese azioni dirette per fermare la creazione di queste immagini. L’organizzazione sottolinea che alla radice dell’aumento degli abusi ci sono veri trasgressori, mossi da misoginia radicata.
Implicazioni e rischi
Nonostante l’emanazione di linee guida per combattere la violenza contro donne e ragazze, queste misure non sono legalmente vincolanti. Quando le aziende tecnologiche sono lasciate a regolarsi da sole, le donne e le ragazze ne pagano il prezzo. Se le piattaforme permettono che l’abuso persista, o peggio, ne traggono profitto, il governo deve intervenire.
Conclusione
L’organizzazione chiede al governo di adottare misure urgenti per tenere Grok e altre aziende tecnologiche responsabili del mancato intervento contro l’abuso online, attraverso regolamenti più severi e conseguenze significative. Se lasciato incontrollato, la sicurezza di donne e ragazze rimarrà a rischio.
