X ha cercato di evitare l’inchiesta del Brasile sui deepfake dell’AI: il governo ha appena risposto
Negli ultimi mesi, il Brasile è stato coinvolto in uno stallo normativo con una piattaforma riguardo al suo strumento di AI generativa, dopo che è emerso che la piattaforma ha generato milioni di immagini sessualizzate, comprese migliaia che ritraggono minori. La piattaforma ha ammesso le vulnerabilità sottostanti, ma ha cercato di limitare la propria esposizione legale affermando che le sue entità legali sono separate.
La risposta del governo brasiliano
I regolatori brasiliani hanno respinto questa narrativa, richiedendo misure tecniche per prevenire la generazione di immagini sessualizzate senza consenso. Le richieste sono aumentate, con minacce di sanzioni giornaliere se non venissero adottate le misure appropriate.
La generazione di contenuti sessualizzati
Secondo un rapporto, in 11 giorni di operatività, la piattaforma ha generato oltre 3 milioni di immagini sessualizzate. I funzionari del governo hanno inviato richieste per indagare e sospendere l’operazione della piattaforma nel paese.
Le difese della piattaforma
In una lettera, la piattaforma ha cercato di difendersi affermando che il profilo in questione è come qualsiasi altro account sulla piattaforma e dovrebbe quindi essere soggetto alle stesse regole. Tuttavia, i funzionari hanno risposto che la piattaforma ha cercato di deviare la responsabilità, evidenziando che il servizio presentava un difetto di design.
Le implicazioni legali
I regolatori brasiliani hanno sottolineato che la piattaforma deve dimostrare di rispettare il proprio dovere di cura e di non avere fallimenti sistemici che consentano la circolazione di contenuti dannosi. Ciò potrebbe portare a misure più severe, comprese sanzioni quotidiane e azioni legali.
Conclusioni
Il caso potrebbe avere un impatto sulle future normative relative a Internet in Brasile, ponendo la piattaforma di fronte a nuove responsabilità per la gestione dei contenuti generati dagli utenti.
