Costruire Fiducia nei Media Sintetici Attraverso una Governance Responsabile dell’IA
La fiducia negli ecosistemi informativi pubblici è cruciale per il dibattito democratico e la crescita socio-economica. Sebbene i media digitali abbiano ampliato l’accesso alle informazioni, hanno anche facilitato la diffusione di disinformazione e misinformazione, amplificata dall’uso dell’IA generativa. I media sintetici prodotti con l’IA generativa, incluso il deepfake, possono essere utilizzati per scopi costruttivi in settori come l’istruzione e l’intrattenimento, ma l’abuso, come la creazione di contenuti intimi non consensuali o la diffusione di notizie false, solleva preoccupazioni significative. A differenza della disinformazione tradizionale, i media sintetici appaiono spesso convincente e sono più difficili da identificare.
Rischi e Preoccupazioni
Il World Economic Forum avverte che le falsità alimentate dall’IA, che possono erodere la democrazia e approfondire la polarizzazione sociale, rappresentano un rischio immediato per l’economia globale. Paesi come l’India sono più vulnerabili a queste problematiche a causa della bassa alfabetizzazione digitale e della decadenza della legittimità dei media tradizionali.
Regolamentazione Globale
La regolamentazione destinata ad affrontare i danni dei media sintetici è in evoluzione a livello globale. L’AI Act dell’Unione Europea classifica i deepfake come una categoria di “rischio limitato”, richiedendo divulgazioni di trasparenza. Negli Stati Uniti, sono state proposte legislazioni che affrontano questioni specifiche, come il DEFIANCE Act per i deepfake espliciti non consensuali e il No AI FRAUD Act per proteggere le somiglianze personali. Il Take It Down Act, firmato dal presidente Trump, mira a garantire la rimozione dei media sintetici intimi non consensuali.
Fiducia, Privacy e Responsabilità
Le nuove normative mirate a fronteggiare i danni dei media sintetici sono in gran parte reattive, focalizzandosi su misure come la rimozione dai social media e l’identificazione dei contenuti sintetici. Sebbene queste siano misure positive, non affrontano la creazione di media sintetici dannosi e i relativi rischi. Anche quando i media sono chiaramente etichettati come artificiali, possono comunque causare danni reali.
Ad esempio, una donna raffigurata in contenuti pornografici non consensuali generati dall’IA può sperimentare vergogna e oggettivazione sessuale, anche se il media include un disclaimer che indica che è sintetico. Affidarsi esclusivamente agli strumenti di etichettatura presenta sfide operative; gli strumenti di etichettatura spesso mancano di accuratezza, creando un paradosso in cui etichette inaccurate possono legittimare media dannosi.
La Complessità della Moderazione
Inoltre, l’uso di media sintetici esiste su uno spettro e la presenza di contenuti misti generati da IA e umani aggiunge complessità alle strategie di moderazione. Questa complessità può portare le piattaforme a adottare approcci eccessivamente cauti per evitare responsabilità legali.
Rivisitare la Responsabilità
La governance dei media sintetici deve essere contestuale, poiché la legalità e l’appropriatezza dei contenuti generati dall’IA dipendono da come e dove vengono utilizzati. Un approccio normativo sensibile al contesto sarebbe proporzionato all’impatto potenziale e richiederebbe lo sviluppo di classificazioni di rischio basate su evidenze e principi di danno attraverso processi collaborativi.
Inoltre, le misure di responsabilità devono scattare in caso di non conformità con le salvaguardie fondamentali e necessarie. La governance deve essere rafforzata da un organismo di vigilanza indipendente, che produca rapporti annuali per garantire trasparenza e costruire fiducia tra gli utenti.
Sviluppare un Quadro Collaborativo
Fare affidamento esclusivamente su impegni volontari crea problemi significativi, poiché non stabilisce obblighi vincolanti. L’Istituto di Sicurezza dell’IA in India dovrebbe svolgere un ruolo attivo nel facilitare un processo collaborativo per la governance dell’IA generativa, coinvolgendo la società civile, il mondo accademico e gli esperti.
Un approccio coordinato a livello globale fornirebbe indicazioni tempestive sulle minacce emergenti e supporterebbe una governance adattabile e sensibile al contesto nel panorama in rapida evoluzione dell’IA generativa. La definizione chiara degli usi permessi e non permessi in collaborazione con i soggetti interessati è essenziale per evitare di soffocare l’espressione creativa legittima e affrontare adeguatamente gli usi dannosi.
