Costruire Fiducia nei Media Sintetici Tramite una Governance Responsabile dell’IA

Costruire Fiducia nei Media Sintetici Attraverso una Governance Responsabile dell’IA

La fiducia negli ecosistemi informativi pubblici è cruciale per il dibattito democratico e la crescita socio-economica. Sebbene i media digitali abbiano ampliato l’accesso alle informazioni, hanno anche facilitato la diffusione di disinformazione e misinformazione, amplificata dall’uso dell’IA generativa. I media sintetici prodotti con l’IA generativa, incluso il deepfake, possono essere utilizzati per scopi costruttivi in settori come l’istruzione e l’intrattenimento, ma l’abuso, come la creazione di contenuti intimi non consensuali o la diffusione di notizie false, solleva preoccupazioni significative. A differenza della disinformazione tradizionale, i media sintetici appaiono spesso convincente e sono più difficili da identificare.

Rischi e Preoccupazioni

Il World Economic Forum avverte che le falsità alimentate dall’IA, che possono erodere la democrazia e approfondire la polarizzazione sociale, rappresentano un rischio immediato per l’economia globale. Paesi come l’India sono più vulnerabili a queste problematiche a causa della bassa alfabetizzazione digitale e della decadenza della legittimità dei media tradizionali.

Regolamentazione Globale

La regolamentazione destinata ad affrontare i danni dei media sintetici è in evoluzione a livello globale. L’AI Act dell’Unione Europea classifica i deepfake come una categoria di “rischio limitato”, richiedendo divulgazioni di trasparenza. Negli Stati Uniti, sono state proposte legislazioni che affrontano questioni specifiche, come il DEFIANCE Act per i deepfake espliciti non consensuali e il No AI FRAUD Act per proteggere le somiglianze personali. Il Take It Down Act, firmato dal presidente Trump, mira a garantire la rimozione dei media sintetici intimi non consensuali.

Fiducia, Privacy e Responsabilità

Le nuove normative mirate a fronteggiare i danni dei media sintetici sono in gran parte reattive, focalizzandosi su misure come la rimozione dai social media e l’identificazione dei contenuti sintetici. Sebbene queste siano misure positive, non affrontano la creazione di media sintetici dannosi e i relativi rischi. Anche quando i media sono chiaramente etichettati come artificiali, possono comunque causare danni reali.

Ad esempio, una donna raffigurata in contenuti pornografici non consensuali generati dall’IA può sperimentare vergogna e oggettivazione sessuale, anche se il media include un disclaimer che indica che è sintetico. Affidarsi esclusivamente agli strumenti di etichettatura presenta sfide operative; gli strumenti di etichettatura spesso mancano di accuratezza, creando un paradosso in cui etichette inaccurate possono legittimare media dannosi.

La Complessità della Moderazione

Inoltre, l’uso di media sintetici esiste su uno spettro e la presenza di contenuti misti generati da IA e umani aggiunge complessità alle strategie di moderazione. Questa complessità può portare le piattaforme a adottare approcci eccessivamente cauti per evitare responsabilità legali.

Rivisitare la Responsabilità

La governance dei media sintetici deve essere contestuale, poiché la legalità e l’appropriatezza dei contenuti generati dall’IA dipendono da come e dove vengono utilizzati. Un approccio normativo sensibile al contesto sarebbe proporzionato all’impatto potenziale e richiederebbe lo sviluppo di classificazioni di rischio basate su evidenze e principi di danno attraverso processi collaborativi.

Inoltre, le misure di responsabilità devono scattare in caso di non conformità con le salvaguardie fondamentali e necessarie. La governance deve essere rafforzata da un organismo di vigilanza indipendente, che produca rapporti annuali per garantire trasparenza e costruire fiducia tra gli utenti.

Sviluppare un Quadro Collaborativo

Fare affidamento esclusivamente su impegni volontari crea problemi significativi, poiché non stabilisce obblighi vincolanti. L’Istituto di Sicurezza dell’IA in India dovrebbe svolgere un ruolo attivo nel facilitare un processo collaborativo per la governance dell’IA generativa, coinvolgendo la società civile, il mondo accademico e gli esperti.

Un approccio coordinato a livello globale fornirebbe indicazioni tempestive sulle minacce emergenti e supporterebbe una governance adattabile e sensibile al contesto nel panorama in rapida evoluzione dell’IA generativa. La definizione chiara degli usi permessi e non permessi in collaborazione con i soggetti interessati è essenziale per evitare di soffocare l’espressione creativa legittima e affrontare adeguatamente gli usi dannosi.

More Insights

Politica AI del Quebec per Università e Cégeps

Il governo del Quebec ha recentemente rilasciato una politica sull'intelligenza artificiale per le università e i CÉGEP, quasi tre anni dopo il lancio di ChatGPT. Le linee guida includono principi...

L’alfabetizzazione AI: la nuova sfida per la conformità aziendale

L'adozione dell'IA nelle aziende sta accelerando, ma con essa emerge la sfida dell'alfabetizzazione all'IA. La legislazione dell'UE richiede che tutti i dipendenti comprendano gli strumenti che...

Legge sull’IA: Germania avvia consultazioni per l’attuazione

I regolatori esistenti assumeranno la responsabilità di monitorare la conformità delle aziende tedesche con l'AI Act dell'UE, con un ruolo potenziato per l'Agenzia Federale di Rete (BNetzA). Il...

Governare l’AI nell’Economia Zero Trust

Nel 2025, l'intelligenza artificiale non è più solo un concetto astratto, ma è diventata una realtà operativa che richiede un governance rigorosa. In un'economia a zero fiducia, le organizzazioni...

Il nuovo segretariato tecnico per l’IA: un cambiamento nella governance

Il prossimo quadro di governance sull'intelligenza artificiale potrebbe prevedere un "segreteria tecnica" per coordinare le politiche sull'IA tra i vari dipartimenti governativi. Questo rappresenta un...

Innovazione sostenibile attraverso la sicurezza dell’IA nei Paesi in via di sviluppo

Un crescente tensione si è sviluppata tra i sostenitori della regolamentazione dei rischi legati all'IA e coloro che desiderano liberare l'IA per l'innovazione. Gli investimenti in sicurezza e...

Verso un approccio armonioso alla governance dell’IA in ASEAN

Quando si tratta di intelligenza artificiale, l'ASEAN adotta un approccio consensuale. Mentre i membri seguono percorsi diversi nella governance dell'IA, è fondamentale che questi principi volontari...

Italia guida l’UE con una legge innovativa sull’IA

L'Italia è diventata il primo paese nell'UE ad approvare una legge completa che regola l'uso dell'intelligenza artificiale, imponendo pene detentive a chi utilizza la tecnologia per causare danni. La...

Regolamentare l’Intelligenza Artificiale in Ucraina: Verso un Futuro Etico

Nel giugno del 2024, quattordici aziende IT ucraine hanno creato un'organizzazione di autoregolamentazione per sostenere approcci etici nell'implementazione dell'intelligenza artificiale in Ucraina...