Un Approccio di Governance “Safety by Design” per Affrontare i Danni Online Facilitati dall’IA
La rapida crescita dell’Intelligenza Artificiale (IA) sta rimodellando il panorama digitale, amplificando i danni online esistenti e introducendo nuovi e più complessi rischi per la sicurezza online. L’IA generativa consente ora a individui senza competenze tecniche di creare contenuti sintetici indistinguibili da quelli autentici. Un rapporto evidenzia le implicazioni emergenti per la sicurezza online dell’IA, sottolineando l’aumento dei deepfake come esempio chiaro. I deepfake sono utilizzati per diffondere false informazioni, creare contenuti sessualizzati e facilitare comunicazioni personalizzate che mirano a pubblici con messaggi dannosi su larga scala.
Deepfake e Le Sue Implicazioni
I deepfake sono uno strumento sempre più comune per attori malintenzionati. Solo nel primo trimestre del 2025, le truffe deepfake che impersonavano figure pubbliche e privati hanno causato perdite globali di 200 milioni di dollari. Questi strumenti sono stati utilizzati anche per creare contenuti pornografici che colpiscono in modo sproporzionato donne, giovani e bambini. Tali materiali hanno facilitato il sextortion e la manipolazione, contribuendo a incidenti di autolesionismo e gravi distress emotivi, portando paesi come Corea del Sud e Australia a criminalizzare la creazione di deepfake sessuali non consensuali.
Il contenuto generato dall’IA è ulteriormente utilizzato per rinforzare campagne di disinformazione, mirando a influenzare l’opinione pubblica e le elezioni. In Romania, preoccupazioni riguardo all’interferenza estera tramite disinformazione guidata dall’IA hanno portato alla nullificazione delle elezioni presidenziali del 2024. I deepfake sono stati utilizzati anche per promuovere l’estremismo, apparendo in propaganda di radicalizzazione e campagne di reclutamento.
La Crescente Distrust nel Digitale
Il cattivo uso dei deepfake alimenta una crescente diffidenza pubblica nei confronti dei media digitali e delle notizie, incoraggiando attori malintenzionati a delegittimare contenuti autentici come falsi. Questo fenomeno, noto come “dividendo del bugiardo”, è stato osservato in discussioni online riguardanti guerre come quella tra Russia e Ucraina, dove immagini genuine sono state messe in dubbio come generate da IA.
Un Riscontro Necessario
Data la scala e la velocità di queste nuove forme di creazione e distribuzione di contenuti digitali, sarebbe poco pratico per gli esseri umani moderare manualmente. Tuttavia, l’IA può essere utilizzata per rilevare e rimuovere contenuti dannosi. Ad esempio, il Ministero della Comunicazione e dell’Informazione dell’Indonesia sta utilizzando l’IA per identificare contenuti dannosi sui social media prima di richiederne la rimozione.
Verso una Risposta a Livello di Sistema
Le normative sull’IA spesso si concentrano sui sviluppatori e sui responsabili della distribuzione dei sistemi di IA, enfatizzando le loro obbligazioni di mitigazione del rischio. Tuttavia, i danni online sono spesso guidati dall’abuso irresponsabile della tecnologia e dai comportamenti degli utenti finali. È cruciale non trascurare l’elemento umano dei danni legati all’IA, considerando gli utenti finali sia come perpetratori che come vittime.
Un Approccio Olistico di Governance
Un approccio di governance “safety by design” è necessario per affrontare una vasta gamma di danni per la sicurezza online facilitati dall’IA, stabilendo interventi in diverse fasi del ciclo di vita del danno. Questo può essere inquadrato in un modello di “Preparare-Contenere-Rispondere” che si concentra sulla riduzione della suscettibilità degli utenti finali attraverso sforzi di alfabetizzazione digitale.
Collaborazione Internazionale Necessaria
Interventi politici nazionali sono cruciali per affrontare gli impatti locali dei danni online, ma è necessaria una governance e azione internazionale coordinata per fronteggiare la loro portata e origine transnazionale. Forum come la Rete Globale dei Regolatori per la Sicurezza Online e la Rete Internazionale degli Istituti per la Sicurezza dell’IA possono abilitare la collaborazione globale.
Un’Opportunità per il Futuro
Ci sono significative opportunità di innovazione e leadership in misure che prestano maggiore attenzione alle preoccupazioni umane, oltre a interventi a livello di modello. Applicando il modello “Preparare-Contenere-Rispondere”, è possibile creare un ambiente digitale più sicuro, affrontando i rischi creati dall’IA e rafforzando la capacità dei paesi di combattere i danni online.
