Costruire un Sistema di Governance dell’AI a Shanghai
Lo sviluppo rapido dell’AI generativa ha portato con sé una serie di rischi secondari, come la disinformazione e la sicurezza dei dati. È fondamentale rafforzare le basi di sicurezza per lo sviluppo dell’intelligenza artificiale.
La Necessità di un Sistema di Governance
Un rappresentante della comunità ha sottolineato che, sebbene la tecnologia AI riduca significativamente le barriere all’applicazione, essa mostra anche tendenze di abuso diffuso, maggiore occultamento e danni crescenti. È diventato urgente costruire un sistema di governance agile, scientifico e sistematico per affrontare i rischi negativi associati all’intelligenza artificiale, bilanciando lo sviluppo di alta qualità con la sicurezza di alto livello.
Rischi e Sfide Attuali
La cattiva gestione della tecnologia sta mostrando nuove caratteristiche di industrializzazione e impatti trasversali. L’attuale sistema di governance non riesce a rispondere adeguatamente alle sfide legate alla sicurezza dei dati e ai rischi di ordine di mercato, inclusi l’uso improprio della tecnologia deepfake e i pericoli per i diritti di proprietà intellettuale.
Proposte per Migliorare la Sicurezza
È necessario accelerare la costruzione di un sistema di governance dell’intelligenza artificiale che copra tutti gli ambiti. Si suggerisce di collaborare con istituti di ricerca e aziende leader per istituire un centro di test di sicurezza dei contenuti AI, creando una piattaforma tecnica per il monitoraggio e la tracciabilità.
È anche importante applicare rigorosamente gli standard nazionali di filigrana digitale, richiedendo l’integrazione di filigrane digitali non rimovibili nei contenuti generati dall’AI, assicurando che tutto il contenuto generato sia completamente tracciabile online.
Legislazione e Protezione dei Minori
Si raccomanda di accelerare la legislazione nei settori emergenti, formulando regolamenti locali che soddisfino le esigenze di sviluppo tecnologico e industriale. Inoltre, è fondamentale promuovere la creazione di regolamenti specifici per la protezione dei minori nell’applicazione dell’AI, vietando la generazione di contenuti violenti o dannosi.
Collaborazione Interdipartimentale
Per affrontare nuovi tipi di rischi, come la manipolazione dei mercati finanziari tramite l’AI, si suggerisce di stabilire un database condiviso per le informazioni false e i dati anomali. Questo aiuterà a identificare e rimuovere i rumor generati dall’AI e a migliorare la capacità di risposta a rischi finanziari.
Educazione alla Sicurezza AI
È necessario costruire una “difesa psicologica” contro i rischi dell’AI nella società. Si raccomanda di integrare l’educazione alla sicurezza dell’AI nei programmi di alfabetizzazione digitale, concentrandosi su gruppi vulnerabili come anziani e bambini. I messaggi chiave dovrebbero includere l’aumento della consapevolezza sui rischi come la “falsificazione video” e le “previsioni inaffidabili”.
