Costruire una governance flessibile per i dati biologici che alimentano i sistemi di intelligenza artificiale
In un Forum Politico si discute la necessità di una governance ampliata, ma su misura e flessibile, per i dati biologici utilizzati nello sviluppo di modelli di intelligenza artificiale (AI) potenti.
L’importanza dei dati biologici nell’AI
I sistemi di intelligenza artificiale in rapida evoluzione, addestrati su dati biologici, hanno permesso ai ricercatori di progettare nuove molecole, prevedere la struttura e la funzione delle proteine e analizzare vasti e complessi set di dati biologici per ottenere nuove intuizioni che potrebbero ampliare notevolmente la nostra comprensione della natura e della salute umana. Tuttavia, questi stessi strumenti potrebbero anche essere abusati per scopi pericolosi, come la progettazione di patogeni nocivi o la generazione di sequenze genetiche che eludono i controlli di sicurezza.
La necessità di una governance adeguata
Nonostante questi rischi ampiamente riconosciuti, la governance attuale è gravemente carente e modelli sempre più potenti vengono spesso rilasciati senza una valutazione della sicurezza. Si discute quindi come la governance dei dati biologici potrebbe essere realizzata per mitigare i potenziali rischi dei sistemi di AI biologica senza ostacolare il loro potenziale di ricerca.
Controlli mirati e flessibili
Proprio come i ricercatori accettano limiti sull’accesso alle informazioni personali nei set di dati genetici per proteggere la privacy senza fermare la ricerca, potrebbe essere utile implementare framework simili che restringano solo una ristretta classe di dati patogeni particolarmente sensibili, lasciando la maggior parte dei dati scientifici liberamente disponibili. Controlli mirati renderebbero più difficile per attori malevoli ottenere i rari e costosi set di dati necessari per addestrare modelli pericolosi, senza ostacolare significativamente la ricerca legittima, specialmente se abbinati a ambienti di ricerca digitale sicuri.
Adattabilità e trasparenza
Questa supervisione dovrebbe rimanere limitata, mirata e flessibile, in modo che i framework di governance possano adattarsi alle esigenze richieste per tenere il passo con i progressi tecnologici e scientifici. Inoltre, per prevenire abusi o un controllo burocratico eccessivo, la comunità di ricerca dovrebbe avere la possibilità di appellarsi alle classificazioni dei dati, e le agenzie di governo dovrebbero garantire processi di revisione rapidi e trasparenti, così che le misure di sicurezza necessarie non diventino ostacoli ai processi scientifici legittimi.
Conclusione
Formalizzare un sistema di accesso ai dati consentirebbe ai ricercatori di esaminare e sviluppare questi controlli e darebbe agli scienziati e alle aziende chiarezza in un ambiente attualmente piuttosto imprevedibile. Iniziare questo lavoro permetterebbe anche a scienziati e governi di apprendere di più sulla natura del rischio legato all’AI e di rivedere i controlli di accesso ai dati in base a evidenze tangibili, piuttosto che a congetture.
