I molti pericoli dell’IA nelle mani statali
L’integrazione incontrollata dell’IA nella governance minaccia i diritti umani, la responsabilità e i principi democratici, mentre consente l’eccesso di potere statale.
In sintesi
- I armi IA rischiano atrocità, targeting etnico e svalutazione della vita umana
- Algoritmi opachi erodono la responsabilità, la giustizia e la governance democratica
- Un futuro distopico è probabile senza una forte opposizione pubblica e regolamentazione
L’intelligenza artificiale è senza dubbio la tecnologia più trasformativa sviluppata dalla nostra specie negli ultimi decenni, probabilmente il salto più importante dopo l’avvento di Internet stesso. Ha il potenziale di rimodellare radicalmente le nostre economie e i nostri sistemi sociopolitici; in effetti, questo cambiamento è già iniziato.
Tuttavia, come con molte nuove tecnologie, il potenziale di abuso dell’IA aumenta vertiginosamente quando è nelle mani dei governi. Questo perché i politici hanno l’opzione di concedere a se stessi poteri speciali e di esentarsi dalle leggi che si applicano ai cittadini e alle aziende private, persino di sospendere le libertà individuali di base in casi di “emergenza”. La storia ha dimostrato ripetutamente che quando i governi acquisiscono nuovi strumenti di controllo, raramente li restituiscono. I rischi sono numerosi e gravi, e il cammino da seguire è costellato di motivi di seria preoccupazione per tutti i cittadini.
Una situazione scivolosa
Negli ultimi anni, una delle principali preoccupazioni dei difensori della privacy in tutto il mondo è stata l’eccesso di sorveglianza governativa e le loro implicazioni. Applicazioni di riconoscimento facciale, strumenti di data mining di massa e vari algoritmi di “polizia predittiva” sono già stati utilizzati, ma l’esplosione recente delle innovazioni e dei progressi tecnologici nell’IA aumenterà ulteriormente il loro impatto.
La “polizia predittiva” alimentata dall’IA comporta la raccolta e l’analisi di grandi dataset tratti da rapporti di crimine, registri di arresto e informazioni sociali, demografiche o geografiche per identificare modelli e prevedere dove potrebbero verificarsi futuri crimini e chi potrebbe essere coinvolto. Domani, le versioni di questi strumenti saranno in grado di fornire risultati molto più specifici, contrassegnando particolari individui come ad alto rischio, anche se non hanno ancora commesso un crimine.
Un’altra possibilità orwelliana è l’abuso da parte del governo degli strumenti IA per centralizzare ulteriormente il potere e forzare la conformità nella popolazione attraverso la suppressione della libertà di parola o la diffusione di propaganda e manipolazione delle informazioni.
La fine della responsabilità?
Negli anni ’70, IBM affermò: “Un computer non può mai essere ritenuto responsabile, quindi un computer non deve mai prendere una decisione di gestione.” Questa affermazione risuona oggi più che mai. Le burocrazie governative già faticano con la responsabilità, e l’IA amplificherà questo problema a un livello senza precedenti.
Con sistemi IA opachi e “black-box” al comando, sarà infinitamente più difficile ritenere qualcuno responsabile. Quando questi sistemi saranno responsabili di decisioni come la polizia e la sicurezza pubblica o le decisioni sanitarie e di welfare, errori possono distruggere irreparabilmente la vita delle persone.
Scenari futuri
Il più probabile: Un futuro distopico potrebbe arrivare prima del previsto
La corsa all’IA tra gli stati sembra inarrestabile. Le partnership, i sussidi e tutti i tipi di incentivi alle aziende private nel settore dell’IA rendono molto improbabile che il settore privato metta dei limiti a ciò che condivide con i governi. Pertanto, il futuro più probabile è che alcuni, se non tutti, degli aspetti di un futuro distopico si manifestino, forse prima di quanto ci si aspetti.
Meno probabile: I combattenti della libertà non statali usano l’IA per resistere
Un’altra possibilità è che gli strumenti IA vengano abbracciati e utilizzati da privati, gruppi e aziende per contrastare i sistemi statali. Questi potrebbero essere utilizzati per sovraccaricare i programmi e i processi governativi alimentati dall’IA, monitorare abusi o errori, e impedire la completa presa di potere dell’apparato governativo.
Il meno probabile: Funzionari eletti agiscono responsabilmente
Infine, c’è anche lo scenario improbabile che i governi emanino regolamenti severi contro l’eccesso dell’IA e utilizzino la tecnologia solo per rendere il governo più efficiente. Tuttavia, è facile vedere come ciò potrebbe portare a una “crescita della missione” e, prima o poi, ci ritroveremmo nel futuro distopico descritto.
