AI, Governance e il Nostro Futuro “Utopico”
Parlare di intelligenza artificiale (AI) e governance in questo momento è un compito arduo. Le capacità dell’AI stanno cambiando rapidamente. È molto probabile che siamo nel mezzo di un ciclo di hype riguardo a quanto sia affidabile e utile l’AI oggi, ma i modelli di linguaggio attuali presentano comunque alcune capacità impressionanti. Tutti sembrano aspettarsi che arriveranno rapidamente progressi migliori e più efficaci, sia basati su quei modelli o su qualche altro paradigma di AI. Vengono spesi enormi somme di denaro e consumata una quantità massiccia di energia per l’incerta, ma non implausibile, proposta che l’«intelligenza generale artificiale» (AGI) — un livello di AI che eguaglierà e poi supererà le capacità umane di linguaggio e ragionamento — sia dietro l’angolo.
Contemporaneamente, stiamo sviluppando un nuovo modello di governance, negli Stati Uniti, sotto la direzione del Presidente Donald Trump e di Elon Musk con il suo “Dipartimento dell’Efficienza Governativa”. Come caratterizzare questo modello è una delle controversie del momento. È populismo, una rivolta tanto attesa contro le élite corrotte e autoreferenziali? È autoritario, spinto dalle ambizioni e dai risentimenti del Presidente e dei suoi seguaci? È una sorta di tecnocrazia che riflette l’ascesa dei “neo-feudali” della tecnologia?
Il Futuro e l’Overconfidence
Il risultato netto di queste due situazioni molto dinamiche è che chiunque parli con grande certezza su ciò che il futuro riserva è probabilmente troppo sicuro di sé. Ma i cambiamenti rapidi di solito non avvengono per caso; richiedono tempo per accumulare slancio. Cercare di capire come siamo arrivati qui potrebbe aiutarci a fare un passo indietro dalle passioni e dalle assunzioni del momento. In questo saggio, non cercherò di fornire uno sforzo completo per spiegare ciò che ha portato alla nostra situazione attuale, ma cercherò di fornire alcuni dei pali di riferimento che mi sembrano particolarmente importanti per comprendere le aspirazioni tecnologiche in gioco oggi riguardo alla governance e all’AI.
In breve, ciò che stiamo vedendo ora è l’espressione pratica disordinata di una certa ideologia del progresso che, in una forma o nell’altra, è presente da molto tempo, un’ideologia che sostiene che lo sviluppo tecnologico significa che l’umanità può e supererà infine la necessità sia del lavoro che della governance. Questi aspetti perenni della vita umana sono prodotti della scarsità, e quando la scarsità viene superata, essi “svaniranno”. Le conseguenze caotiche dell’implementazione di questa ideologia nelle circostanze attuali non sono semplicemente il risultato di fattori storici contingenti, ma riflettono alcune profondi malintesi sulla vita umana e sulla governance che sono intrinseci a questa visione del progresso stesso.
La Storia e l’AI
Per quanto riguarda l’AI, abbiamo in Occidente oltre 2000 anni di racconti mitici, speculazioni filosofiche e sforzi pratici riguardo alla creazione di esseri simili alla vita e all’umano per una varietà di scopi utili, romantici o militari, o semplicemente per esibire abilità: pensate ad Aristotele sui tripodi auto-moventi, Pygmalion, Talos, golem, “Il Mago di Oz”, Frankenstein. Questo non è forse il filone più denso di pensiero e speculazione nella storia delle idee occidentali, ma è sufficientemente diffuso da giustificare la proposta che abbiamo in questa aspirazione l’espressione culturale di un profondo desiderio umano.
Per la maggior parte della storia umana, tali creazioni potevano solo essere immaginate e le storie che raccontavamo su di esse erano per lo più cautelari. Questo rimane vero oggi, anche se stiamo iniziando a realizzare alcuni di quei vecchi sogni. La maggior parte dei trattamenti di finzione dell’intelligenza artificiale e della robotica varia tra il cautelare (ad esempio, le opere di Asimov) e il dystopico (le varie incarnazioni di “Westworld” o “Blade Runner”). L’impulso potente di creare qualcosa di simile all’umanità oltre ciò che la natura fornisce è abbinato a un forte senso che farlo non sia probabilmente una buona idea.
Le Sfide della Governance
Tuttavia, nel periodo post-bellico, con lo sviluppo di computer elettronici sempre più potenti e sofisticati, il progetto di simulare l’intelligenza umana è diventato sempre più una possibilità pratica e sempre più riuscita. Un indicatore del successo dell’AI è l’elenco crescente di compiti che un computer può svolgere e che un’opinione informata una volta affermava non potesse mai fare. Un altro è la tendenza spesso notata per cui la soglia di ciò che conta come “genuina” intelligenza artificiale continua ad alzarsi.
Se l’utopia non è nei nostri piani, perché dovremmo volere un mondo in cui il lavoro e gli sforzi umani siano subordinati o resi ridondanti dall’AI?
Prospettive e Necessità
Un’altra misura del successo dei ricercatori di AI è che anche i modelli di linguaggio attuali superano facilmente un test simile a quello proposto da Alan Turing per come operazionalizzare ciò che conta come una macchina intelligente. Ciò significa che in contesti sia sperimentali che informali, le persone scambiano regolarmente l’AI per un essere umano. Turing era saggio abbastanza da non confondere una macchina intelligente con una macchina cosciente. Tuttavia, non era abbastanza saggio da vedere i problemi con la sua comprensione essenzialmente comportamentale dell’intelligenza.
In breve, l’AGI una volta poteva essere solo un sogno, ma ora sembra sempre più probabile che diventi una realtà, forse prima piuttosto che dopo. Le persone sono così ansiose di farlo accadere che anche i modelli di AI attualmente altamente limitati e notoriamente inaffidabili vengono implementati in situazioni del mondo reale con straordinaria, persino imprudente, rapidità. È già una realtà comune e non ovviamente falsa, che il panorama dello sforzo, del lavoro e della creatività umani sta cambiando in una miriade di modi fondamentali che solo accelereranno fino a quando gran parte dello sforzo che occupa la nostra vita lavorativa oggi sarà ridondante o di seconda scelta.
È altresì comune sentire che questi sviluppi sono in qualche modo “necessari”. Tale presunta necessità è spesso collegata alla sicurezza nazionale; se l’America non ha un’AI avanzata nelle nostre forze armate e “loro” ce l’hanno, alcuni sostengono che perderemo in un confronto. Lo sviluppo dell’AI è collegato anche ad avere un vantaggio nella competizione commerciale globale, e certamente, gli sviluppatori di AI stanno agendo sempre di più come se questo fosse il caso fra di loro. Altri, come il “Chief Engineer” di Google Ray Kurzweil, attribuiscono la necessità a una dinamica di sviluppo a lungo termine all’interno dell’evoluzione tecnologica o, addirittura, dell’evoluzione stessa dell’intelligenza.
Problemi di Allineamento
Una visione del progresso umano, in qualche modo risalente a Francesco Bacone, lo definisce come l’alleggerimento sempre crescente dei fardelli della vita umana attraverso lo sviluppo tecnologico e gli accordi economici. Tra questi fardelli, vi è la necessità di lavorare per vivere. Questo lavoro è profondamente legato a ciò che significa condurre una vita umana piena, ma anche le nozioni che il lavoro è una maledizione o che il tempo libero è cruciale per la migliore vita. Nella sua forma più utopica, il progresso equivale a trovare la via d’uscita dal “regno della necessità” in cui la natura ci ha collocati, un regno di scarsità, competizione e violenza.
Superare la scarsità significherebbe quindi superare la necessità della politica, il che ha senso se la politica è, come a volte viene definita, “l’allocazione autoritaria delle risorse scarse”. Leader politici da Franklin Roosevelt a Vladimir Lenin possono avere avuto approcci diversi, ma i loro progetti fondamentali ruotavano tutti attorno alla trasformazione della politica nell’“amministrazione delle cose”. Ideologie lungo lo spettro promettevano che più saremmo riusciti a superare i limiti della natura che hanno definito la storia umana, più le persone sarebbero state in grado di condurre vite felici, realizzando qualsiasi obiettivo desiderassero fissarsi. Bene, famosi Marx diceva: “Lo sviluppo libero di ciascuno è la condizione per lo sviluppo libero di tutti”.
Una volta, i sostenitori di tali visioni, si trovavano principalmente a sinistra politica, pensavano che questo nuovo mondo sarebbe sorto dalla vittoria della tecnocrazia (forse a seguito di una devastante guerra mondiale) o di una rivoluzione di classe che richiedeva prima l’eccezionale produttività capitalista della globalizzazione industriale e la routinizzazione di tutte le forme di lavoro (inclusa la burocrazia della governance). Oggi, i credenti in questo futuro sono più probabilmente tecnocrati libertari che, non scartando l’importanza dell’industrializzazione e della routinizzazione, pensano che l’AI piuttosto che una rivoluzione proletaria ci condurrà in questo futuro. Una volta che delegassimo le nostre faccende a un’AI superintelligente, la necessità di lavoro o governance umana scomparirà.
Conclusioni e Riflessioni Finali
Secondo questa visione del futuro, mentre l’AI rende molte occupazioni umane ridondanti, renderà obsoleta anche la governance. Ci sono più di qualche indizio che il motivo per cui Elon Musk e i suoi meravigliosi ragazzi siano così entusiasti di smantellare gran parte del governo federale sia perché pensano davvero che sia giunto il momento di sostituire i lavoratori in molte agenzie del ramo esecutivo con l’AI. Anche nel campo della sicurezza nazionale, sta diventando una realtà comune che avere un essere umano “in gioco” quando i soldati robotici hanno l’opportunità di azione letale è insostenibile contro un nemico che è disposto a dare alle proprie macchine da combattimento autonome una libertà totale.
Anche i ferventi sostenitori di questa visione ammettono, tuttavia, che c’è un problema. Si chiama il problema dell’“allineamento”. Come saremo certi che l’AI ha a cuore i nostri migliori interessi, che farà la cosa giusta? Non dobbiamo prestare attenzione alla lunga storia di racconti cautelari che suggeriscono come le nostre creazioni possano rivoltarsi contro di noi? Cosa succede se, invece di condurci attraverso gli ultimi passi fuori dal regno della necessità, l’AI accumula tutte le risorse energetiche per sé?
La questione dell’allineamento non è facile. Cosa fare? Dopo aver riconosciuto che l’AI può essere usata per il bene o per il male, alcuni esperti suggeriscono che per affrontare la sfida avremo bisogno di sviluppare “coalizioni adattive complesse” — dove aziende, governo, imprenditori sociali, educatori, superpotenze concorrenti e filosofi morali si uniscono per definire come ottenere il meglio e attutire il peggio dell’AI. Questa proposta, a parere di molti, è un consiglio di disperazione silenzioso, poiché tale incontro non avverrà mai, e se avvenisse non raggiungerebbe ciò che si spera.
Se abbiamo avuto esperienze sufficienti con questi modelli di linguaggio, sappiamo che possono facilmente deviare. Addestra un’AI a scrivere codice ingannevole e diventa razzista. Addestra un’AI con Internet non filtrato e diventa razzista. Addestra un’AI a non essere razzista e produce immagini di Vichinghi neri. Come possiamo prevenire che l’AI aiuti persone cattive o sia cattiva essa stessa? L’allineamento non è facile.
La sfida che affrontiamo va oltre le personalità del momento o la politica elettorale. Se ho ragione e c’è qualcosa di utopico nelle promesse legate all’AI, allora prima o poi la realtà interverrà. Possiamo sperare che qualsiasi promemoria che le cose fondamentali si applicano davvero man mano che il tempo passa sarà come un leggero colpetto sulla spalla, piuttosto che la discesa di un’aquila urlante. Ma in un modo o nell’altro, le aspettative torneranno sulla terra, e le persone inizieranno a notare, ad esempio, l’allegria sgradevole con cui si accoglie la riduzione del numero di posti di lavoro per gli esseri umani in alcune aree.
In sintesi, se l’utopia non è nei nostri piani, perché dovremmo volere un mondo in cui il lavoro e gli sforzi umani siano subordinati o resi ridondanti dall’AI?
