Il Faro Morale: Intelligenza Artificiale e il Mondo che Vogliamo
L’intelligenza artificiale deve aiutarci a costruire il mondo che desideriamo, non lasciare che pochi potenti costruiscano il loro. Troppo spesso, quel “pochi” è composto da miliardari ricchi, principalmente bianchi e principalmente uomini, che vedono la tecnologia come uno strumento per il profitto e il potere, non per la dignità.
Nella mia esperienza nel Sud del Mondo, ho incontrato numerosi concetti culturali che offrono modi alternativi per pensare alla tecnologia e come costruire un futuro più giusto, equo e sostenibile. I tecnologi e i politici impegnati in questo obiettivo devono guardare oltre i ristretti quadri morali ed etici e considerare la saggezza intrinseca di questi concetti spesso antichi.
Da kesejahteraan a kotahitanga
Aver trascorso la maggior parte della mia vita in Asia mi ha permesso di assistere da vicino a come le innovazioni occidentali possano sopraffare culture, lingue e valori locali. Sono stato genuinamente lieto di collaborare con l’Ufficio Nazionale per l’IA della Malesia su questioni di governance e etica dell’IA. Sono stato intrigato quando mi è stato chiesto di esplorare come un principio chiamato kesejahteraan—tradotto approssimativamente come prosperità o benessere olistico—potrebbe essere un faro per la governance dell’IA.
Derivato dal framework MADANI del governo malese, kesejahteraan è un valore civico radicato nelle tradizioni plurali del paese, che definisce il benessere non come un sottoprodotto della crescita economica, ma come un obiettivo nazionale di fioritura umana a sé stante—fondato sulla compassione, giustizia, equità e dignità umana.
Nonostante non sia strettamente religioso, kesejahteraan gioca un ruolo simile ad altri quadri sociali basati sui valori che incorporano uno scopo etico nella governance.
Non più atti di bilanciamento
Con queste tradizioni basate sui valori che inondano il mio cammino come un faro di ricerca, ho deciso di affrontare criticamente un presupposto che ha dominato il discorso sulla politica tecnologica per troppo tempo, anche tra i sostenitori più progressisti: la necessità di “bilanciare innovazione e regolamentazione.”
La verità è che non esiste un atto di bilanciamento. Non quando le poste in gioco sono così alte.
Quando si tratta di IA e altre tecnologie potenti, l’equazione è più semplice: se non serve alla fioritura umana (e non umana), non è un’innovazione degna di essere perseguita. I valori profondamente radicati nelle nostre società ci dicono che questo è vero.
Quella chiarezza—quella chiarezza morale—è qualcosa che manca troppo spesso da molte road map aziendali e dichiarazioni multilaterali. Alcuni governi specificano questi valori nelle loro strategie nazionali, ma spesso diventano un’opzione gradita nell’atto di bilanciamento “innovazione o regolamentazione.” Questo è il chiarimento morale di cui abbiamo urgentemente bisogno.
Fallimento del mercato, fallimento morale
L’intelligenza artificiale—nelle sue molteplici forme—sta rapidamente rimodellando economie, democrazie, luoghi di lavoro e ogni dimensione della vita personale e politica, tutto in una volta e a una velocità sorprendente. Nel frattempo, i miliardari della tecnologia e i discepoli dell’efficace accelerazionismo ci dicono che l’innovazione deve essere rapida, i mercati devono essere liberi e la regolamentazione deve essere minima affinché il mondo possa beneficiare e le nostre vite diventino più prospere.
Questa è un’illusione pericolosa.
In un mio lavoro precedente, sono caduto in quest’illusione, come un vero credente nel potere democratizzante della tecnologia. Ho lavorato per promuovere la libertà di espressione, la trasparenza e la governance democratica. Credevo che la tecnologia dei social media potesse dare voce agli inascoltati e far luce dove era a lungo assente.
Tuttavia, i social media si sono rivelati un caso di test. Ottimizzati per il coinvolgimento, hanno monetizzato l’ira, la polarizzazione e la disinformazione. Le conseguenze—per la salute mentale, la fiducia civica, la democrazia e la coesione sociale—sono ora evidenti.
I mercati non hanno una coscienza. Lasciati a sé stessi, non ottimizzano per l’inclusione, l’equità, la dignità o la fioritura umana. Ottimizzano per il profitto, la scala, la dipendenza e l’efficienza—spesso in modi che causano danni reali.
La tecnologia non è destino
Uno dei miti più insidiosi dell’epoca attuale è che il progresso tecnologico sia inevitabile—che si sviluppi in una direzione unica e inarrestabile. Ma come ha argomentato l’economista e premio Nobel Daron Acemoglu, “La direzione della tecnologia non è mai predeterminata… La politica governativa può giocare un ruolo nel promuovere una traiettoria più benefica per l’IA.” In altre parole, possiamo piegare l’arco dell’innovazione.
Abbiamo visto questo in epoche precedenti: dalle protezioni del lavoro nell’era industriale alle regolamentazioni ambientali nell’era dei combustibili fossili. Ogni volta, la società è intervenuta per plasmare la tecnologia per il bene comune, piuttosto che per sfruttamento e accumulo di potere.
Il mercato non può guidare da solo
Il paradigma dominante sostenuto dalle aziende tecnologiche—soprattutto nella Silicon Valley—è radicato in una forma di fondamentalismo di mercato: innovare rapidamente, scalare rapidamente e preoccuparsi delle conseguenze in seguito. I danni sono trattati come bug, non come avvertimenti—risolti solo se c’è abbastanza backlash pubblico o un incendio PR troppo grande da ignorare.
Questi nuovi strumenti—spesso in cerca di un problema—raramente vengono forniti con supervisione. E per coloro che sono colpiti dalle loro decisioni, di solito non c’è responsabilità, né trasparenza, né modo di chiedere riparazione.
Questo è ciò che accade quando il fine di profitto—l’imperativo del mercato del ritorno sul valore per gli azionisti—è prioritizzato sopra le obbligazioni morali verso le persone, le comunità e i paesi, e quando i politici non riescono a guidare adeguatamente.
Cosa fa un “faro morale”
I leader tecnologici statunitensi hanno perso il terreno morale qui, e i politici statunitensi con loro. È tempo che i politici della Maggioranza Globale smettano di ascoltare i sermoni dei carismatici CEO della Grande Tecnologia e dei lobbisti professionisti e invece ascoltino quelli provenienti dall’interno.
Le diverse culture e tradizioni religiose della Maggioranza Globale portano una ricchezza di guida morale pratica al tavolo della politica. Un quadro etico per la politica dell’IA inizia riaffermando alcuni principi di base che hanno formato la fondazione di molte tradizioni indigene in tutto il mondo: che la dignità umana non è negoziabile, che il potere deve essere responsabile, e che nessuna innovazione è al di sopra del controllo pubblico.
Le tradizioni indigene in Nord America offrono ulteriori esempi di potente guida morale. Tra la Confederazione Haudenosaunee (che riunisce Mohawks, Oneidas, Onondagas, Cayugas e Senecas), il Principio della Settima Generazione invita i leader a considerare come ogni decisione influenzerà coloro che verranno sette generazioni dopo di noi—un contrasto radicale con il breve termine del capitale di rischio.
Questi esempi non sono perfetti. Ma dimostrano che alternative al modello capitalista, incentrato sul mercato, alla base del discorso sulla governance odierna sono effettivamente possibili.
Fioritura… o fallimento
Le poste in gioco sono enormi. I sistemi di IA e le persone che li implementano influenzeranno chi viene assunto, promosso o licenziato, chi riceve assistenza medica, come vengono insegnati i bambini, come e quali persone possono migrare, chi ottiene mutui e prestiti bancari, e come i governi allocano le risorse.
Se l’IA approfondisce le disuguaglianze, disempowera le persone o disincentiva la partecipazione civica, non è il futuro che vogliamo—non importa quanto avanzata sia la tecnologia o quanto denaro alcuni individui possano guadagnare da essa.
Un faro morale non garantisce un passaggio sicuro. Ma alimentato dai comuni valori morali evidenti nelle tradizioni del mondo e nelle filosofie indigene, aiuta a tracciare un corso e navigare nell’incertezza. Ci avverte quando le rocce sono vicine. E in un’era di accelerazione del mercato e deriva etica, abbiamo bisogno di quel faro più che mai.
In ultima analisi, la domanda non è cosa può fare la tecnologia. La domanda è: che tipo di mondo vogliamo costruire?
