Un mondo coraggioso e nuovo: Siamo pronti a consegnare le redini del potere all’IA?
Gli algoritmi hanno a lungo partecipato alla governance. Determinano quali annunci di lavoro raggiungono i cittadini, quali dichiarazioni fiscali vengono contrassegnate per l’audit, quali casi di assistenza sociale sono prioritizzati e persino come vengono pianificati i percorsi di pattugliamento della polizia.
Gran parte di ciò è avvenuto silenziosamente, sotto il banner del “supporto decisionale”, piuttosto che come decisioni manifeste.
Ciò che rende distintivi i recenti sviluppi in Albania e Giappone è che i sistemi non sono più un’infrastruttura nascosta.
Il governo dell’Albania ha formalmente incaricato il suo assistente digitale Diella di gestire i processi di approvvigionamento, e il piccolo partito giapponese Path to Rebirth ha dichiarato che nominerà un IA come leader.
In entrambi i casi, non si tratta di un trasferimento completo dell’autorità alle macchine. Diella rimane uno strumento di flusso di lavoro supervisionato e il partito giapponese non ha seggi nel legislativo nazionale e deve comunque designare un rappresentante umano per le pratiche ufficiali.
Tuttavia, queste mosse sono significative. Spostano la decisione algoritmica da una funzione di retroscena a un ruolo istituzionale pubblico e riconosciuto.
La governance algoritmica e il sogno dell’oggettività
Da Leibniz a Condorcet, i pensatori dell’Illuminismo immaginavano di sostituire la disputa con il calcolo.
Leibniz propose persino un “calcolo universale” attraverso il quale gli avversari potevano risolvere disaccordi dichiarando calculemus (“calcoliamo”).
Jeremy Bentham tradusse questa visione in politica utilitaristica, sostenendo che l’obiettivo della governance dovrebbe essere la massimizzazione della felicità collettiva attraverso il calcolo razionale.
La governance algoritmica contemporanea sembra portare questo progetto alla vita. Promette decisioni purgative da capricci e pregiudizi, consegnate con la regolarità di una chiamata a funzione.
La governance moderna ha a lungo lottato con la tensione tra ordine e autonomia, tra la promessa di un’amministrazione imparziale e la paura di un controllo soffocante.
La sociologia della burocrazia di Max Weber offre il primo importante ancoraggio concettuale. Weber descrisse lo stato moderno ideale come governato da regole piuttosto che da capricci personali, caratterizzato da procedure formali, registri scritti e supervisione gerarchica.
I sistemi algoritmici sono un’estensione logica di questo progetto. Promettono coerenza rimuovendo la discrezionalità ai livelli più bassi e imponendo uniformità.
Governance tramite IA
Ciò che è nuovo in questo momento non è l’aspirazione a razionalizzare la governance, ma le proprietà degli strumenti ora in uso.
A differenza dei sistemi basati su regole dei decenni precedenti, l’IA contemporanea opera su inferenze statistiche piuttosto che su logica esplicita. Produce risultati non applicando regole trasparenti, ma mappando correlazioni complesse nei dati.
Questo consente flessibilità e adattamento, dove i sistemi possono aggiornarsi man mano che nuovi dati arrivano.
Tuttavia, introduce anche opacità. I responsabili politici potrebbero avere difficoltà a spiegare perché è stata fatta una data raccomandazione o a ricostruire la catena di ragionamento dietro un risultato.
In questo senso, la governance algoritmica oggi non solo stringe la gabbia di Weber; rischia di sostituire le barre visibili con quelle invisibili.
Un’altra differenza chiave è la scala e la granularità. I sistemi amministrativi precedenti potevano solo generalizzare.
Essi applicavano regole uniformi a classi ampie di casi. I modelli di apprendimento automatico, al contrario, consentono micro-differenziazione. I punteggi di rischio, le decisioni di idoneità e gli stimoli politici possono essere sintonizzati a livello di quartieri o individui.
Questo solleva sia opportunità che preoccupazioni. Da un lato, le risorse possono essere mirate con una precisione senza precedenti, riducendo potenzialmente sprechi e disuguaglianze.
Dall’altro, una governance così fine può frammentare l’idea stessa di pubblico, sostituendo il trattamento collettivo con l’ottimizzazione individualizzata e rendendo più difficile la giustificazione politica.
Studi di caso iniziali
I sistemi algoritmici differiscono dalle tecnologie amministrative precedenti in tre modi importanti. Sono adattivi, si basano su inferenze probabilistiche piuttosto che su regole fisse e operano a una scala che può influenzare milioni di casi contemporaneamente.
Queste proprietà consentono ai governi di mirare le risorse con una precisione senza precedenti e anticipare i problemi prima che si intensifichino.
Magnificano anche l’impatto degli errori, incorporano pregiudizi in modi che possono essere difficili da rilevare e rendono più complessa la supervisione.
Invece di considerare questi sviluppi come colpi di scena pubblicitari o temerli come presagi di regole delle macchine, dovremmo trattare gli esperimenti albanesi e giapponesi come studi di caso iniziali.
Offrono l’opportunità di progettare le norme, le pratiche di audit e i quadri legali che governeranno il processo decisionale algoritmico prima che diventi profondamente radicato.
Albania e Giappone hanno, intenzionalmente o meno, reso visibile la governance algoritmica. Il compito ora è decidere come mantenerla legittima, contestabile e coerente con i principi democratici prima che il prossimo ufficio ottenga un nome digitale.
