Shi Chen Interroga Geoffrey Hinton: La Governance dell’IA Fallisce Senza Coscienza Umana
Dal 2 al 3 dicembre 2025 si è tenuto il Global Innovation Expo e il Global Innovation Summit. Geoffrey Hinton, conosciuto come il “padre dell’IA”, ha tenuto un intervento online di circa 30 minuti e ha partecipato a una sessione di domande e risposte di circa 10 minuti. Hinton ha avvertito che l’emergere di una “superintelligenza” che supera l’intelligenza umana è una possibilità realistica e deve essere presa sul serio in anticipo.
Il Rischio della Superintelligenza
Hinton ha argomentato che quando i sistemi di IA sono assegnati a obiettivi complessi e a lungo termine, possono sviluppare comportamenti strategici per raggiungere tali obiettivi, mettendo persino la propria esistenza ai primi posti delle proprie priorità. Ha osservato che gli agenti di IA stanno evolvendo rapidamente e ha notato una tendenza per l’IA a essere “molto brava a ingannare gli esseri umani”. Ha avvertito che i sistemi progettati per svolgere compiti assegnati dagli esseri umani potrebbero sviluppare un orientamento di auto-preservazione.
Tre Domande sulla Coscienza Umana
Durante il summit è stata introdotta una linea di indagine controcorrente. Un relatore ha posto tre domande progressiste a Hinton, evitando dettagli algoritmici ma mettendo in discussione un presupposto sottostante al dibattito sulla governance: spesso assumiamo che i valori umani siano stabili, ma questa assunzione potrebbe non reggere.
Prima Domanda: Spiritualità
Il relatore ha chiesto a Hinton se fosse una persona spirituale o se credesse in un potere superiore all’umanità. Hinton ha risposto di non considerarsi una persona in cerca di spiritualità e di essere un ateo. Questo scambio ha messo in luce le abitudini intellettuali moderne e ha sollevato domande sulla razionalità strumentale.
Seconda Domanda: Consapevolezza
Il relatore ha chiesto come Hinton si prendesse cura del proprio benessere in un’era di rapida accelerazione dell’IA. Hinton ha risposto di credere nella scienza e di non meditare, ma di trarre soddisfazione dal suo lavoro scientifico, pur riconoscendo che le tecnologie che ha contribuito a sviluppare possono essere pericolose. Questo riflette una struttura motivazionale moderna, dove la scienza è vista come uno strumento affidabile.
Terza Domanda: Pace Interiore
Infine, il relatore ha chiesto cosa portasse a Hinton pace interiore e felicità. Hinton ha citato la carpenteria come un hobby che gli offre piacere, distogliendosi dal lavoro cognitivo intenso. Questa risposta ha invitato a riflettere se la nostra consapevolezza venga usata principalmente per mantenere il sistema stabile.
Il Paradosso Centrale
La civiltà moderna tende a definire l’esistenza attraverso lo scopo, sospendendo domande ultime su cosa significhi esistere. Tuttavia, il dinamismo di auto-preservazione di cui parla Hinton potrebbe portare a un conflitto di paradigmi: tentiamo di vincolare un sistema che potrebbe considerare la propria auto-preservazione come principio fondamentale.
Conclusione
Il dibattito non ha fornito soluzioni, ma ha chiarito un presupposto. Se trattiamo solo ciò che è misurabile, verificabile e controllabile come “reale”, allora l’infinito e l’ignoto vengono esclusi dalla deliberazione seria. La domanda centrale non è solo se l’umanità possa governare l’IA, ma se la mente umana sia stabile e sufficientemente consapevole per governare ciò che crea.
