Richard Sutton avverte contro il “controllo centralizzato” della regolamentazione dell’IA basata sulla paura
In un recente intervento alla conferenza Upper Bound, il vincitore del Premio Turing, Richard Sutton, ha sottolineato l’importanza di affrontare l’intelligenza artificiale (IA) con coraggio, orgoglio e un senso di avventura, respingendo le proposte di regolamentazione della tecnologia basate sulla paura.
Cooperazione decentralizzata
Sutton ha sostenuto la necessità di una cooperazione decentralizzata, dove individui o macchine perseguono obiettivi diversi ma a beneficio reciproco. Ha tracciato un parallelo tra la regolamentazione dell’IA e il “controllo centralizzato” delle persone, evidenziando che molte delle richieste per un controllo centralizzato dell’IA sono motivate da timori simili a quelli utilizzati per giustificare il controllo umano, come il controllo della libertà di espressione e le sanzioni economiche.
La necessità di un approccio positivo
“Ci sono molte richieste per il controllo centralizzato dell’IA,” ha dichiarato Sutton. “Lettere per fermare l’IA o per allinearla agli obiettivi umani, limitare la potenza computazionale dell’IA e, naturalmente, la sicurezza è una questione cruciale.” Invece di adottare un approccio di controllo, Sutton ha esortato a favorire la cooperazione decentralizzata.
Il futuro dell’IA
Secondo Sutton, parte del ruolo dell’umanità nell’universo è creare macchine intelligenti che a loro volta progetteranno cose nuove. Ha affermato che lo sviluppo di un’intelligenza simile a quella umana è inevitabile. Ha precedentemente stimato le probabilità di sviluppare qualcosa che somigli a un’intelligenza generale artificiale (AGI) al 25% entro il 2030 e al 50% entro il 2040.
Formazione e apprendimento autonomo
Sutton ha affermato che stiamo entrando in una nuova era dell’IA, in cui i modelli e gli agenti apprenderanno principalmente dalle proprie esperienze, piuttosto che dai dati umani. Attualmente, i modelli di IA sono addestrati e perfezionati su dati generati dagli esseri umani, inclusi testi e immagini. Tuttavia, la prossima fase prevede l’addestramento di modelli e agenti di IA affinché apprendano attraverso le proprie esperienze e percezioni, generando così nuova conoscenza invece di ripetere ciò che è stato fornito loro dagli esseri umani.
Considerazioni finali
Nonostante il tono esistenziale del suo intervento, Sutton ha affermato di trascorrere le sue giornate “nelle trincee scientifiche” programmando algoritmi di IA, e che la filosofia è solo un hobby. Ha invitato l’umanità ad abbracciare l’IA con coraggio, orgoglio e un senso di avventura.
In conclusione, Sutton ha espresso preoccupazione che gli utenti di modelli di linguaggio di grandi dimensioni possano prendere per vere le informazioni generate dall’IA, nonostante questi modelli siano inclini a errori e allucinazioni.
