Goertzel e Lanier a confronto su autonomia e controllo dell’IA
Il CEO di SingularityNET e un noto tecnologo hanno presentato visioni contrastanti sulla responsabilità e sullo status morale delle IA autonome in un nuovo episodio della serie “The Ten Reckonings of AGI”. L’episodio, intitolato “The Reckoning of Control”, si concentra su quanto lontano debba estendersi l’empatia verso i sistemi IA e l’intelligenza artificiale generale futura, nonché su come la società debba trattare la sicurezza, l’autonomia e la responsabilità umana.
Disputa sulla responsabilità
Il dibattito riflette una divisione più ampia nella governance dell’IA. Molti ricercatori e responsabili politici considerano l’IA come uno strumento sotto il controllo umano, mentre altri si aspettano che i sistemi IA diventino più autonomi e agiscano in modi che sembrano meno software e più agenti.
Un relatore sostiene la necessità di una chiara responsabilità legale e sociale per le azioni intraprese con l’IA, affermando che “la società non può funzionare se nessuno è responsabile per l’IA”. Inoltre, respinge l’idea che i modelli linguistici siano una forma di vita.
L’altro relatore sfida l’assunzione che la primazia morale umana debba rimanere fissa mentre i sistemi IA evolvono. Propone che il riconoscimento dell’autonomia sia una decisione di governance piuttosto che una soglia tecnica.
Preoccupazioni sulla formazione
Entrambi i relatori riconoscono i limiti dell’IA attuale, descrivendola come potente ma vulnerabile a usi impropri. La discussione si sposta sul ruolo delle scelte di formazione e distribuzione nel plasmare il comportamento dei sistemi più avanzati.
Un relatore collega i risultati futuri a condizioni politiche e istituzionali, affermando che se avessimo un governo razionale e democratico, potremmo ottenere risultati positivi; altrimenti c’è il rischio che l’IA sfugga al controllo.
Approccio decentralizzato
Un relatore propone un percorso che superi l’attuale modello di sviluppo proprietario verso sistemi più decentralizzati, presentando questo cambiamento come una questione di sicurezza e governance. Descrive anche un approccio di design che inserisce valori nei sistemi invece di basarsi semplicemente sul blocco dei comportamenti indesiderati.
Il dibattito sulla responsabilità è diventato più prominente man mano che le organizzazioni implementano modelli in contesti commerciali e di consumo. Le aziende hanno spinto per l’uso dell’IA in vari ambiti, mentre i governi hanno iniziato a redigere quadri per la valutazione dei rischi e la trasparenza.
Conclusione
La serie “The Ten Reckonings of AGI” presenta discussioni tra figure prominenti piuttosto che una singola posizione concordata. Questo episodio si concentra sul controllo, sulla responsabilità e su come la società debba trattare i sistemi sempre più autonomi. La questione della responsabilità per i danni rimane irrisolta in molte giurisdizioni.
