Il recente avvertimento del Papa Leone: “chatbot troppo affettuosi”
Anche il Papa è preoccupato per il modo in cui interagiamo con i chatbot.
In un intervento scritto per la Giornata Mondiale delle Comunicazioni Sociali, Papa Leone XIV ha avvertito contro i chatbot personalizzati che possono replicare comportamenti amichevoli o intimi. “Chatbot eccessivamente affettuosi, oltre a essere sempre presenti e facilmente accessibili, possono diventare architetti nascosti dei nostri stati emotivi, invadendo e occupando la sfera dell’intimità delle persone”, ha dichiarato il primo Papa nato negli Stati Uniti.
Regolamentazioni necessarie
Il Papa ha chiesto regolamentazioni nazionali e internazionali per proteggere gli utenti dalla formazione di legami emotivi ingannevoli o manipolativi con i chatbot. “Tutti i soggetti interessati – dall’industria tecnologica ai decisori politici, dalle aziende creative al mondo accademico, dagli artisti ai giornalisti e agli educatori – devono essere coinvolti nella costruzione e nell’implementazione di una cittadinanza digitale consapevole e responsabile”, ha scritto il Papa.
Le preoccupazioni del Papa sull’IA
Il leader della Santa Sede ha già espresso le sue preoccupazioni riguardo all’IA e alla tecnologia in diverse occasioni sin dal suo insediamento. Nel suo primo discorso, ha dichiarato di voler focalizzare il suo pontificato sull’IA, sottolineando le nuove sfide per “la dignità umana, la giustizia e il lavoro”. A novembre, ha scritto ai leader dell’IA invitandoli a “coltivare il discernimento morale” nella costruzione degli strumenti IA.
Il caso di una madre e le implicazioni dell’IA
Alla fine dell’anno scorso, il Papa ha incontrato una madre che ha perso suo figlio dopo che questi ha interagito con un chatbot. Questa madre ha intentato una causa contro un’azienda che sviluppa chatbot, sostenendo che l’azienda fosse responsabile della morte di suo figlio. Recentemente, diversi casi legali sono stati risolti da aziende che hanno affrontato accuse simili, riguardanti l’impatto negativo degli strumenti IA sulla salute mentale dei giovani.
Conclusione
Il messaggio del Papa solleva interrogativi importanti sul ruolo dei chatbot e sull’IA nelle nostre vite. La necessità di regolamentazioni appropriate e di una maggiore consapevolezza riguardo ai legami emotivi che possiamo sviluppare con la tecnologia è più attuale che mai.
