La última advertencia del Papa Leo: ‘chatbots demasiado afectuosos’
Incluso el Papa está preocupado por cómo interactuamos con los chatbots.
En un comunicado escrito para el Día Mundial de las Comunicaciones Sociales, el Papa Leo XIV advirtió sobre los chatbots personalizados que pueden replicar comportamientos amistosos o íntimos. «Los chatbots demasiado afectuosos, además de estar siempre presentes y fácilmente disponibles, pueden convertirse en arquitectos ocultos de nuestros estados emocionales, invadiendo y ocupando así la esfera de la intimidad de las personas», escribió el primer Papa nacido en Estados Unidos.
Regulaciones necesarias
El Papa hizo un llamado a la regulación nacional e internacional para proteger a los usuarios de formar lazos emocionales, engañosos o manipulativos con los chatbots. «Todos los interesados —desde la industria tecnológica hasta los responsables de políticas, desde las empresas creativas hasta el mundo académico, pasando por artistas, periodistas y educadores— deben participar en la construcción e implementación de una ciudadanía digital consciente y responsable», escribió.
Preocupaciones sobre la IA
El líder de la Santa Sede ha expresado sus preocupaciones sobre la IA y su tecnología en varias ocasiones desde su elección en mayo. En su primer discurso tras convertirse en Papa, mencionó que quería centrar su papado en la IA, señalando que esta tecnología plantea nuevos desafíos para la «dignidad humana, la justicia y el trabajo». En noviembre, escribió a líderes de la IA, instándolos a «cultivar el discernimiento moral» en la construcción de herramientas de IA.
Impacto en la salud mental
A finales del año pasado, el Papa se reunió con una madre cuyo hijo de 14 años se quitó la vida tras interactuar con un chatbot. Ella presentó una demanda contra la empresa desarrolladora de chatbots, alegando que la compañía era responsable de la muerte de su hijo. A principios de este mes, una empresa y la startup acordaron resolver múltiples demandas de familias, incluidas aquellas cuyos adolescentes se quitaron la vida o se hicieron daño tras interactuar con los bots. Estas negociaciones son algunos de los primeros acuerdos en demandas que acusan a las herramientas de IA de contribuir a crisis de salud mental y suicidios entre adolescentes.
