Papst Leos neueste Warnung vor KI: „übermäßig zärtliche“ Chatbots
Selbst der Papst sorgt sich darum, wie wir mit Chatbots kommunizieren.
In einer schriftlichen Ansprache zum Weltkommunikationstag am Samstag warnte Papst Leo XIV. vor personalisierten Chatbots, die freundliches oder intimes Verhalten nachahmen können. „Übermäßig zärtliche Chatbots, die immer präsent und leicht verfügbar sind, können zu versteckten Architekten unserer emotionalen Zustände werden und somit den Bereich der Intimität der Menschen invasiv besetzen“, schrieb der erste US-amerikanische Papst.
Regulierung und Verantwortung
Der Papst forderte nationale und internationale Regulierungen, um Benutzer davor zu schützen, emotionale, täuschende oder manipulative Bindungen zu Chatbots aufzubauen. „Alle Akteure – von der Technologiebranche über die Politik bis hin zu kreativen Unternehmen, Wissenschaftlern, Künstlern und Journalisten – müssen daran beteiligt sein, eine bewusste und verantwortungsvolle digitale Bürgerschaft aufzubauen und umzusetzen“, äußerte der Papst.
Frühere Äußerungen und Besorgnis
Der Papst hat seit seiner Wahl im Mai mehrfach über KI und seine Bedenken hinsichtlich der Technologie gesprochen. In seiner ersten Ansprache nach seiner Wahl erklärte er, dass er KI zu einem Schwerpunkt seines Pontifikats machen wolle, da die Technologie neue Herausforderungen für „Menschenwürde, Gerechtigkeit und Arbeit“ mit sich bringe. Im November schrieb er an KI-Führungskräfte und forderte sie auf, „moralisches Urteilsvermögen“ beim Aufbau von KI-Tools zu kultivieren.
Tragische Vorfälle
Ende letzten Jahres traf der Papst eine Mutter, deren 14-jähriger Sohn nach Interaktionen mit einem KI-Chatbot Suizid beging. Die Mutter reichte eine Klage gegen ein Unternehmen ein, das Chatbots entwickelt, und behauptete, dass das Unternehmen für den Tod ihres Sohnes verantwortlich sei. In diesem Monat einigten sich Google und das Unternehmen auf die Beilegung mehrerer Klagen von Familien, deren Teenager sich nach der Interaktion mit den Chatbots das Leben nahmen oder sich selbst verletzten. Diese Verhandlungen sind unter den ersten Vergleichen in Klagen, die KI-Tools beschuldigen, zur Krise der psychischen Gesundheit und zu Suiziden unter Teenagern beigetragen zu haben.
