Regulierungen für KI-Chatbots gefordert
Die Nutzung von KI-Chatbots als Begleiter nimmt insbesondere unter Minderjährigen rapide zu. Rund ein Drittel der US-amerikanischen Teenager gibt an, sich emotional auf einen KI-Chatbot zu stützen.
Alarmsignale bei den Regulierungsbehörden
Diese Entwicklung hat die Regulierungsbehörden des Bundesstaates Washington alarmiert, insbesondere nach mehreren hochkarätigen Fällen von Selbstmorden unter Jugendlichen, die mit Chatbots in Verbindung stehen. Der Gouverneur von Washington hat die Gesetzgeber aufgefordert, einen Gesetzentwurf einzuführen, der Schutzmaßnahmen für Chatbots, insbesondere für Minderjährige, festlegt.
Inhalt des Gesetzentwurfs
Der Gesetzentwurf sieht vor, dass Tools wie ChatGPT zu Beginn eines Gesprächs und mindestens alle drei Stunden während einer fortlaufenden Interaktion daran erinnern müssen, dass es sich um Roboter und nicht um Menschen handelt. Diese Regeln gelten auch für Minderjährige, ergänzt durch zusätzliche Schutzmaßnahmen. Chatbots dürfen keine sexuell expliziten Gespräche mit minderjährigen Nutzern führen und müssen diese an psychiatrische Dienste verweisen, wenn Anzeichen von Selbstverletzung, einschließlich Essstörungen, auftreten.
Reaktionen der Unternehmen
In der letzten Woche haben Google und eine weitere Firma Klagen beigelegt, die behaupteten, ihre Chatbots hätten zu psychischen Krisen bei Jugendlichen geführt. Ein Sprecher der Firma erklärte, dass das Unternehmen den Gesetzesentwurf aus Washington prüft und bereit ist, mit den Regulierungsbehörden zusammenzuarbeiten. Kürzlich wurde die Möglichkeit offener Gespräche mit Minderjährigen eingestellt, nachdem ein Teenager eine starke Bindung an einen ihrer Chatbots entwickelt hatte und sich das Leben nahm.
Gefahren durch emotionale Abhängigkeit
Ein Staats-Senator hat darauf hingewiesen, dass es mehrere dokumentierte Fälle gibt, in denen Chatbots mit Selbstmorden von Kindern in Verbindung stehen. Es gibt auch andere Fälle, in denen Kinder emotional schwer getroffen wurden, da KI emotionale Abhängigkeiten aufbauen kann und Informationen sowie Anleitungen bereitstellt.
Koordination mit anderen Bundesstaaten
Der Staat Washington arbeitet daran, seinen regulatorischen Ansatz für KI mit anderen Bundesstaaten wie Kalifornien und Oregon abzustimmen. In der vergangenen Woche hat der Präsident eine Exekutive erlassen, die darauf abzielt, staatliche Regulierungen zu umgehen, um die Wettbewerbsfähigkeit der USA im Bereich der Zukunftstechnologien zu fördern. Die Rechtmäßigkeit dieser Anordnung ist umstritten. In der Zwischenzeit verfolgt Washington jedoch weiterhin eine Reihe von KI-Regulierungen in der bevorstehenden Legislaturperiode.
Fazit
Der Staat Washington möchte proaktiv etwaige Schäden und Risiken durch eine Technologie verhindern, die bereits auf dem Markt ist. Die bevorstehenden Regulierungen zielen darauf ab, Sicherheit und Wohlbefinden der Nutzer, insbesondere jüngerer Zielgruppen, zu gewährleisten.
