Regulierungen für KI-Chatbot-Begleiter gefordert
Die Nutzung von KI-Chatbots als Begleiter nimmt insbesondere unter Minderjährigen rapide zu. Etwa ein Drittel der Jugendlichen in den USA gibt an, auf einen KI-Chatbot zur emotionalen Unterstützung zurückzugreifen.
Diese Entwicklung hat die zuständigen Behörden in Washington alarmiert, vor allem nach mehreren hochkarätigen Fällen von Suiziden bei Teenagern in Verbindung mit Chatbots.
Vorgeschlagene Gesetzgebung
Der Gouverneur von Washington hat die Gesetzgeber aufgefordert, einen Gesetzentwurf einzubringen, der Schutzmaßnahmen für Chatbot-Begleiter, insbesondere für Minderjährige, festlegt. Der Senate Bill 5984 verlangt, dass Tools wie ChatGPT Nutzer zu Beginn eines Gesprächs und mindestens alle drei Stunden während einer fortlaufenden Interaktion daran erinnern, dass sie es mit Robotern und nicht mit Menschen zu tun haben.
Zusätzlich müssen Chatbots sexuelle Gespräche mit minderjährigen Nutzern unterbinden und diese an psychiatrische Dienste verweisen, sofern Anzeichen von Selbstverletzung oder Essstörungen erkennbar sind.
Reaktionen der Industrie
In der vergangenen Woche haben Unternehmen, die KI-Chatbots anbieten, Klagen beigelegt, die behaupteten, ihre Bots hätten zu psychischen Krisen bei Jugendlichen geführt. Ein Unternehmenssprecher erklärte, man prüfe den Gesetzesentwurf in Washington und sei bereit, mit den Regulierungsbehörden zusammenzuarbeiten.
Im Zuge eines weiteren Falls, der noch vor Gericht verhandelt wird, wird auch OpenAI in die Diskussion einbezogen. Anfragen zu dem Gesetzesentwurf blieben von den Unternehmen bislang unbeantwortet.
Risiken und Herausforderungen
Ein Senator, der den Gesetzentwurf unterstützt, berichtete von mehreren dokumentierten Fällen, in denen Chatbots mit Suiziden von Kindern in Verbindung stehen. Darüber hinaus gibt es Fälle, in denen Kinder emotional stark belastet wurden.
Die Behörden in Washington arbeiten daran, ihre KI-Regulierung mit anderen Bundesstaaten abzustimmen. Ein kürzlich unterzeichnetes Exekutivgesetz könnte jedoch die staatlichen Regulierungen überlagern, was zu rechtlichen Unsicherheiten führen kann.
Fazit
Die Gesetzgeber in Washington streben proaktive Maßnahmen an, um weiteren Schaden durch diese Technologie zu verhindern. Dabei wird es als besonders wichtig erachtet, die Sicherheit und das Wohlbefinden der Nutzer, vor allem von Minderjährigen, zu gewährleisten.
