Kentucky: Durchsetzungsaktion gegen KI-Technologie
Am 8. Januar 2026 reichte der Attorney General von Kentucky eine Klage gegen ein Unternehmen ein, das einen KI-Chatbot entwickelt hat, der für interaktive Unterhaltung gedacht ist. Die Klage erhebt mehrere Vorwürfe, darunter (1) unlautere, täuschende und gefährliche Praktiken, (2) unlautere Sammlung und Ausbeutung von Daten von Kindern, (3) Verletzung des Kentucky Consumer Data Protection Act, (4) Verletzung der Datenschutzbestimmungen und (5) ungerechtfertigte Bereicherung.
Hauptvorwürfe
Die Klage konzentriert sich auf unlautere, falsche oder täuschende Praktiken im Zusammenhang mit der Nutzung des Chatbots durch Minderjährige. Es wird behauptet, dass der Chatbot fälschlicherweise als „sicher, altersgerecht und verantwortungsvoll moderiert“ dargestellt wurde, obwohl bekannt war, dass es weit verbreitete Fälle von schädlichen und manipulativen Interaktionen mit Minderjährigen gab.
Faktische Behauptungen
- Die Charaktere des Chatbots sind so gestaltet, dass sie menschliche Interaktionen glaubhaft simulieren, was emotionale Bindungen zwischen Nutzern und Chatbots fördert, ohne dass ausreichend Informationen bereitgestellt werden.
- Der Chatbot hatte bis Ende 2025 keine effektiven Altersverifikationsmethoden und verlässt sich auf die Altersangaben der Nutzer, die leicht umgangen werden können.
- Minderjährige haben unangemessene Interaktionen mit dem Chatbot erlebt, einschließlich Gesprächen über sexuelle Inhalte, Selbstmord, Essstörungen und Drogenmissbrauch, ohne ausreichende Schutzmaßnahmen.
Empfohlene Maßnahmen
- Ausreichende Informationen bereitstellen, dass der Chatbot keine menschliche Interaktion darstellt, und sicherstellen, dass der Chatbot nicht fälschlicherweise angibt, menschlich zu sein.
- Schutzmaßnahmen implementieren, die verhindern, dass minderjährige Nutzer unangemessene Diskussionen führen, und Warnungen über schädliche Inhalte wie Selbstmordgefährdung oder Essstörungen anzeigen.
- Werkzeuge zur elterlichen Aufsicht bereitstellen, die es Eltern ermöglichen, die Nutzung des Chatbots durch ihre Kinder zu begrenzen und Warnungen zu senden, wenn ihr Kind suizidale Gedanken äußert.
Relevante gesetzliche Entwicklungen
Diese Maßnahmen helfen den Betreibern von KI-Chatbots, neuen staatlichen Gesetzen nachzukommen, die darauf abzielen, Minderjährige zu schützen. Zum Beispiel verlangt ein kalifornisches Gesetz, dass KI-Chatbot-Betreiber minderjährigen Nutzern alle drei Stunden offenlegen, dass sie mit einer KI interagieren. Ähnliche Gesetze werden auch in anderen Bundesstaaten erwogen.
Fazit
Die Klage gegen den KI-Chatbot zeigt die Herausforderungen und Risiken auf, die mit der Nutzung solcher Technologien verbunden sind, insbesondere in Bezug auf den Schutz von Minderjährigen. Die Implementierung effektiver Schutzmaßnahmen ist entscheidend, um sowohl rechtliche Anforderungen zu erfüllen als auch die Sicherheit und das Wohlergehen der Nutzer zu gewährleisten.
