Kalifornisches Gesetz über Begleit-Chatbots tritt in Kraft
Ein einzigartiges Gesetz trat zu Beginn des Jahres in Kalifornien in Kraft, das betriebliche und Berichtspflichten für Begleit-Chatbots auferlegt.
Gesetzliche Anforderungen
Das Gesetz gilt ausschließlich für „Begleit-Chatbots“ und schließt viele Kundenservice-Tools, Videospiel-Chatbots und sprachgesteuerte Assistenten aus. Betreiber von Begleit-Chatbots müssen Benutzerinformationen bereitstellen, Protokolle für die Sicherheit bei Selbstmord und Selbstverletzung implementieren und zusätzliche Schutzmaßnahmen ergreifen, wenn sie wissen, dass ein Benutzer minderjährig ist.
Ab 2027 müssen Betreiber von Begleit-Chatbots jährliche Berichte über Krisenverweise sowie Sicherheitsprotokolle im Zusammenhang mit Selbstmord und Selbstverletzung einreichen.
Abgedeckte Chatbots
Das Gesetz über Begleit-Chatbots gilt nicht für alle Chatbots oder KI-gestützten Konversationswerkzeuge. Es reguliert eine engere Kategorie, die als „Begleit-Chatbots“ bezeichnet wird. Diese Chatbots bieten adaptive, menschenähnliche Antworten und sind darauf ausgelegt, soziale oder emotionale Bedürfnisse zu erfüllen. Chatbots, die diese Kriterien nicht erfüllen, fallen nicht unter die Vorschriften.
Von der Definition der Begleit-Chatbots sind folgende Chatbots ausdrücklich ausgeschlossen:
- Kundenservice-Chatbots, die ausschließlich für Kundenservice und Geschäftsoperationen genutzt werden.
- Videospiel-Chatbots, die nur auf Fragen zu Videospielen antworten.
- Sprachgesteuerte Assistenten, die keine Beziehung über mehrere Interaktionen aufrechterhalten.
Betriebliche Anforderungen
Das Gesetz über Begleit-Chatbots auferlegt den Betreibern bestimmte betriebliche Anforderungen. Dazu gehören:
- Erforderliche Offenlegung: Wenn ein Benutzer glauben könnte, mit einem Menschen zu interagieren, muss der Betreiber klar und deutlich darauf hinweisen, dass es sich um ein KI-System handelt.
- Erforderliche Sicherheitsprotokolle: Der Betreiber muss Protokolle implementieren, um zu verhindern, dass der Chatbot Inhalte im Zusammenhang mit Selbstmord oder Selbstverletzung produziert.
- Offenlegung zur Eignung für Minderjährige: Der Betreiber muss angeben, dass der Chatbot möglicherweise nicht für einige Minderjährige geeignet ist.
- Zusätzliche Anforderungen für Minderjährige: Wenn der Betreiber weiß, dass ein Benutzer minderjährig ist, muss er zusätzliche Schutzmaßnahmen ergreifen.
Berichts- und Transparenzpflichten
Das Gesetz über Begleit-Chatbots auferlegt den Betreibern auch laufende Transparenzpflichten. Ab dem 1. Juli 2027 müssen Betreiber jährlich Berichte über die Anzahl der ausgestellten Krisenverweisbenachrichtigungen und die implementierten Protokolle zur Erkennung und Reaktion auf Selbstmordgedanken erstatten.
Durchsetzung und Haftungsüberlegungen
Das Gesetz schafft ein ausdrückliches privates Klagerecht, das es Benutzern ermöglicht, zivilrechtliche Klagen gegen Betreiber einzureichen, die gegen die Anforderungen des Gesetzes verstoßen.
Ausblick
Unternehmen, die Chatbots bereitstellen, sollten ihre Funktionalität jetzt bewerten, um festzustellen, ob das Gesetz über Begleit-Chatbots Anwendung findet. Da dies ein einzigartiges Gesetz ist, wird es wahrscheinlich nicht das letzte seiner Art sein.
