Oregon SB 1546: Das erste Chatbot-Gesetz mit echten Konsequenzen
Wenn Ihr Unternehmen ein KI-gestütztes Tool verwendet, das Kundeninteraktionen speichert, Folgefragen stellt und persönliche Gespräche aufrechterhält, könnte das neue Chatbot-Sicherheitsgesetz von Oregon auf Sie zutreffen. SB 1546, das am 5. März mit nahezu einstimmiger Unterstützung verabschiedet wurde, schafft ein privates Klagerecht mit 1.000 $ Schadensersatz pro Verstoß. Wenn der Gouverneur das Gesetz unterzeichnet, tritt es am 1. Januar 2027 in Kraft.
Was verlangt Oregon SB 1546?
Das Gesetz zielt auf „KI-Begleiter“ ab, die umfassend definiert werden:
[Ein System], das künstliche Intelligenz, generative künstliche Intelligenz oder Algorithmen verwendet, die Emotionen aus Eingaben erkennen, und das dazu entwickelt wurde, eine dauerhafte, menschliche, platonische, intime oder romantische Beziehung oder Begleitung mit einem Benutzer zu simulieren.
Für alle Benutzer müssen Betreiber die KI-Beteiligung offenlegen, Anzeichen von suizidalen Gedanken erkennen, das Gespräch unterbrechen, um Krisenüberweisungen zu liefern, und jährliche Berichte an die Gesundheitsbehörde von Oregon einreichen. Für Minderjährige müssen Betreiber zusätzlich stündliche KI-Erinnerungen bereitstellen, auf sexuell explizite Inhalte verzichten und Techniken vermeiden, die emotionale Abhängigkeit erzeugen.
Anwendungsbereich für Unternehmen
Ein System qualifiziert sich als „KI-Begleiter“, wenn es einen drei-stufigen Test erfüllt:
[Das System] (a) [speichert] Informationen aus früheren Interaktionen oder Benutzersitzungen und Benutzerpräferenzen, um Interaktionen zu personalisieren und fortlaufendes Engagement zu ermöglichen; (b) [stellt] ungeforderte oder unaufgeforderte Fragen, die keine direkten Antworten auf Benutzereingaben sind und emotionale Themen betreffen; und (c) [führt] einen fortlaufenden Dialog über persönliche Angelegenheiten des Benutzers.
Die Unternehmen, die am wahrscheinlichsten überrascht werden, sind nicht die KI-Anbieter, sondern Unternehmen, die KI-Tools in kundenorientierte oder mitarbeiterorientierte Arbeitsabläufe integriert haben, ohne zu verfolgen, wie sich diese Tools entwickelt haben.
Rechtliche Risiken
Das private Klagerecht setzt eine niedrige Hürde für die Klageerhebung und eine hohe Obergrenze für Schadensersatz:
Eine Person, die einen feststellbaren Verlust von Geld oder Eigentum oder einen anderen Schaden infolge eines Verstoßes erleidet, kann eine Klage erheben … [auf] Schadensersatz von 1.000 $ pro Verstoß.
Das Gesetz definiert „Verstoß“ nicht. Wenn jede Gesprächssitzung zählt, ist die Haftung erheblich. Wenn jede Nachricht innerhalb einer Sitzung zählt, könnte eine einzige Klage eines Benutzers Zehntausende von Dollar erreichen, und eine Sammelklage könnte in die Millionen gehen.
Was sollten Unternehmen jetzt tun?
Überprüfen Sie Ihren Anbieter-Stack. Unternehmen sollten alle Drittanbieter-KI-Tools im Kundenservice, in der Patientenbindung, im Personalwesen und in der Finanzplanung gegen die dreistufige Definition abgleichen — insbesondere Tools, die durch kürzliche Updates Personalisierungs- oder emotionale Engagement-Funktionen hinzugefügt haben.
Überprüfen Sie die Anbieterverträge. Anbietervereinbarungen, die vor SB 1546 abgeschlossen wurden, behandeln wahrscheinlich nicht die Verpflichtungen zur unterbrechenden Kommunikation oder Krisenüberweisungen. Unternehmen sollten die Haftungsverteilung und die Deckung für Schadensersatzansprüche bei Erkennungsfehlern bestätigen.
Überprüfen Sie Ihre Versicherungen. Es könnte sinnvoll sein, technische E&O- und Cyber-Richtlinien zu überprüfen, um sicherzustellen, dass Schadensersatzansprüche im Zusammenhang mit Chatbots und Lücken in der Anbieterindemnifizierung abgedeckt sind.
Oregon ist ein Indikator für einen breiteren Trend. Mit 78 Chatbot-Gesetzen in 27 Bundesstaaten im Jahr 2026 werden ähnliche Gesetze folgen. Das private Klagerecht ist der strukturelle Wandel: Wenn jeder Benutzer auf Schadensersatz klagen kann, verschieben sich die wirtschaftlichen Anreize von „Überwachen und Reagieren“ zu „Vorbeugen oder Zahlen“.
