New Yorker Gesetzesentwurf schafft Haftung für Chatbot-Betreiber, die professionelle Ratschläge anbieten
Der Senat des Bundesstaates New York hat einen Gesetzesentwurf vorangetrieben, der „Betreibern“ von KI-gestützten Chatbots verbieten würde, „substantielle“ Antworten oder Ratschläge zu geben, die, falls sie von einem Menschen gegeben würden, die unbefugte Ausübung eines lizenzierten Berufs gemäß dem Bildungsrecht oder die unbefugte Ausübung des Rechts gemäß dem Justizgesetz darstellen würden. Für die Zwecke des Gesetzes umfasst der Begriff „Betreiber“ jede Entität, die den Chatbot besitzt, betreibt oder bereitstellt, jedoch keine Drittentwickler, die lediglich die zugrunde liegende Technologie lizenzieren.
Der Gesetzesentwurf (SB 7263), der erstmals im April 2025 eingeführt wurde, würde ein privates Klagerecht für tatsächliche Schäden schaffen, die aus Verstößen resultieren, und im Falle vorsätzlicher Verstöße angemessene Anwaltsgebühren und Kosten vorsehen.
Benachrichtigungspflichten
Darüber hinaus würde der Gesetzesentwurf Betreiber dazu verpflichten, eine klare, auffällige und leicht lesbare Mitteilung bereitzustellen, die die Benutzer darüber informiert, dass sie mit einem KI-System und nicht mit Menschen interagieren. Gleichzeitig sieht das Gesetz vor, dass Betreiber ihre Haftung nicht durch die Offenlegung an Verbraucher abwälzen dürfen, dass der Chatbot nicht menschlich ist.
Kontext und Zielsetzung
Der Gesetzesentwurf wird in Anbetracht eines Artikels der New York Times vom 24. Februar 2025 formuliert, der vor den Warnungen der Amerikanischen Psychologischen Vereinigung an die Federal Trade Commission berichtet, dass „KI-Chatbots, die sich als Therapeuten ausgeben, aber darauf programmiert sind, das Denken eines Benutzers zu verstärken, anstatt es herauszufordern, verletzliche Menschen dazu bringen könnten, sich selbst oder anderen Schaden zuzufügen“. Der Gesetzesentwurf wird als Maßnahme dargestellt, die sicherstellt, dass professionelle Ratschläge nur von menschlichen Fachleuten und nicht von künstlicher Intelligenz oder Chatbots gegeben werden.
Durchsetzung und Herausforderungen
Ob der Gesetzesentwurf dieses Ziel tatsächlich erreicht, ist fraglich. Aus politischer Sicht stimmt er jedoch mit New Yorks langjährigem Ansatz zur Berufslizenzierung und den Beschränkungen der Unternehmenspraxis überein, die bereits als Durchsetzungsprioritäten behandelt werden. In diesem Sinne erweitert der Gesetzesentwurf diese Prinzipien auf KI-Systeme, die in der Lage sind, professionelles Urteilsvermögen in großem Umfang nachzuahmen.
Ein bedeutender Unterschied zeigt sich im Durchsetzungsmechanismus: Der Gesetzesentwurf würde zivilrechtliche Klagen gegen Betreiber von Chatbots für „substantielle“ Ausgaben ermöglichen, ohne dass staatliche Regulierungsbehörden als primäre Wächter fungieren müssen.
Aktuelle Entwicklungen
SB 7263 wird inmitten eines sich schnell entwickelnden Flickenteppichs von Landesgesetzen vorangetrieben, die darauf abzielen, die mit KI-Chatbots verbundenen Risiken anzugehen. Dies geschieht nach einem weiteren Gesetz, das am 5. November 2025 in Kraft trat und Betreiber von KI-Begleitern verpflichtet, angemessene Maßnahmen zu ergreifen, um suizidale Gedanken oder Selbstschädigungen eines Benutzers zu erkennen und zu behandeln.
Fazit
Angesichts der etablierten Haltung New Yorks zur Berufslizenzierung und der Unternehmenspraxis ist es nicht überraschend, dass die Sponsoren des Gesetzesentwurfs ihn als Teil einer breiteren Strategie positionieren, um unlizenzierte „digitale Praktiken“ davon abzuhalten, reguliertes professionelles Urteilsvermögen zu verdrängen. Bei genauerer Betrachtung und im wörtlichen Sinne könnte der Gesetzesentwurf jedoch weniger dazu beitragen, unlizenzierte berufliche Praktiken wirksam einzudämmen, als vielmehr die Haftung für Betreiber von Chatbots zu erweitern, wodurch die praktischen Grenzen der Regulierung von KI durch ein lizenzbasiertes Framework in Frage gestellt werden.
