New York setzt mit dem RAISE-Gesetz neue Maßstäbe für KI-Sicherheit
Der Bundesstaat New York gehörte im Jahr 2025 zu den Vorreitern in der Regulierung von künstlicher Intelligenz (KI). Zu den bemerkenswerten Aktivitäten des Staates gehörte die Verabschiedung eines umfassenden Haushaltsgesetzes, das Sicherheitsmaßnahmen für KI-Begleiter implementierte und am 5. November 2025 in Kraft trat. Am 19. Dezember 2025 unterzeichnete der Gouverneur eine geänderte Version des Responsible Artificial Intelligence Safety and Education (RAISE) Act.
New York reiht sich in eine Gruppe von Bundesstaaten wie Colorado, Kalifornien und Utah ein, die KI auf Landesebene regulieren, und trägt damit zu einem wachsenden Geflecht umfassender und gezielter KI-Gesetzgebung bei. Dutzende Bundesstaaten verabschiedeten letztendlich im Jahr 2025 gesetzliche Regelungen im Zusammenhang mit KI.
Diese Bestrebungen der Bundesstaaten, auf Landesebene zu regulieren, werfen weiterhin Fragen zur Vorrangstellung und zur Zukunft der KI-Gesetzgebung auf. Ein im Dezember erlassenes Exekutivdekret ordnete die Schaffung einer KI-Rechtsstreitgruppe innerhalb des Justizministeriums an, um Landesgesetze auf Grundlage des zwischenstaatlichen Handels und der Ersten Änderung anzufechten. Zudem drohte es, die Bundesmittel für Bundesstaaten mit strengen KI-Vorschriften zurückzuhalten. Dieses Dekret hat eine Debatte über den Umfang der föderalen Autorität in der Regulierung von KI auf Landesebene ausgelöst.
Künstliche Intelligenz Begleitmodelle
Das Gesetz über KI-Begleitmodelle verpflichtet Betreiber und Anbieter von KI-Begleitern, Sicherheitsmaßnahmen und Protokolle zu implementieren, um die Äußerung von suizidalen Gedanken oder Selbstverletzungen durch die Nutzer zu erkennen und anzugehen. Zudem müssen die Nutzer regelmäßig darüber informiert werden, dass sie nicht mit einem Menschen kommunizieren.
Das Gesetz gilt für alle Betreiber von KI-Begleitern mit Nutzern, die sich im Bundesstaat New York befinden. „Betreiber“ umfasst sowohl Betreiber als auch Anbieter von KI-Begleitern. Unter dem Gesetz werden „KI-Begleiter“ definiert als Systeme, die KI, generative KI und/oder „emotionale Erkennungsalgorithmen“ verwenden, um eine dauerhafte menschenähnliche Beziehung zu einem Nutzer zu simulieren.
Die wichtigsten Anforderungen des Gesetzes beinhalten:
- Klare und auffällige Benachrichtigungen, dass Nutzer nicht mit einem Menschen kommunizieren; diese müssen mindestens alle drei Stunden bei fortgesetzter Interaktion erfolgen.
- Systemprotokolle zur Erkennung und Ansprache suizidaler Gedanken oder Selbstverletzungen.
- Verweis der Nutzer bei Erkennung solcher Äußerungen an geeignete Krisendienste.
Die Durchsetzung des Gesetzes obliegt dem Staatsanwalt, der Unterlassungsklagen und zivilrechtliche Sanktionen gegen Betreiber von KI-Begleitern einleiten kann, die gegen diese Bestimmungen verstoßen.
RAISE-Gesetz
New York hat zudem umfassendere Sicherheitsfragen im Zusammenhang mit KI angegangen und den RAISE Act verabschiedet, der am 1. Januar 2027 in Kraft tritt. Das Gesetz verlangt von Entwicklern großer KI-Modelle Transparenz- und Offenlegungspflichten sowie die Durchführung jährlicher Sicherheitsüberprüfungen und unabhängiger Audits.
Die wichtigsten Anforderungen an Entwickler umfassen:
- Durchführung jährlicher Sicherheitsüberprüfungen und unabhängiger dritter Audits mit Aktualisierung der Protokolle nach Bedarf.
- Veröffentlichung von Informationen über Sicherheitsprotokolle.
- Berichterstattung über Sicherheitsvorfälle innerhalb von 72 Stunden.
- Erstellung detaillierter Sicherheitsprotokolle zur Vermeidung kritischer Schäden.
Die New Yorker Abteilung für Finanzdienstleistungen wird ein neues Büro zur Überwachung der KI-Entwicklung einrichten. Der Staatsanwalt kann zivilrechtliche Sanktionen von bis zu 1.000.000 USD für die erste Verletzung und bis zu 3.000.000 USD für nachfolgende Verstöße verhängen.
New York verabschiedete 2025 außerdem weitere KI-bezogene Gesetze, darunter Vorschriften zur Offenlegung personalisierter algorithmischer Preisgestaltung und zur Verwendung digitaler Replikate. Angesichts der Unsicherheit durch das jüngste Exekutivdekret wird erwartet, dass weitere Bundesstaaten im Jahr 2026 spezifische KI-Gesetze vorschlagen.
Wir werden die Entwicklungen weiterhin verfolgen und diesen Bericht bei Bedarf aktualisieren, sobald der endgültige Text veröffentlicht wird.
