New York Legislative Maßnahmen zu GenAI-Warnungen
Am 9. März 2026 verabschiedete die Legislative von New York ein Gesetz (A 3411), das generative künstliche Intelligenz (GenAI) Systeme dazu verpflichtet, die Nutzer darauf hinzuweisen, dass die Ausgaben des Systems möglicherweise ungenau sind. Dieses Gesetz wird nun dem Gouverneur zur Prüfung vorgelegt. Sollte es in Kraft treten, wird es 90 Tage nach Verabschiedung wirksam.
Hintergrund
Das Gesetz wurde von einem Senator und einem Abgeordneten initiiert, die sich als wichtige Stimmen für Technologiegesetze in New York etabliert haben. Es erinnert an das Algorithmic Pricing Disclosure Act, das ebenfalls Transparenzanforderungen für algorithmisch festgelegte Preise einführte und dessen Verfassungsmäßigkeit von einem Bundesgericht bestätigt wurde.
Anwendbarkeit
Das Gesetz gilt für GenAI-Systeme, die als eine Klasse von KI-Modellen definiert sind, die selbstüberwachend sind und die Struktur sowie Eigenschaften von Eingabedaten emulieren, um synthetische Inhalte zu erzeugen. Die Definition umfasst Systeme, die maschinelles Lernen, natürliche Sprachverarbeitung und Computer Vision Technologien verwenden.
Warnungspflicht
Das Gesetz verlangt, dass der Betreiber eines GenAI-Systems deutlich und sichtbar einen Hinweis auf der Benutzeroberfläche anzeigt, dass die Ausgaben des Systems ungenau sein können. Im ursprünglichen Entwurf sollte der Hinweis auch darauf hinweisen, dass die Ausgaben „unangemessen“ sein könnten, was in der späteren Fassung entfernt wurde.
Durchsetzung
Wenn ein Betreiber es versäumt, den Hinweis bereitzustellen, droht ihm eine Geldstrafe von 1.000 US-Dollar für jeden Verstoß. Jeder Nutzer, dem kein Hinweis gegeben wurde, stellt einen separaten Verstoß dar.
Fazit
Das Gesetz könnte weitreichende Auswirkungen auf die Nutzung von GenAI-Technologien haben, indem es Anforderungen an die Transparenz und Benutzeraufklärung stellt. Es bleibt abzuwarten, ob das Gesetz in Kraft tritt und welche Reaktionen es von den betroffenen Unternehmen hervorrufen wird.
