New York verabschiedet Gesetz zur Vermeidung von KI-gestützten Katastrophen
Die Gesetzgeber des Bundesstaates New York haben am Donnerstag ein Gesetz verabschiedet, das darauf abzielt, zu verhindern, dass fortschrittliche KI-Modelle von OpenAI, Google und Anthropic zu Katastrophenszenarien beitragen, die mehr als 100 Menschenleben kosten oder Schäden von über 1 Milliarde US-Dollar verursachen können.
Die Verabschiedung des RAISE Act stellt einen Sieg für die Bewegung zur Sicherheit von KI dar, die in den letzten Jahren an Boden verloren hat, während Silicon Valley und die Trump-Administration Geschwindigkeit und Innovation priorisierten. Sicherheitsbefürworter wie der Nobelpreisträger Geoffrey Hinton und der KI-Forschungspionier Yoshua Bengio haben den RAISE Act unterstützt.
Ziele und Bestimmungen des RAISE Act
Sollte das Gesetz in Kraft treten, würde es die ersten gesetzlich vorgeschriebenen Transparenzstandards für fortschrittliche KI-Labore in den USA festlegen. Der RAISE Act hat einige der gleichen Bestimmungen und Ziele wie das umstrittene KI-Sicherheitsgesetz von Kalifornien, SB 1047, das letztendlich vetoisiert wurde. Der Mitautor des Gesetzes, der New Yorker Senator Andrew Gounardes, erklärte in einem Interview, dass er den RAISE Act absichtlich so gestaltet hat, dass er Innovationen bei Start-ups oder akademischen Forschern nicht behindert – eine gängige Kritik an SB 1047.
„Das Zeitfenster, um Sicherheitsvorkehrungen zu treffen, schließt sich schnell, angesichts der Geschwindigkeit, mit der sich diese Technologie entwickelt“, sagte Senator Gounardes. „Die Menschen, die [KI] am besten kennen, sagen, dass diese Risiken unglaublich wahrscheinlich sind […] Das ist alarmierend.“
Folgen der Gesetzgebung
Der RAISE Act befindet sich nun auf dem Tisch der Gouverneurin von New York, Kathy Hochul, die das Gesetz entweder unterzeichnen, zur Überarbeitung zurücksenden oder es ganz vetoisieren könnte. Wenn das Gesetz in Kraft tritt, würde es die größten KI-Labore der Welt verpflichten, umfassende Sicherheits- und Sicherheitsberichte über ihre fortschrittlichen KI-Modelle zu veröffentlichen. Die Gesetzgebung fordert auch, dass KI-Labore Sicherheitsvorfälle melden, wie etwa besorgniserregendes Verhalten von KI-Modellen oder das Stehlen eines KI-Modells, falls dies geschieht.
Wenn Unternehmen diesen Standards nicht nachkommen, ermächtigt der RAISE Act den Generalstaatsanwalt von New York, zivilrechtliche Strafen von bis zu 30 Millionen US-Dollar zu verhängen.
Regulierung von KI-Unternehmen
Der RAISE Act zielt darauf ab, die größten Unternehmen der Welt zu regulieren – unabhängig davon, ob sie in Kalifornien (wie OpenAI und Google) oder in China (wie DeepSeek und Alibaba) ansässig sind. Die Transparenzanforderungen des Gesetzes gelten für Unternehmen, deren KI-Modelle mit mehr als 100 Millionen US-Dollar an Rechenressourcen trainiert wurden (offensichtlich mehr als jedes heute verfügbare KI-Modell) und die für Bewohner von New York verfügbar gemacht werden.
Branche und Gegenreaktionen
Obwohl der RAISE Act in einigen Aspekten Ähnlichkeiten mit SB 1047 aufweist, wurde er entwickelt, um die Kritik an früheren KI-Sicherheitsgesetzen zu adressieren. Nathan Calvin, der Vizepräsident für staatliche Angelegenheiten und General Counsel bei Encode, der an diesem Gesetz und an SB 1047 gearbeitet hat, stellte fest, dass der RAISE Act nicht vorschreibt, dass Entwickler von KI-Modellen einen „Kill-Switch“ in ihre Modelle einbauen müssen, noch hält er Unternehmen, die KI-Modelle nachträglich trainieren, für kritische Schäden verantwortlich.
Dennoch hat Silicon Valley erheblich gegen das KI-Sicherheitsgesetz von New York Widerstand geleistet. Der New Yorker Abgeordnete und Mitautor des RAISE Act, Alex Bores, erklärte, dass der Widerstand der Branche nicht überraschend sei, aber behauptete, dass der RAISE Act die Innovation der Technologieunternehmen in keiner Weise behindern würde.
„Der NY RAISE Act ist ein weiteres dummes, dummes staatliches KI-Gesetz, das die USA nur verletzen wird, während unsere Gegner voranschreiten“, erklärte Anjney Midha, General Partner bei Andreessen Horowitz, in einem Beitrag auf X. Andreessen Horowitz und das Start-up-Inkubator Y Combinator waren einige der heftigsten Gegner von SB 1047.
Zukunftsausblick
Ein weiterer häufiger Kritikpunkt am RAISE Act ist, dass die Entwickler von KI-Modellen einfach ihre fortschrittlichsten KI-Modelle nicht im Bundesstaat New York anbieten würden. Diese Kritik wurde auch gegen SB 1047 vorgebracht und ist weitgehend das, was in Europa aufgrund der strengen Vorschriften der Region im Bereich Technologie passiert ist.
Abgeordneter Bores erklärte, dass die regulatorische Belastung des RAISE Act relativ gering sei und daher die Technologieunternehmen nicht daran hindern sollte, ihre Produkte in New York zu betreiben. Angesichts der Tatsache, dass New York das drittgrößte BIP in den USA hat, ist es für die meisten Unternehmen keine leichte Entscheidung, den Bundesstaat zu verlassen.
„Ich möchte die politische Kleinlichkeit, die möglicherweise auftreten könnte, nicht unterschätzen, aber ich bin sehr zuversichtlich, dass es keinen wirtschaftlichen Grund gibt, warum [KI-Unternehmen] ihre Modelle nicht in New York verfügbar machen sollten“, sagte Abgeordneter Bores.
