New York könnte bald von KI-Riesen die Veröffentlichung von Sicherheitsprotokollen vor der Einführung von LLMs verlangen
New York steht kurz davor, eines der ersten Gesetze in den Vereinigten Staaten einzuführen, das fortschrittliche KI-Modelle reguliert. Der Gesetzesentwurf mit dem Titel Responsible AI Safety and Education (RAISE) Act, der bereits den Senat des Bundesstaates passiert hat, wartet nun auf die Entscheidung von Gouverneurin Kathy Hochul.
Wenn das Gesetz in Kraft tritt, müssen große KI-Entwickler wie OpenAI, Google und Anthropic strenge Sicherheitsmaßnahmen umsetzen, die darauf abzielen, die Risiken, die von sogenannten „Frontier AI“-Modellen ausgehen, zu minimieren. Diese leistungsstarken Systeme dürfen nur dann öffentlich in New York angeboten werden, wenn die Entwickler Sicherheitsprotokolle und Risikobewertungen veröffentlichen. Das Gesetz wird auch die Meldung schwerwiegender Vorfälle, wie z. B. Modell-Diebstahl oder gefährliches KI-Verhalten, vorschreiben.
Bei Verstößen könnten zivilrechtliche Strafen von bis zu 30 Millionen Dollar verhängt werden.
Fokus auf große KI-Player
Der demokratische Senator Andrew Gounardes, einer der Sponsoren des Gesetzes, betonte, dass sich das Gesetz ausschließlich an große Unternehmen richtet, die mehr als 100 Millionen Dollar in das Training von Modellen investieren. Startups und akademische Institutionen würden von diesen Anforderungen ausgenommen.
Das Ziel, so Gounardes, sei es, Sicherheit und Innovation in Einklang zu bringen: „Das Fenster, um Sicherheitsvorkehrungen zu treffen, schließt sich schnell“, sagte er.
Zusammen mit dem Abgeordneten Alex Bores wurde der Gesetzesentwurf so konzipiert, dass er Fehltritte, die bei früheren Bemühungen gemacht wurden, insbesondere bei Kaliforniens gescheitertem SB 1047-Gesetz, vermeidet. Der RAISE Act verlangt keine obligatorischen Notabschaltungen oder Haftung für später modifizierte Modelle.
Widerstand aus der Tech-Branche
Trotz dieser Einschränkungen hat der Vorschlag Kritik aus dem Silicon Valley auf sich gezogen. Anjney Midha, Partner bei Andreessen Horowitz, bezeichnete das Gesetz auf der Plattform X als „dumm“ und warnte, es könnte die Wettbewerbsfähigkeit der USA beeinträchtigen. Auch Jack Clark, Mitgründer von Anthropic, äußerte Bedenken hinsichtlich der möglichen Auswirkungen auf kleinere Unternehmen. Gounardes wies diese Argumente zurück und betonte, dass das Gesetz gezielt nur die größten Akteure anspreche.
Große Tech-Unternehmen wie OpenAI, Google und Meta haben bisher keine öffentlichen Kommentare zu dem Gesetz abgegeben. Einige Kritiker warnen, dass Unternehmen möglicherweise entscheiden könnten, ihre Modelle in New York gar nicht anzubieten. Bores hält dies jedoch für unwahrscheinlich und merkt an, dass New York die drittgrößte Wirtschaft der USA ist und es wirtschaftlich wenig Sinn machen würde, sich zurückzuziehen.
Bundesweite Verbote könnten drohen
Vor wenigen Wochen verabschiedete das US-Repräsentantenhaus ein Gesetzespaket, das ein zehnjähriges Verbot von staatlichen KI-Regulierungen auferlegen würde. Wenn das sogenannte „One Big, Beautiful“-Gesetz auch den Senat passiert, würden Gesetze wie der RAISE Act in Zukunft blockiert. Befürworter des Moratoriums, zu denen große Tech-Unternehmen und marktwirtschaftliche Denkfabriken gehören, argumentieren, dass einheitliche bundesstaatliche Regeln erforderlich seien. Kritiker hingegen warnen, dies könnte den Verbraucherschutz aushöhlen und die Interessen der Industrie begünstigen.
