Risiken der KI-Sicherheit im RAISE-Gesetz von New York

Die RAISE-Gesetzgebung von New York und die Risiken von KI-Sicherheit

Das Responsible AI Safety and Education (RAISE)-Gesetz von New York hat das Ziel, Menschen vor den Gefahren von Künstlicher Intelligenz (KI) zu schützen. Es wird jedoch argumentiert, dass die Annahme, KI-Modelle selbst seien der entscheidende Hebel zur Gewährleistung der Sicherheit, das Problem in eine bürokratische Last verwandeln könnte.

Hintergrund und Ziele des RAISE-Gesetzes

Das RAISE-Gesetz, das von Alex Bores, einem Mitglied der Versammlung, verfasst wurde, umfasst eine Reihe von Anforderungen, um sicherzustellen, dass KI-Technologien verantwortungsvoll eingesetzt werden. Es wird derzeit im Ausschuss debattiert. Die Gesetzgebung zielt darauf ab, fortschrittliche KI-Modelle zu regulieren, die bestimmte rechnerische Schwellenwerte erreichen und mehr als 100 Millionen Dollar kosten, um trainiert zu werden.

Regulierungsanforderungen

Entwickler von KI-Modellen, die unter das RAISE-Gesetz fallen, müssen eine Vielzahl von Anforderungen erfüllen, darunter:

  • Tests und Risikominderungsstrategien durchführen
  • Regelmäßige Drittanbieter-Audits durchlaufen
  • Transparenzanforderungen einhalten
  • Vorfälle melden, bei denen ein System gefährliche Ereignisse ermöglicht hat
  • Detaillierte Testunterlagen für fünf Jahre aufbewahren
  • Jährliche Überprüfungen und Aktualisierungen der Protokolle durchführen

Die Nichteinhaltung dieser Vorschriften kann erhebliche Strafen nach sich ziehen, die bei 5 % der Rechenkosten für einen ersten Verstoß beginnen und bei nachfolgenden Verstößen auf 15 % steigen können.

Herausforderungen bei der Umsetzung

Obwohl das Gesetz darauf abzielt, die Interessen der öffentlichen Sicherheit mit den Gewinnmotiven der Unternehmen in Einklang zu bringen, hat sich gezeigt, dass es schwierig ist, Modelle effektiv zur Verhinderung von Missbrauch auszurichten. Dies liegt daran, dass die Modellausrichtung meist hilfreich ist, um unbeabsichtigte Schäden zu vermeiden, jedoch nicht ausreicht, um böswillige Akteure davon abzuhalten, gefährliche Anwendungen zu entwickeln.

Aktuelle Ansätze konzentrieren sich auf externe Systeme, die auf den Modellen basieren, um die Ausrichtung aufrechtzuerhalten. Führende Unternehmen entwickeln externe Inhaltsfilter, Protokolle zur menschlichen Aufsicht und Systeme zur Echtzeitüberwachung, um schädliche Ausgaben zu erkennen und zu verhindern.

Bürokratische Ineffizienz und Compliance-Kosten

Das RAISE-Gesetz bringt eine Vielzahl von Anforderungen mit sich, die möglicherweise nicht notwendig sind, wenn bereits robuste Sicherheitsprotokolle vorhanden sind. Beispielsweise stellt sich die Frage, warum fünf Jahre Aufbewahrungspflicht bestehen, wenn ein Modell eine unabhängige Prüfung bestanden hat. Diese Widersprüche können nicht nur zu bürokratischer Ineffizienz führen, sondern auch die tatsächlichen Sicherheitsausgänge gefährden.

Die Compliance-Kosten, die mit der Einhaltung solcher Gesetze verbunden sind, werden oft unterschätzt. Frühere Schätzungen deuten darauf hin, dass die realen Kosten für die Einhaltung deutlich höher sein könnten als offiziell prognostiziert. Analysen deuten darauf hin, dass die anfänglichen Compliance-Anforderungen zwischen 1.070 und 2.810 Stunden liegen könnten, was effektiv einem Vollzeitmitarbeiter entspricht.

Schlussfolgerung

Die breite Palette an Compliance-Kosten und die Unsicherheiten rund um das RAISE-Gesetz deuten darauf hin, dass die Gesetzgebung in der Praxis unvorhersehbar sein könnte. Angesichts der schnellen Entwicklungen im Bereich KI ist es entscheidend, Gesetze zu schaffen, die effektive Risikominderungsstrategien priorisieren, anstatt sich auf regulatorisches Theater zu stützen.

More Insights

Stärkung der Sicherheit von LLM: Verantwortliche KI-Ausrichtung von phi-3

Dieser Artikel behandelt die Sicherheitsmaßnahmen von Phi-3 in Bezug auf verantwortungsbewusste KI-Alignment-Prinzipien. Durch die Anwendung von Red-Teaming und automatisierten Tests wurde die...

Kontrolle und Compliance in souveränen KI-Clouds für die intelligente Fertigung

Souveräne KI-Clouds bieten sowohl Kontrolle als auch Compliance und sind entscheidend für Hersteller, die sicherstellen möchten, dass ihre sensiblen Daten lokal bleiben. Diese Plattformen ermöglichen...

Ethische KI-Initiativen der schottischen Allianz stärken Vertrauen

Die Scottish AI Alliance hat ihren Impact Report 2024/2025 veröffentlicht, der ein transformierendes Jahr des Fortschritts bei der Förderung von vertrauenswürdiger, ethischer und inklusiver...

EU AI Act: Dringender Handlungsbedarf für Unternehmen

Die Ankündigung der EU-Kommission am vergangenen Freitag, dass es keine Verzögerung des EU-KI-Gesetzes geben wird, hat viele Menschen auf beiden Seiten dieses Themas dazu gebracht, sowohl epische...

Vertrauenswürdigkeit großer Sprachmodelle im Kontext des EU-KI-Gesetzes

Die Entwicklung großer Sprachmodelle (LLMs) wurde durch Fortschritte im Deep Learning, die Verfügbarkeit umfangreicher öffentlicher Datensätze und leistungsstarker Ressourcen vorangetrieben. Diese...

EU AI Gesetz: Dringender Aufruf zur Pause?

Die Europäische Kommission hat die Forderungen nach einer Verzögerung der Umsetzung des AI-Gesetzes zurückgewiesen und den ursprünglichen Zeitplan beibehalten. Trotz Druck von Unternehmen und Ländern...

Strengere Trump-Kontrollen: Chancen und Risiken für die AI-Branche

Die Trump-Administration bereitet neue Einschränkungen für den Export von KI-Chips nach Malaysia und Thailand vor, um zu verhindern, dass fortschrittliche Prozessoren über Drittländer nach China...

Die Bedeutung von KI- und Datengovernance in modernen Unternehmen

Die Governance von KI und Daten ist entscheidend für die Entwicklung zuverlässiger und ethischer KI-Lösungen in modernen Unternehmen. Diese Rahmenbedingungen sind miteinander verbunden und...

BRICS fordert die UN zu globalen KI-Regulierungen auf

Die BRICS-Staaten haben die Vereinten Nationen aufgefordert, eine Führungsrolle bei der Festlegung globaler Regeln für künstliche Intelligenz zu übernehmen. Diese Initiative unterstreicht die...