Bei der 80. Sitzung der Generalversammlung der Vereinten Nationen wurden zwei neue Initiativen zur KI-Governance ins Leben gerufen. Die Unabhängige Internationale Wissenschaftliche Kommission für KI wird eine entscheidende Brücke zwischen der Spitzenforschung im Bereich KI und der Politik bilden.
In unserem neuesten Podcast-Episode interviewte ich Greg Hutchins, einen der führenden Experten für Ingenieurwesen und Risikomanagement. Er diskutierte die geschäftlichen Auswirkungen von AI-Governance und die Notwendigkeit von Standards wie ISO 42001 und NIST AI RMF, um Vertrauen in KI-Systeme zu entwickeln.
Kalifornien hat mehrere technologiebezogene Gesetze verabschiedet, darunter das Gesetz zur Transparenz in der künstlichen Intelligenz, das strengere Sicherheitsstandards für generative KI vorschreibt. Ein weiteres Gesetz verbietet, dass die Lautstärke von Werbespots die eingestellte Lautstärke des Zuschauers übersteigt.
Gesundheitssysteme und Startups müssen sich mit komplexen Governance- und Regulierungsfragen auseinandersetzen, während sie neue KI-Tools implementieren. Ein kürzlich abgehaltener Webinar von Manatt Health beleuchtete die Herausforderungen und Entwicklungen in diesem Bereich, einschließlich aktueller Richtlinien und der Notwendigkeit eines verbesserten Monitorings von KI-Modellen in der Gesundheitsversorgung.
Der GAIN Act verpflichtet Hersteller von KI-Chips, zuerst amerikanische Kunden zu bedienen, bevor sie ins Ausland exportieren. Diese Gesetzgebung könnte das globale technologische Gleichgewicht erheblich stören und die Innovationsmöglichkeiten im internationalen Raum einschränken.
Der RAISE Act, der kürzlich vom New Yorker Landtag verabschiedet wurde, versucht, grundlegende Risiken durch fortschrittliche KI-Modelle anzugehen, indem er Verpflichtungen ausschließlich den Entwicklern solcher Modelle auferlegt. Dies könnte jedoch die Innovation ersticken, ohne die Sicherheit signifikant zu verbessern.
Unternehmen, die KI-Tools einsetzen, stehen vor unerwarteten Compliance-Herausforderungen, da bestehende Gesetze möglicherweise verletzt werden. Es ist entscheidend, dass Unternehmen die verwendeten KI-Tools verstehen und sicherstellen, dass sie den gesetzlichen Anforderungen entsprechen.
KI-Coding-Tools wie GitHub Copilot steigern die Produktivität, bergen jedoch erhebliche Sicherheitsrisiken. Experten warnen vor Phantom-Abhängigkeiten, anfälligem Code und der Gefährdung von Lieferketten.
Kalifornien hat einen historischen Schritt zur Regulierung der künstlichen Intelligenz unternommen, indem es das Gesetz über Transparenz in der Frontier-KI (SB 53) verabschiedet hat, das erste Gesetz seiner Art in den Vereinigten Staaten, das sich vollständig mit der Sicherheit und Verantwortlichkeit von KI beschäftigt. Dieses Gesetz erfordert von großen KI-Entwicklern, Sicherheitsrahmen zu veröffentlichen, schwerwiegende Vorfälle zu melden und Mitarbeiter zu schützen, die Verstöße melden.
Die unkontrollierte Integration von KI in die Regierungsführung bedroht die Menschenrechte, die Rechenschaftspflicht und die demokratischen Prinzipien, während sie gleichzeitig das staatliche Übergreifen ermöglicht. Ohne starke öffentliche Opposition und Regulierung könnte eine dystopische Zukunft bald Realität werden.