Generative AI-Sicherheit erfordert eine starke Governance von der C-Suite, um Risiken wie Datenverletzungen und Compliance-Fehler zu mindern. Die Sicherheit von KI muss auf Vorstandsebene priorisiert werden, um unbefugte Werkzeuge zu verhindern und eine angemessene Überwachung zu gewährleisten.
Italien hat als erster EU-Mitgliedstaat ein nationales Gesetz für künstliche Intelligenz verabschiedet, das am 17. September 2025 die endgültige parlamentarische Genehmigung erhielt und das EU-AI-Gesetz ergänzt. Dieses Gesetz zielt darauf ab, menschliche Aufsicht und Rückverfolgbarkeit bei KI-gestützten Entscheidungen sicherzustellen und gleichzeitig Innovationen in der Wirtschaft zu fördern.
Eine Gruppe von 31 Digitalrechtsorganisationen hat die Europäische Kommission aufgefordert, sicherzustellen, dass das AI-Gesetz planmäßig umgesetzt wird. In einem offenen Brief wird auf die Verzögerungen bei der Ernennung nationaler Aufsichtsbehörden hingewiesen, insbesondere in Ungarn, wo ein neues Gesetz die Verwendung von Gesichtserkennung zur Überwachung von Pride-Veranstaltungen erlaubt.
Bundesstaatliche Gesetzgeber arbeiten daran, Gesetze zur Regulierung der Nutzung von KI bei Einstellungsentscheidungen durchzusetzen, trotz Widerstands von der Technologiebranche und der Trump-Administration. Trotz der Herausforderungen bleibt die Bewegung zur Regulierung stark, auch wenn die Gesetze in ihrem Umfang eingeschränkt werden.
Familienbüros stehen vor neuen Herausforderungen in Bezug auf die Einhaltung von Vorschriften und Audit-Risiken im Zusammenhang mit KI. Angesichts der wachsenden regulatorischen Anforderungen müssen sie die Nutzung von KI-Tools und deren Auswirkungen auf ihre Entscheidungsprozesse sorgfältig überwachen.
Die Vereinten Nationen haben einen Vorschlag zur Regulierung von KI vorgestellt, um weltweit einheitliche Grenzen zu setzen, die bis Ende 2026 festgelegt werden sollen. Diese Regelungen könnten jedoch die Einhaltung für Unternehmen komplizieren, da es in den Mitgliedsländern möglicherweise bereits eigene Vorschriften gibt.
Am 18. September hielt Professor Suresh Venkatasubramanian von der Brown University an der Carnegie Mellon University einen Vortrag über Ansätze zur Regulierung von Künstlicher Intelligenz (KI) und die Bewertung von Fairness in der Nutzung von KI. Er betonte die Notwendigkeit, spezifische Probleme anzugehen und betonte, dass bedeutende Fortschritte in der KI-Governance nicht durch umfassende, von oben nach unten gerichtete Rahmenbedingungen, sondern durch praktische, von unten nach oben gerichtete Ansätze erzielt werden sollten.
FICO hat zwei neue grundlegende Modelle vorgestellt, FICO Focused Language (FICO FLM) und FICO Focused Sequence (FICO FSM), die speziell für den Finanzsektor entwickelt wurden. Diese Modelle bieten eine verbesserte Transparenz und Compliance, indem sie die Genauigkeit und Relevanz der generierten Ausgaben durch einen Trust Score bewerten.
Die verantwortungsvolle KI-Governance sollte nicht nur auf die rechtliche Einhaltung beschränkt sein, sondern auch darüber hinausgehen. Unternehmen müssen die Risiken ihrer KI-Systeme unabhängig von gesetzlichen Vorgaben bewerten, um potenzielle Schäden und Reputationsrisiken zu vermeiden.
Nvidia hat die kürzlich vorgeschlagene Gain AI Act kritisiert und betont, dass sie den Wettbewerb im schnelllebigen KI-Sektor einschränken könnte. Die Gesetzgebung zielt darauf ab, sicherzustellen, dass wichtige KI-Komponenten zuerst amerikanischen Unternehmen und Regierungsbehörden zur Verfügung stehen, bevor sie ins Ausland geliefert werden.