In dem Bericht „2025 State of AI Data Security“ wurde festgestellt, dass die Einführung von KI die Datenverwaltung und -kontrolle überholt. Viele Unternehmen haben keine angemessene Überwachung, was dazu führt, dass KI auf sensible Daten zugreift, die sie nicht sehen sollte.
Kalifornien hat am 29. September 2025 das Gesetz über Transparenz in der Grenz-KI (TFAIA) unterzeichnet, das große KI-Entwickler verpflichtet, Sicherheitsrahmen zu veröffentlichen und kritische Sicherheitsvorfälle zu melden. Das Gesetz schafft auch erweiterte Whistleblower-Schutzmaßnahmen für Mitarbeiter, die Verstöße gegen die KI-Sicherheit melden.
Am 29. September 2025 unterzeichnete Gouverneur Gavin Newsom das Gesetz Senate Bill 53, das als Transparency in Frontier Artificial Intelligence Act (TFAIA) bekannt ist. Dieses wegweisende Gesetz verpflichtet große KI-Entwickler, öffentlich Sicherheitsrahmen und Transparenzberichte über ihre Modelle offenzulegen.
Am 29. September unterzeichnete der Gouverneur von Kalifornien, Gavin Newsom, das Gesetz über die Transparenz in der Grenz-Künstlichen Intelligenz (TFAIA), das Kalifornien zum ersten Bundesstaat macht, der öffentliche, standardisierte Sicherheitsoffenlegungen von Entwicklern fortschrittlicher KI-Modelle verlangt. Das Gesetz setzt neue Maßstäbe für Transparenz und Verantwortlichkeit, die die Sicherheitspraktiken in den USA und darüber hinaus prägen werden.
Kalifornien hat das historische Gesetz zur Transparenz von KI, SB 53, verabschiedet, das große KI-Entwickler verpflichtet, öffentlich darzulegen, wie sie nationale und internationale Standards in ihre KI-Frameworks integrieren. Das Gesetz schafft zudem einen neuen Prozess zur Meldung potenziell kritischer Sicherheitsvorfälle und schützt Personen, die bedeutende Gesundheits- und Sicherheitsrisiken im Zusammenhang mit KI-Modellen offenlegen.
Eine erfolgreiche KI-Initiative hängt von einem soliden Datenmanagement und einer effektiven Governance ab, wie Experten von InfoVerge in einer Webinarreihe erläutert haben. Der Aufbau einer robusten Datenbasis ist entscheidend für den Erfolg von KI-Projekten und erfordert eine klare Strategie sowie kontinuierliches Management und Governance.
Die wachsende Rolle von KI als Meinungsgatekeeper wirft Bedenken hinsichtlich versteckter Vorurteile auf. Eine neue Studie warnt davor, dass subtile Vorurteile in KI-Systemen den öffentlichen Diskurs verzerren und demokratische Prozesse untergraben könnten.
Mit der beschleunigten Einführung von generativer KI steigen auch die Risiken. Um diese Herausforderungen zu bewältigen, haben wir mit Tokio Marine Holdings und Tokio Marine & Nichido Systems zusammengearbeitet, um einen strukturierten Bewertungsprozess für KI-Governance-Tools zu entwickeln.
Die kalifornischen Gesetzgeber haben mit dem Gesetz zur Transparenz in der künstlichen Intelligenz einen wichtigen Schritt zur Gewährleistung von Verantwortung und Sicherheit in der Entwicklung von „Frontier-Modellen“ unternommen. Dieses Gesetz fordert Transparenz und Berichterstattung, um das Vertrauen der Öffentlichkeit in diese leistungsstarken KI-Systeme zu stärken.
Die EU möchte Entwicklern und Anbietern von KI-Systemen helfen, die Vorschriften des KI-Gesetzes einzuhalten, und arbeitet daher an Richtlinien und einem Verhaltenskodex, der die Transparenzpflichten für bestimmte Arten von KI-Systemen definiert. Die Konsultation ist bis zum 2. Oktober geöffnet und lädt verschiedene Interessengruppen ein, ihre Meinungen zu teilen.