Kalifornien hat neue Gesetze zur Sicherheit und Transparenz von KI erlassen, während das ‚No Robo Bosses Act‘ von Gouverneur Newsom abgelehnt wurde. Die neuen Vorschriften erfordern von Unternehmen, vor der Verwendung automatisierter Entscheidungsfindungssysteme eine Risikoanalyse durchzuführen und die Ergebnisse den zuständigen Behörden zu melden.
Künstliche Intelligenz hat die Art und Weise revolutioniert, wie Unternehmen mit Kunden interagieren, doch die Sicherheit in diesen Gesprächen ist entscheidend. Studien zeigen, dass 4 bis 7 % der KI-Gespräche toxische oder voreingenommene Antworten enthalten, was das Vertrauen der Kunden und die Einhaltung von Vorschriften gefährdet.
Künstliche Intelligenz bewegt sich in physische Geräte, die in Echtzeit wahrnehmen, lernen und sich anpassen. In den USA sind die bestehenden Vorschriften jedoch nicht für diese hybriden Systeme ausgelegt, was zu einem rechtlichen Dilemma führt und die Benutzer gefährdet.
Der Bericht zur KI-Sicherheit 2025 stellt fest, dass wir nicht ausreichend auf die Risiken vorbereitet sind, die von immer leistungsfähigeren allgemeinen KI-Systemen ausgehen. Die Autoren fordern dringend Maßnahmen, um sicherzustellen, dass die entwickelten Systeme mit menschlichen Werten in Einklang stehen und dass geeignete Governance-Strukturen etabliert werden, bevor es zu spät ist.
Der EU AI Act ist das weltweit erste umfassende rechtliche Rahmenwerk zur Regulierung von künstlicher Intelligenz, das darauf abzielt, Innovation mit grundlegenden Rechten und öffentlichem Vertrauen in Einklang zu bringen. Unternehmen, die KI-Systeme entwickeln oder einsetzen, müssen sich auf neue Sicherheits- und Compliance-Anforderungen einstellen, um die Risiken und Herausforderungen zu bewältigen, die mit der Nutzung von KI verbunden sind.
Kalifornien hat das Gesetz über künstliche Intelligenz (AI) Senate Bill 53 (SB 53 verabschiedet), das von Gouverneur Gavin Newsom unterzeichnet wurde. Diese Regelung erfordert von großen AI-Unternehmen, dass sie ihre Sicherheits- und Schutzprotokolle öffentlich darlegen.
Kalifornien hat einen historischen Schritt zur Regulierung der künstlichen Intelligenz unternommen, indem es das Gesetz über Transparenz in der Frontier-KI (SB 53) verabschiedet hat, das erste Gesetz seiner Art in den Vereinigten Staaten, das sich vollständig mit der Sicherheit und Verantwortlichkeit von KI beschäftigt. Dieses Gesetz erfordert von großen KI-Entwicklern, Sicherheitsrahmen zu veröffentlichen, schwerwiegende Vorfälle zu melden und Mitarbeiter zu schützen, die Verstöße melden.
Die Sicherheit von KI in Unternehmen ist schlecht geregelt und fragmentiert, was zu unmanaged Risiken führt und KI-bezogene Vorfälle als unvermeidlich erscheinen lässt. Laut dem Bericht von Acuvity AI erwarten 50 % der Befragten Datenverluste durch generative KI-Tools im nächsten Jahr.
In der heutigen Zeit, in der künstliche Intelligenz (KI) und Cloud-Technologien schnell voranschreiten, setzen Organisationen zunehmend Sicherheitsmaßnahmen ein, um sensible Daten zu schützen. Bei der Auswahl einer KI-Sicherheitslösung (AI-SPM) sollten Unternehmen fünf entscheidende Fragen stellen, um sicherzustellen, dass sie die richtigen Entscheidungen treffen.
Kalifornien hat als erster Bundesstaat umfassende Gesetze zur Sicherheit und Transparenz von KI-Systemen mit hoher Rechenleistung verabschiedet. Dieses wegweisende Gesetz fordert Entwickler auf, Sicherheitsprotokolle, Vorfallberichte und Risikominderungspläne öffentlich offenzulegen.