Die Revolution der künstlichen Intelligenz ist keine ferne Verheißung mehr – sie ist hier und verändert Branchen, Volkswirtschaften und das tägliche Leben. Um die Macht der KI verantwortungsvoll zu nutzen, ist eine grundlegende Veränderung in Richtung KI-Sicherheitsinfrastruktur, branchenübergreifender Zusammenarbeit und regulatorischer Abstimmung erforderlich.
Die Entscheidung, das US AI Safety Institute in das Center for AI Standards and Innovation umzubenennen, zeigt einen tiefen Wandel in den nationalen Prioritäten in Bezug auf die Entwicklung von KI. Diese Umbenennung spiegelt eine Verschiebung von langfristiger Risikominderung hin zu einer Priorisierung von Innovation und globaler Wettbewerbsfähigkeit wider.
Das Start-up Pillar Security hat ein KI-Sicherheitsframework codifiziert, das einen weiteren wichtigen Schritt in den Bemühungen der Branche darstellt, Strategien, Governance und Tools bereitzustellen, die sichere Operationen für KI und Agenten gewährleisten. Das Secure AI Lifecycle Framework (SAIL) umfasst mehr als 70 Risiken und eine Reihe von Minderungslösungen, die mit anderen führenden Frameworks in Einklang stehen.
IBM hat neue Softwarefähigkeiten eingeführt, die KI-Sicherheit und -Governance integrieren, und behauptet, dass dies die erste einheitliche Lösung zur Verwaltung von Risiken autonomer KI sei. Die Verbesserungen kombinieren IBM’s watsonx.governance mit Guardium AI Security, um Unternehmen bei der Verwaltung von Sicherheits- und Governance-Risiken in verschiedenen KI-Anwendungsfällen zu unterstützen.
IBM hat die erste Software der Branche vorgestellt, die Teams für KI-Sicherheit und -Governance zusammenbringt und einen einheitlichen Überblick über die Risikolage von Unternehmen bietet. Die neuen Funktionen verbessern und integrieren watsonx.governance und Guardium AI Security, um sicherzustellen, dass die KI-Systeme, einschließlich Agenten, skalierbar und verantwortungsbewusst gesichert sind.
Die Risiken von KI-Copiloten sind nicht nur theoretisch — reale Vorfälle haben bereits die Gefahren einer unregulierten KI-Nutzung aufgezeigt. Organisationen, die keine angemessenen Sicherheitsmaßnahmen ergreifen, laufen Gefahr, die nächste Schlagzeile zu sein, von Datenverletzungen bis hin zu Verstößen gegen Datenschutzbestimmungen.
Ohne strenge Sicherheitsrichtlinien kann KI leicht zu einer Haftung werden. Hersteller müssen Innovation mit Risikomanagement in Einklang bringen, um eine solide Grundlage für langfristigen Erfolg zu schaffen.
Der China AI Safety and Development Association (CnAISDA) wurde im Februar 2025 gegründet und dient als Chinas Vertretung in internationalen Gesprächen über KI-Sicherheit. Die Organisation zielt darauf ab, globale Standards zu entwickeln und die Zusammenarbeit in der KI-Sicherheitsgemeinschaft zu fördern.
Der Gesetzgeber in New York hat den sicherheitsorientierten RAISE Act verabschiedet, der umfassende Regelungen zur KI-Sicherheit vorsieht. Diese neuen Vorschriften verlangen von großen Entwicklern von Sprachmodellen, Sicherheitsprotokolle und Risikobewertungen zu erstellen und zu veröffentlichen.
New York plant, eines der ersten Gesetze zur Regulierung fortschrittlicher KI-Modelle in den Vereinigten Staaten einzuführen. Der Responsible AI Safety and Education (RAISE) Act würde von großen KI-Entwicklern verlangen, Sicherheitsprotokolle und Risikobewertungen zu veröffentlichen, bevor sie ihre Modelle im Bundesstaat freigeben.