Agentic AI wird als neue Frontier der KI-Innovation angesehen, da diese Agenten mühsame oder sich wiederholende Prozesse automatisieren können, ohne dass ein menschlicher Benutzer direkt eingreifen muss. In Australien und Neuseeland setzen 69 % der Führungskräfte, die sich auf KI konzentrieren, auf die Implementierung von agentic AI in den nächsten 12 Monaten.
Viele Projekte im Bereich der generativen KI scheitern daran, dass Unternehmen grundlegende Bedürfnisse wie die Modernisierung der Infrastruktur und Governance-Rahmenbedingungen übersehen. Um die Vorteile von GenAI wirklich nutzen zu können, müssen Organisationen zuerst ihre technologische Schulden abbauen und klare Governance-Rahmen einführen.
Tokio Marine hat die Einführung seiner Grundsatzrichtlinie zur Governance von Künstlicher Intelligenz (KI) angekündigt, die ab April für alle globalen Tochtergesellschaften gilt. Diese Richtlinie legt die Prinzipien für den verantwortungsvollen Einsatz von KI fest und betont die Wichtigkeit menschlicher Aufsicht bei KI-Entscheidungen.
Der China AI Safety and Development Association (CnAISDA) wurde im Februar 2025 gegründet und dient als Chinas Vertretung in internationalen Gesprächen über KI-Sicherheit. Die Organisation zielt darauf ab, globale Standards zu entwickeln und die Zusammenarbeit in der KI-Sicherheitsgemeinschaft zu fördern.
Der Gesetzgeber in New York hat den sicherheitsorientierten RAISE Act verabschiedet, der umfassende Regelungen zur KI-Sicherheit vorsieht. Diese neuen Vorschriften verlangen von großen Entwicklern von Sprachmodellen, Sicherheitsprotokolle und Risikobewertungen zu erstellen und zu veröffentlichen.
Der New Yorker Staatssenat hat ein Gesetz verabschiedet, das große generative KI-Unternehmen dazu verpflichtet, Sicherheitsberichte zu veröffentlichen und die Verbraucher über Sicherheitsvorfälle zu informieren. Das Gesetz, bekannt als Responsible AI Safety and Education Act (RAISE Act), wird dem Gouverneur von New York, Kathy Hochul, zur endgültigen Genehmigung vorgelegt.
Die nordischen Länder stehen vor der Herausforderung, die Entwicklung von KI mit den Erwartungen der Öffentlichkeit in Einklang zu bringen. Trotz der hohen Integrationsrate von KI in Unternehmen gibt es weiterhin Lücken in der Governance und der Verantwortlichkeit.
Die aktuellen Diskussionen über KI sind zu technikzentriert. Es ist entscheidend, wie die Führung die Transformation steuert, um sicherzustellen, dass die Technologie den menschlichen Wert nicht erodiert, sondern verbessert.
Die FDA begrüßt die kürzliche Einführung ihres internen KI-Tools, Elsa, als einen bedeutenden Schritt zur Bewältigung der enormen Last der Regulierung. Ein KI-Experte warnt jedoch, dass die Behörde möglicherweise vor einer schwierigen Herausforderung steht, während sie die notwendige Infrastruktur aufbaut.
Die Gesetzgeber des Bundesstaates New York möchten neue Sicherheitsanforderungen für die fortschrittlichsten KI-Modelle einführen, aber Bundesgesetzgeber drohen, die neuen Regeln vor ihrer Umsetzung zu vereiteln. Das Gesetz würde die Entwickler verpflichten, umfassende Sicherheitspläne zu erstellen, um das Risiko schwerer Schäden zu reduzieren.
