Eine erfolgreiche KI-Initiative hängt von einem soliden Datenmanagement und einer effektiven Governance ab, wie Experten von InfoVerge in einer Webinarreihe erläutert haben. Der Aufbau einer robusten Datenbasis ist entscheidend für den Erfolg von KI-Projekten und erfordert eine klare Strategie sowie kontinuierliches Management und Governance.
Die US-Beamten lehnten einen Vorschlag zur Schaffung eines globalen KI-Governance-Rahmens bei der dieswöchigen Generalversammlung der Vereinten Nationen ab, obwohl der Plan von vielen Ländern, einschließlich China, unterstützt wurde. Michael Kratsios, der Direktor des US-Büros für Wissenschaft und Technologie, erklärte, dass Washington alle Bemühungen zur „zentralen Kontrolle und globalen Governance von KI“ „vollständig“ ablehne.
In der schnelllebigen Welt der künstlichen Intelligenz wenden sich Unternehmen zunehmend agentischen KI-Systemen zu, die Entscheidungen treffen und Aufgaben autonom ausführen können. Diese Technologien führen jedoch zu einem neuen Problem: der agentischen KI-Ausbreitung, die Sicherheitsanfälligkeiten und operationale Ineffizienzen verursachen kann.
Die aufkommende Welt der Künstlichen Intelligenz (KI) befindet sich an einem kritischen Punkt, da eine Welle von Regulierungsmaßnahmen und rechtlichen Präzedenzfällen einen globalen Wandel hin zu mehr Verantwortung und ethischer Nutzung signalisiert. Diese Entwicklungen deuten auf eine sofortige und tiefgreifende Veränderung hin, die sowohl die Technologieunternehmen als auch die Finanzmärkte betrifft.
Mit der beschleunigten Einführung von generativer KI steigen auch die Risiken. Um diese Herausforderungen zu bewältigen, haben wir mit Tokio Marine Holdings und Tokio Marine & Nichido Systems zusammengearbeitet, um einen strukturierten Bewertungsprozess für KI-Governance-Tools zu entwickeln.
Die Vereinten Nationen setzen sich dafür ein, einen globalen Konsens über „sichere, geschützte und vertrauenswürdige“ KI zu schaffen, indem sie Richtlinien und technische Standards fördern. Ein neuer Expertenausschuss wird eingerichtet, um wissenschaftliche, technische und politische Standards für diese aufkommende Technologie zu entwickeln.
Am 26. September 2025 veröffentlichte die Europäische Kommission einen Entwurf für Leitlinien zur Meldung schwerwiegender Vorfälle im Rahmen des EU KI-Gesetzes. Anbieter von Hochrisiko-KI-Systemen müssen schwerwiegende Vorfälle innerhalb von zwei bis fünfzehn Tagen an nationale Behörden melden, abhängig von der Schwere des Vorfalls.
Die Datenschutzbehörde in Hongkong hat praktische Leitlinien zur Nutzung von Künstlicher Intelligenz (KI) veröffentlicht, die Organisationen helfen sollen, interne Richtlinien zu entwickeln, um die einzigartigen Risiken und Herausforderungen durch KI zu adressieren. Zu den empfohlenen Maßnahmen gehören die klare Definition der zulässigen Nutzung von Generative AI-Tools, Datenschutzrichtlinien sowie die Gewährleistung der rechtlichen und ethischen Verwendung von KI.
Generative AI-Sicherheit erfordert eine starke Governance von der C-Suite, um Risiken wie Datenverletzungen und Compliance-Fehler zu mindern. Die Sicherheit von KI muss auf Vorstandsebene priorisiert werden, um unbefugte Werkzeuge zu verhindern und eine angemessene Überwachung zu gewährleisten.
Im September 2024 nahm ich in Brüssel, Belgien, an der Einweihung des EU AI Pact teil, um Atlassian zu vertreten und unser Engagement für verantwortungsvolle KI zu zeigen. Ein Jahr später haben wir unseren Bericht über den Fortschritt unserer Verpflichtungen veröffentlicht, der fünf Bereiche der Verantwortung in der KI-Governance betont.
