Singapurs neues Modell für die Governance von agentischer KI (2026)
Diese Veröffentlichung befasst sich mit dem weltweit ersten umfassenden Governance-Rahmen für agentische künstliche Intelligenz (KI) – Systeme, die fähig sind zu autonomem Denken, Planen und Handeln. Dieser neue Rahmen wurde am 22. Januar 2026 auf dem Weltwirtschaftsforum vorgestellt und stellt eine wesentliche Weiterentwicklung der KI-Regulierungsstrategie dar.
Was ist agentische KI?
Agentische KI kann Aufgaben initiieren, Datenbanken aktualisieren, Aktionen ausführen und sich dynamisch anpassen. Dies bringt neue Risiken mit sich, wie unbefugte Handlungen, Datenlecks und voreingenommene Entscheidungen.
Wichtige Governance-Säulen
- Risiken im Voraus bewerten und eingrenzen: Organisationen müssen Systemverbindungen, Datensensibilität, Autonomie und Kaskadeneffekte evaluieren.
- Menschenverantwortung sicherstellen: Menschliche Aufsicht muss zentral bleiben, mit klarer Zuweisung von Verantwortlichkeiten und Genehmigungspunkten.
- Technische Kontrollen implementieren: Zu den Kontrollen gehören Sandboxing, Sicherheitstests, Überwachung und Schutz vor Missbrauch oder Privilegienausweitung.
- Verantwortung der Endbenutzer fördern: Schulung, Transparenz und die Fähigkeit, Agenten zu intervenieren oder abzuschalten, sind unerlässlich.
Globale Auswirkungen des Rahmens
Obwohl der Rahmen nicht verbindlich ist, prägt er globale Normen und ergänzt Werkzeuge wie AI Verify und Governance-Initiativen der ASEAN.
Folgen für Organisationen
Organisationen sollten ihre Aufsichtsmodelle verfeinern, die Privilegien von Agenten begrenzen, die Überwachung verstärken und sich auf regulatorische Prüfungen vorbereiten.
Nächste Schritte
Einrichtungen sollten Konsultationen durchführen, Tests verbessern und die Dokumentation für eine verantwortungsvolle Bereitstellung stärken.
