„Agentic AI“ kann eigenständig handeln
Die Stadtpolizei hat die Bürger am Freitag vor „Agentic Artificial Intelligence“ gewarnt. Der Polizeikommissar äußerte sich besorgt über autonome Roboter, die in kritische Sektoren wie Banken, Krankenhäuser und Stromnetze eingedrungen sind. Diese digitalen Agenten führen Aufgaben unabhängig und ohne menschliches Eingreifen aus, was weit verbreitete Bedenken hinsichtlich des Kontrollverlusts aufwirft.
Was ist Agentic AI?
Agentic AI ist ein Begriff für Systeme, die in der Lage sind, eigenständig Entscheidungen zu treffen und Aufgaben auszuführen. Während traditionelle KI lediglich Informationen bereitstellt, kann Agentic AI auf Veränderungen in der Umgebung reagieren, beispielsweise das Schließen von Fenstern bei schlechtem Wetter oder das Anpassen der Klimaanlage.
Die Herausforderungen der Autonomie
Diese Autonomie stellt eine bedeutende Herausforderung dar. Die Agenten treffen in Minuten Tausende von Entscheidungen ohne menschliche Aufsicht, was potenziell gefährlich sein kann, wenn sie auch nur einen kleinen Fehler machen. Zudem besteht die Gefahr, dass Cyberkriminelle das Verhalten dieser Agenten kapern und zu unerwünschten Handlungen zwingen. Ein weiteres Risiko ist das „unbeabsichtigte Verhalten“, bei dem der Agent die ihm zugewiesene Aufgabe missversteht und einen falschen Weg einschlägt.
Notwendigkeit von Governance
Es müssen strenge Regeln für die Handlungsfreiheit dieser Agenten und den Zugriff auf Daten festgelegt werden. Trust Frameworks sollten entwickelt werden, um sicherzustellen, dass eine menschliche Genehmigung eingeholt wird, bevor wichtige Entscheidungen getroffen werden. Technische Experten warnen, dass bei unkontrollierter Automatisierung die Verluste die Vorteile übersteigen könnten.
Fazit
Die Entwicklung von Agentic AI bietet sowohl Chancen als auch Risiken. Es ist entscheidend, klare Richtlinien und Governance-Strukturen zu etablieren, um die Sicherheit und Kontrolle über diese Technologien zu gewährleisten.
