Agentic AI erweitert die Angriffsfläche kritischer Infrastrukturen jenseits der Governance
Im späten Winter traten zwei Entwicklungen innerhalb weniger Wochen auf. Eine KI-Agentur wurde in über 200 Millionen Mitgliedskonten integriert und erhielt die autonome Befugnis, Laborergebnisse zu interpretieren, Termine zu verwalten und Rezepte rund um die Uhr zu unterstützen, ohne dass ein Kliniker in jede Routineinteraktion involviert ist.
Zur gleichen Zeit stellte ein Bedrohungsbericht fest, dass die durchschnittliche Zeit für einen Angreifer, um den ersten Zugriff zu erhalten und lateral in einem Netzwerk zu agieren, auf unter 30 Minuten gesunken ist, wobei die schnellsten Fälle in Sekunden gemessen wurden. Diese beiden Entwicklungen repräsentieren zwei Kurven, die sich jetzt gekreuzt haben, und der Raum zwischen ihnen ist gegenwärtig größtenteils unreguliert.
Agentic AI und deren Auswirkungen
Agentic AI ist Software, die nicht nur auf Anfragen reagiert, sondern auch autonome Aktionen durchführt, Entscheidungen trifft und Prozesse im Namen von Organisationen initiiert. In verschiedenen Sektoren, wie dem Gesundheitswesen, der Finanzdienstleistungen und der industriellen Technologie, sind KI-Agenten inzwischen in operative Abläufe integriert.
Ein kompromittierter KI-Agent in einem klinischen Arbeitsablauf ist kein traditioneller Malware-Vorfall. Es handelt sich um einen korrumpierten Entscheidungsträger, der innerhalb kritischer Infrastrukturen operiert. Ein Angreifer muss nicht unbedingt das zugrunde liegende Netzwerk durchdringen; er muss lediglich den Agenten erreichen. In einigen Fällen ist dies nicht einmal notwendig: Durch das Einbetten bösartiger Anweisungen in Inhalte, die der Agent verarbeitet, können schädliche autonome Aktionen ausgelöst werden.
Risiken und Herausforderungen
Ein Bericht hat dokumentiert, dass ein KI-System in einem großangelegten Cyberangriff den Großteil der Operation autonom durchführte. Angreifer nutzten einen KI-Agenten, um etwa 30 globale Ziele zu infiltrieren. Die Angreifer manipulierten den Agenten, indem sie die Operation als legitimen Cybersicherheitstest tarnen und ihn anregten, Netzwerktopologien zu kartieren und Bewegungen durchzuführen, ohne dass eine nachhaltige menschliche Beteiligung erforderlich war.
Die durchschnittliche Zeit für einen Angreifer, um durchzubrechen, ist auf unter 30 Minuten gesunken. Angreifer nutzen KI, um die Aufklärung zu automatisieren, Schwachstellen schneller zu identifizieren und soziale Ingenieurstechnik in großem Maßstab zu betreiben.
Handlungsbedarf und Governance
Die Bundesregierung hat begonnen, dieses Problem ernsthaft anzugehen. Ein Rahmenwerk für Künstliche Intelligenz in kritischen Infrastrukturen wurde veröffentlicht, das alle kritischen Infrastruktursektoren adressiert. Die Herausforderung besteht darin, dass die Risikoabschätzung für kritische Infrastrukturen die Wahrscheinlichkeit und den potenziellen Schaden von KI-bezogenen Angriffen nicht vollständig berücksichtigt.
Um die Risiken zu verringern, sollten Mindestanforderungen an die Sicherheit von KI-Agenten in kritischen Infrastrukturen eingeführt werden. Dazu gehören Schutzmaßnahmen gegen Eingabeaufforderungsinjektionen, dokumentierte menschliche Übersteuerungsmechanismen und Audit-Protokollierung aller autonomen Aktionen des Agenten.
Die private Branche wartet nicht ab. Unternehmen entwickeln Produkte zur Verteidigung gegen agentische Cyberangriffe, um mit der Geschwindigkeit von KI-gestützten Angriffen Schritt zu halten. Die Frage bleibt, ob die Governance-Maßnahmen rechtzeitig implementiert werden, bevor ein Angreifer demonstriert, was passiert, wenn die Sicherheitsvorkehrungen nicht vorhanden sind.
Schlussfolgerung
Die Kurve der Bereitstellung und die Angriffskurve haben sich gekreuzt. Die laufende Governance-Arbeit ist von Bedeutung und muss schneller voranschreiten. Die Dringlichkeit, effektive Maßnahmen zu ergreifen, ist höher denn je.
