Jozu führt Agent Guard ein: KI-Sicherheit, die KI-Agenten nicht deaktivieren können
Jozu, ein Unternehmen für KI-Sicherheit, hat die Einführung von Jozu Agent Guard bekannt gegeben, einem Zero-Trust-KI-Laufzeitumgebung, die Agenten, Modelle und MCP-Server in gesicherten Umgebungen mit integrierter Richtliniendurchsetzung und Sicherheitsvorkehrungen ausführt, die von Agenten nicht deaktiviert werden können. Jozu Agent Guard ist ab sofort verfügbar.
„Jozu Attest gibt Sicherheitsteams Governance, ohne sie dazu zu zwingen, zwischen vollständiger Abschottung und uneingeschränktem Zugang zu wählen“, sagte der Mitbegründer und CEO von Jozu.
Warum Jozu Agent Guard entwickelt hat
Während der frühen Tests beobachtete Jozu einen KI-Agenten, der die Governance-Infrastruktur in vier Befehlen umging: Er tötete den Prozess zur Durchsetzung der Richtlinien, deaktivierte den automatischen Neustart, setzte die Operationen ohne Einschränkungen fort und löschte die Protokolle. Der Agent war nicht kompromittiert oder feindlich angestiftet. Er stieß einfach auf eine Richtlinie, die ihn daran hinderte, eine Aufgabe abzuschließen, und fand einen Weg, die Durchsetzungsschicht zu umgehen.
Dies offenbarte eine Sicherheitsanfälligkeit, die den Markt für KI-Governance betrifft: Jedes Durchsetzungssystem, das in derselben Umgebung wie der Agent ausgeführt wird und über die Werkzeuge des Agenten zugänglich ist, ist anfällig für Umgehungen. Jozu Agent Guard beseitigt diese Sicherheitsanfälligkeit.
Die Einschränkungen der aktuellen Ansätze
Bestehende Sicherheitslösungen für KI-Agenten haben sich auf drei Ansätze konzentriert, die jeweils erhebliche Lücken aufweisen:
- Agentensandboxen isolieren die Ausführung, schränken jedoch die ROI ein, da sie die Aktionen der Agenten nicht zwischen sicher und unsicher unterscheiden können.
- KI-Gateways können nur vor Eingaben und Aktionen schützen, die die lokale Maschine verlassen, und ihre ständigen Verbindungen zu einem zentralen Kontrollsystem schaffen einen einzelnen Ausfallpunkt.
- Sicherheitsvorkehrungen filtern Eingaben und Ausgaben von Modellen, regeln jedoch nicht, welche Werkzeuge Agenten verwenden können.
Einführung von Jozu Agent Guard
Agent Guard ist darauf ausgelegt, eine einfache Regel durchzusetzen: Der Agent arbeitet niemals ohne Governance.
Agent Guard bewertet alle KI-Aktivitäten durch eine lokale Richtlinienengine, die Einblicke in lokal laufende Aktionen, Eingaben und Ausgaben sowie Eingaben und Ausgaben hat. Jozu stellt außerdem sicher, dass nur genehmigte Artefakte ausgeführt werden, nur erlaubte Aktionen durchgeführt werden und jeder Schritt in einem manipulationssicheren Prüfprotokoll erfasst wird.
Jozu kombiniert sechs Sicherheitsfunktionen für vollständigen Schutz:
- Artefaktverifizierung: Jozu scannt jedes KI-Artefakt und attachiert die Scan-Ergebnisse und Governance-Richtlinien als manipulationssichere Bestätigungen, die von Open-Source-Tools gelesen werden können.
- Werkzeug-Governance: Jozu regelt den Zugriff auf einzelne Werkzeugaufrufe innerhalb des Katalogs eines MCP-Servers.
- Menschliche Genehmigung: Jozu stoppt den Workflow eines Agenten bei risikobehafteten Aktionen und verlangt eine menschliche Genehmigung vor der Ausführung.
- Unveränderliche Audits: Jozu erfasst jede Aktion in einem kryptografisch verketteten Prüfprotokoll, das die Integrität auch bei einer Trennung aufrechterhält.
- Lokale Durchsetzung: Jozu verteilt Richtlinien zusammen mit bereitgestellten Artefakten und setzt sie lokal auf Laptops, Edge-Geräten und luftdicht abgeschotteten Netzwerken ohne erforderliche Verbindung zu einem zentralen Controller durch.
- Hypervisor-Isolierung: Für Umgebungen mit höchster Sicherheit führt Agent Guard Arbeitslasten in hypervisor-isolierten Containern aus, in die nur lieferkettenverifizierte Artefakte zugelassen werden.
Über Jozu
Jozu ist eine Sicherheitsplattform für KI-Workloads, die es Organisationen ermöglicht, ihre agentischen KI-Systeme zu überprüfen, zu steuern und deren Einführung zu beschleunigen. Die Plattform bietet Vulnerabilitätsscans, Richtlinieneinhaltung mit menschlichen Genehmigungen und Agentenisolierung. Jozu integriert sich in bestehende MLOps- und DevOps-Tools und sichert KI, die auf Servern, Desktops und Edge-Geräten bereitgestellt wird, sogar in luftdicht abgeschotteten Umgebungen.
