Kyndryl möchte Unternehmen helfen, KI-Agenten in Schach zu halten – und kostspielige Compliance-Fehler zu vermeiden
Kyndryl hat eine neue Funktion namens „Policy as Code“ angekündigt, die darauf abzielt, Organisationen dabei zu unterstützen, agentische KI in komplexen und regulierten Umgebungen zu skalieren.
Einführung in „Policy as Code“
Die Idee besteht darin, die organisatorischen Regeln, regulatorischen Anforderungen und betrieblichen Kontrollen eines Unternehmens in maschinenlesbare Richtlinien zu verwandeln, die regeln, wo Agenten agieren dürfen und wo nicht.
„Organisationen setzen Policy as Code typischerweise durch eine Kombination aus deklarativen Richtsprachen und Durchsetzungsmechanismen um“, erklärte ein Experte. „Mit anderen Worten, sie integrieren die entsprechenden Vorschriften und betrieblichen Regeln in einen Code, den KI-Agenten lesen und befolgen müssen. Ist es im Code, muss der KI-Agent ausführen. Und wenn eine Anweisung nicht im Code steht, kann der KI-Agent sie nicht sehen oder darauf reagieren.“
Hintergrund und Herausforderungen
Diese Maßnahme erfolgt vor dem Hintergrund wachsender Bedenken hinsichtlich der regulatorischen Compliance für Unternehmen, die agentische KI implementieren. Mehr als drei von zehn Kunden haben sich darüber beschwert, dass Compliance-Probleme ihre Fähigkeit, kürzlich getätigte Technologieinvestitionen zu skalieren, erheblich einschränken.
Die neue Funktion „Policy as Code“ zielt darauf ab, dies zu adressieren, indem sie betriebliche Grenzen definiert und die Handlungen der Agenten so gestaltet, dass sie erklärbar, überprüfbar und im Einklang mit den von den Kunden definierten geschäftlichen und regulatorischen Anforderungen stehen.
Funktionen und Vorteile
Diese neue Funktion wird direkt in das Kyndryl Agentic AI Framework integriert, das im letzten Sommer als Portfolio spezialisierter, selbstgesteuerter, selbstlernender KI-Agenten gestartet wurde. „Die Policy as Code-Funktion von Kyndryl überwindet die Einschränkungen herkömmlicher KI-Agentenkontrollen und bietet die Struktur, die Kunden benötigen, während sie agentische KI-Lösungen übernehmen“, sagte ein leitender Vizepräsident.
Zu den Funktionen gehören deterministische Ausführungen, wobei Agenten nur Aktionen ausführen, die im Voraus genehmigt und durchgesetzt wurden. Sicherheitsvorrichtungen blockieren unvorhersehbare oder unbefugte Aktionen im Arbeitsablauf und eliminieren die betrieblichen Auswirkungen agentischer Halluzinationen. Jede Aktion und Entscheidung der Agenten wird protokolliert und ist erklärbar, was die Compliance und Aufsicht unterstützt.
Entscheidungen unterliegen der menschlichen Aufsicht, wobei Agenten Aufgaben ausführen, die mit etablierten und testbaren Richtlinien übereinstimmen, die über ein Dashboard überwacht werden.
Schlussfolgerung
Die Funktion „Policy as Code“ ist besonders wertvoll in stark regulierten Branchen wie Finanzdienstleistungen, Gesundheitswesen und Regierung. Sie hilft diesen Branchen, die vollen Vorteile von KI und agentischer KI zu realisieren, indem sie das Risiko derartiger Compliance-Fehler verringert, die den Ruf schädigen und hohe finanzielle Strafen nach sich ziehen können. Durch die Durchsetzung programmatischer Regeln in großem Maßstab hilft „Policy as Code“, menschliche Fehler zu eliminieren, die zu unangemessenen Berechtigungen für KI führen können.
