IBM präsentiert einheitliche KI-Sicherheit und Governance für agentische Systeme
Mit der zunehmenden Verbreitung von KI-Agenten in Unternehmen hat IBM die erste Software der Branche angekündigt, die KI-Sicherheit und KI-Governance zusammenführt und eine einheitliche Sicht auf die Risikoposition von Unternehmen bietet.
Die neuen Funktionen verbessern und integrieren watsonx.governance und Guardium AI Security, um Kunden dabei zu helfen, ihre KI-Systeme, einschließlich Agenten, in großem Maßstab sicher und verantwortungsbewusst zu halten.
Integration und Automatisierung der agentischen KI-Sicherheit
IBM verbessert die Integration von IBM Guardium AI Security und watsonx.governance und bietet Unternehmen die erste einheitliche Lösung zur Verwaltung von Sicherheits- und Governance-Risiken im Zusammenhang mit KI-Anwendungsfällen. Diese Integration unterstützt die Prozesse der Benutzer, um die Einhaltung von Standards gegen 12 verschiedene Rahmenwerke zu validieren, darunter den EU AI Act und ISO 42001.
Zusätzlich führt IBM neue Funktionen in Guardium AI Security durch eine Zusammenarbeit mit AllTrue.ai ein, einschließlich der Fähigkeit, neue KI-Anwendungsfälle in Cloud-Umgebungen, Code-Repositories und eingebetteten Systemen zu erkennen – und damit umfassende Sichtbarkeit und Schutz in einem zunehmend dezentralisierten KI-Ökosystem zu bieten. Nach der Identifizierung kann IBM Guardium AI Security automatisch geeignete Governance-Workflows aus watsonx.governance auslösen.
Neueste Updates für IBM Guardium AI Security umfassen auch automatisierte Red Teaming-Funktionen, um Unternehmen zu helfen, Schwachstellen und Fehlkonfigurationen in KI-Anwendungsfällen zu erkennen und zu beheben. Um Risiken wie Code-Injection, sensiblen Datenverlust und Datenlecks zu mindern, ermöglicht es das Tool den Benutzern, benutzerdefinierte Sicherheitsrichtlinien zu definieren, die sowohl Eingabe- als auch Ausgabeaufforderungen analysieren. Diese Funktionen sind jetzt in IBM Guardium AI Security verfügbar, und ihre Integration mit watsonx.governance wird im Laufe des Jahres ausgerollt.
Verbesserte agentische KI-Bewertung und Lebenszyklus-Governance
IBM watsonx.governance kann nun KI-Agenten über ihren gesamten Lebenszyklus hinweg überwachen und verwalten, von der Entwicklung bis zur Bereitstellung. Bewertungs-Knoten können direkt in Agenten eingebaut werden, sodass Benutzer Metriken wie Antwortrelevanz, Kontextrelevanz und Treue sorgfältig überwachen und die Ursachen für schlechte Leistungen identifizieren können. Geplante zukünftige Funktionen umfassen auch Risikobewertungen bei der Agenten-Onboarding, Prüfpfade für Agenten und einen agentischen Werkzeugkatalog, die voraussichtlich am 27. Juni verfügbar sein werden.
Standardisierte Compliance-Funktionen
IBM watsonx.governance Compliance Accelerators bieten ausgewählte vorinstallierte Vorschriften, Standards und Rahmenwerke aus der ganzen Welt, die es Benutzern ermöglichen, relevante Verpflichtungen zu identifizieren und diese auf ihre eigenen KI-Anwendungsfälle abzubilden. Der Inhalt umfasst wichtige Vorschriften wie den EU AI Act, die SR 11-7 der US-Notenbank und das New Yorker Gesetz 144, sowie globale Standards wie ISO/IEC 42001 und Rahmenwerke wie das NIST AI RMF. Watsonx.governance Compliance Accelerators sind jetzt als Zusatz erhältlich.
Expertise zur verantwortungsvollen Skalierung von KI
Um den Kunden zu helfen, KI verantwortungsvoll zu skalieren, führt IBM Consulting Cybersecurity Services ein neues Set von Dienstleistungen ein, das Daten-Sicherheitsplattformen wie IBM Guardium AI Security mit tiefem KI-Technologie- und Fachwissen verbindet. Die neuen Dienstleistungen unterstützen Organisationen auf ihrer KI-Transformation: von der Entdeckung von KI-Einsätzen und potenziellen Schwachstellen bis hin zur Implementierung von Sicherheitspraktiken von Anfang an und Governance-Richtlinien für eine sich ständig weiterentwickelnde regulatorische Landschaft. Die neuen Dienstleistungen bauen auf der Erfahrung von IBM Consulting auf, die Hunderten von Kunden weltweit bei der KI-Strategie und -Governance geholfen haben.
Zusätzlich ist watsonx.governance nun auch in den AWS-Datenzentren in Indien mit verbesserten Modellüberwachungsfähigkeiten verfügbar.
Die heutigen neuen Funktionen und Integrationen geben Unternehmen die umfassende Governance und Sicherheit, die sie benötigen, um im Zeitalter der agentischen KI zu gedeihen. Die Innovationen sind auch Teil von IBMs breiterem Angebot an IBM watsonx KI-Lösungen, die Unternehmen dabei helfen sollen, die Auswirkungen von generativer KI verantwortungsvoll und sicher zu beschleunigen.
Die Einführung von KI-Agenten wird die Produktivität von Unternehmen revolutionieren, jedoch können die Vorteile dieser autonomen Systeme auch eine Herausforderung darstellen. Wenn diese Systeme nicht ordnungsgemäß regiert oder gesichert werden, können sie schwerwiegende Konsequenzen nach sich ziehen.
Die Zukunft der KI hängt davon ab, wie gut wir sie heute sichern. Die Sicherheit von Anfang an einzubetten ist entscheidend, um Daten zu schützen, die Einhaltung von Verpflichtungen zu unterstützen und dauerhafte Vertrauen aufzubauen.
Eine der größten Herausforderungen für Sicherheitsteams besteht darin, Vorfälle und Verstöße gegen die Compliance in quantifizierbare Geschäftsrisiken zu übersetzen. Die rasche Einführung von KI und agentischer KI verstärkt dieses Problem. Die Vereinigung von KI-Governance und KI-Sicherheit gibt Organisationen den notwendigen Kontext, um Risiken zu finden und zu priorisieren sowie die Informationen, um klar zu kommunizieren, welche Konsequenzen das Ignorieren dieser Risiken nach sich ziehen kann.
