OneTrust erweitert die Governance-Plattform mit Echtzeitüberwachung und -durchsetzung
OneTrust hat seine Governance-Plattform mit neuen Funktionen erweitert, die darauf abzielen, KI-Richtlinien in Echtzeit zu überwachen und durchzusetzen. Damit wird über statische, einmalige Compliance-Workflows hinausgegangen.
Neue Funktionen
Die Erweiterung zielt auf Daten-, Risiko- und KI-Teams ab, die KI-Agenten, Modelle und Datensätze in Produktionsumgebungen verwalten müssen, anstatt nur während periodischer Audits oder Bewertungen.
Die Erweiterung umfasst drei Hauptfunktionen:
- Erkennung und Inventarisierung von KI-Agenten: Dies ermöglicht eine kontinuierliche Entdeckung und Katalogisierung von KI-Agenten, Modellen und Datensätzen in der Umgebung einer Organisation. Das System erfasst Eigentum, Zweck, Integrationen, Datenzugriff, Herkunft und Lebenszyklusänderungen, um ein zentrales Protokoll zu führen.
- KI-Richtlinien-Manager und Richtbibliothek: Organisationen können mit vorgefertigten Richtlinien beginnen, die an Standards wie dem NIST AI Risk Management Framework und dem EU AI Act ausgerichtet sind, oder ihre eigenen definieren. Das Tool überwacht die Compliance kontinuierlich.
- Durchsetzung von KI-Schutzmaßnahmen: Das System überprüft KI-Systeme, einschließlich generativer KI und traditioneller maschineller Lernmodelle, um die Konfigurationen der Schutzmaßnahmen zu überprüfen und Verstöße zu erkennen. Bei identifizierten Risiken kann das System automatisch Maßnahmen ergreifen, um beispielsweise die Offenlegung persönlicher Daten zu blockieren oder zu beschränken.
Von statischer zu kontinuierlicher Governance
Das Update wird als Reaktion auf die wachsende Kluft zwischen der Geschwindigkeit, mit der KI-Systeme bereitgestellt werden, und der typischerweise angewendeten Governance betrachtet. Die neuen Funktionen zielen darauf ab, die Governance von KI von einmaliger Compliance zu kontinuierlicher, laufzeitbasierter Kontrolle zu entwickeln.
Integrationen der Plattform
Die Governance-Plattform integriert sich zunehmend mit KI-Entwicklungsumgebungen und Cloud-Diensten, um Governance-Teams die Sichtbarkeit zu erleichtern. Diese Integrationen sollen den Teams die Überwachung von KI-Systemen ermöglichen, wo sie tatsächlich entwickelt und bereitgestellt werden.
Verwendung der Plattform durch Kunden
Einige Organisationen nutzen bereits die Plattform für die KI-Governance. Sie integrieren ihre KI-Praktiken in bestehende Rahmenwerke, um Stakeholder-Überprüfungen zu beschleunigen und die Governance in den gesamten KI-Lebenszyklus einzubetten.
Schlussfolgerung
Das Update erfolgt im Kontext zunehmender regulatorischer Aktivitäten in mehreren Jurisdiktionen, die spezifische Vorschriften für KI vorantreiben. Die Herausforderung für Governance-Anbieter besteht darin, zu beweisen, dass die Echtzeit-Governance ohne Reibung skaliert werden kann, die die Entwicklungsprozesse von KI behindert.
