AI-Governance im Unternehmen
Die Versprechen von Künstlicher Intelligenz (KI) sind eine treibende Kraft in der Wirtschaft, wobei jede Organisation bewertet, wie sie die Technologie nutzen kann, um Effizienz und Effektivität zu steigern. Im Gegensatz zu diesem Enthusiasmus steht die Realität, die darin besteht, die Risiken von KI zu mindern, die potenziell Compliance- und regulatorische Maßnahmen, Kundenverluste, Markenschäden und sogar rechtliche Schritte umfassen können.
Die Notwendigkeit von AI-Governance
Im Rahmen einer Webkonferenz wurde erörtert, wie eine geeignete AI-Governance für Unternehmen aussehen sollte. Der Schwerpunkt lag auf dem Finanzdienstleistungssektor, wo Banken, Versicherungsgesellschaften und andere stark regulierte Unternehmen den Wert und die Leistung von KI auf die sicherste Weise nutzen möchten.
Wichtige Themen der Diskussion
Im Verlauf der Diskussion wurden verschiedene wichtige Themen behandelt:
- Die Notwendigkeit von AI-Governance
- Wie GenAI und Agentic AI Unternehmen beeinflussen
- Vermeidung der „AI-Kluft der Compliance“
- Regulierung und Management der Nutzung von LLM / AI
- Anwendungsfälle von Agentic AI und AI-Governance
Erfahrungen und Anwendungsfälle
Ein Beispiel für die Nutzung von KI im Unternehmen ist die Erstellung von Kundenanfragen durch Transferagenten. Die Briefe basieren auf den Notizen, die während einer Agentenuntersuchung gemacht wurden. Diese Informationen werden durch ein Large Language Model (LLM) geleitet, das in Verbindung mit einem standardisierten Prompt verwendet wird. Die generierten Briefe werden qualitätsgesichert, bevor sie versendet werden, sodass der Kunde nicht mit einem Dokument konfrontiert wird, das ausschließlich von KI erstellt wurde.
Ein weiterer Anwendungsfall betrifft die Dokumentation von Beschwerden und Zusammenfassungen gemäß den FCA-Compliance-Standards. Mit der Blue Prism Chorus Prozessmanagement-Plattform wird automatisch eine Transkription erstellt, jedes Mal, wenn eine Beschwerde identifiziert wird. Hierbei ist es interessant zu bemerken, dass die Transkripte nicht perfekt sein müssen; es reicht aus, um die Absicht des Gesprächs zu verstehen.
Governance-Rahmen
Für die Governance solcher Anwendungsfälle benötigen Organisationen eine „Isolationsschicht“ für ein LLM. Ein solches Framework schützt sowohl auf der Eingangsseite, um sicherzustellen, dass die Organisation autorisiert ist, das Modell zu verwenden, als auch auf der Ausgangsseite, um sicherzustellen, dass sensible Informationen nicht durchdringen.
Besonderheiten der KI-Governance
Die Governance von Künstlicher Intelligenz unterscheidet sich von anderen Formen der Technologie-Governance. KI, insbesondere generative KI, hat die Fähigkeit, selbstständig zu denken und sich zu entwickeln. Dies birgt nicht nur Chancen für Produktivitätsgewinne, sondern auch das Risiko, dass KI etwas erzeugt, das wir möglicherweise nicht wollen. Daher ist es von entscheidender Bedeutung, dass diese Technologie governed und gesichert wird, insbesondere wenn sie mit sensiblen Daten in hochriskanten Bereichen umgeht.
Zusammenfassend ist die AI-Governance besonders wichtig, da sich die Regulierungen, die auf KI angewendet werden, noch entwickeln. Zudem erweitert KI die organisatorischen Bedenken auf Bereiche wie Ethik, die in der traditionellen Technologie-Governance selten behandelt werden.
