Wie Governance und Sicherheit die Einführung agentischer KI vorantreiben können
Die Einführung agentischer KI-Technologie in Unternehmen birgt sowohl große Chancen als auch Risiken. Agentische KI bezieht sich auf KI-Agenten, die Entscheidungen treffen, andere Software-Tools nutzen und autonom mit kritischen Systemen interagieren können. Diese Technologie kann erhebliche Produktivitätsgewinne ermöglichen, wenn die richtigen Governance- und Sicherheitsmaßnahmen getroffen werden.
Die Herausforderung der „Schatten“-Risiken
Ein bekanntes Problem für Technologie-Executives sind die sogenannten Schattenrisiken. Diese beziehen sich auf Vermögenswerte oder Anwendungen, die außerhalb des Sichtfeldes der IT liegen. Im Laufe der Jahre haben Daten- und Sicherheitsfachleute versucht, „Schatten-Daten“ zu finden und zu schützen, also sensible Geschäftsinformationen, die außerhalb des formalen Datenmanagementsystems gespeichert sind.
Kürzlich haben IT-Profis auch mit dem Phänomen „Schatten-KI“ zu kämpfen, das sich auf nicht genehmigte KI-Anwendungen innerhalb der IT-Systeme eines Unternehmens bezieht. Nun steht ein neues Schattenrisiko auf der Agenda: Schatten-KI-Agenten.
Die Vorteile von agentischen KI-Agenten
Die Autonomie von KI-Agenten ist ein entscheidendes Verkaufsargument. Ihre Fähigkeit, Ziele zu verfolgen und komplexe Aufgaben zu lösen, kann zeitaufwändige Aufgaben, die früher menschliche Intervention erforderten, erheblich beschleunigen. Beispielsweise können IT-Probleme schneller gelöst oder HR-Workflows effizienter geleitet werden.
Ein weiterer Vorteil ist die Zugänglichkeit dieser Tools. Dank fortschrittlicher natürlicher Sprachverarbeitung können zahlreiche Mitarbeiter – nicht nur Softwareentwickler und Ingenieure – KI-Agenten für neue Anwendungsfälle oder Arbeitsabläufe einsetzen.
Risiken der Autonomie und Zugänglichkeit
Allerdings kann diese Autonomie auch Risiken mit sich bringen, wenn sie nicht mit den richtigen Governance- und Sicherheitsmaßnahmen kombiniert wird. Da ein breiteres Spektrum von Mitarbeitern KI-Agenten nutzen kann, steigt die Wahrscheinlichkeit, dass diese Tools ohne Genehmigung oder angemessene Schulung eingesetzt werden.
Bereits jetzt erleben Unternehmen Probleme mit KI-Assistenten und Chatbots, wenn Mitarbeiter wichtige Unternehmensdaten in nicht genehmigte, Drittanbieter-Tools eingeben, was zu Datenlecks oder -diebstahl führen kann.
Da KI-Agenten unbeaufsichtigt innerhalb kritischer Infrastrukturen agieren können, erhöht sich das Risiko von schattierten Konfigurationen. Diese Agenten sind anfällig für die gleichen Probleme wie andere KI-Systeme, wie Halluzinationen, Voreingenommenheit und Abdrift.
Kontrolle gewinnen
Wenn Schatten-Daten und traditionelle Schatten-KI-Probleme auftauchten, hielten Unternehmen die Innovation nicht an, sondern passten sich an. Diese Strategie sollte auch in der aktuellen Ära verfolgt werden.
Der erste Schritt zur Beseitigung von Schatten besteht darin, Licht zu bringen. IT-Profis benötigen umfassende Sichtbarkeit in die KI-Agenten in ihrer Umgebung. Governance- und Sicherheitswerkzeuge für KI können automatisch nach KI-Anwendungen suchen und diese katalogisieren.
Nach der Entdeckung müssen die Agenten ins Inventar aufgenommen, einem Anwendungsfall zugeordnet und in den Governance-Prozess integriert werden. Risikobewertungen, Compliance-Bewertungen sowie geeignete Kontrollen und Regelungen sind wesentliche Bestandteile der KI-Governance, um Risiken zu mindern.
Unternehmen sollten auch die Aktionen ihrer Agenten nachverfolgbar und erklärbar machen. Vorab festgelegte Schwellenwerte für Toxizität und Voreingenommenheit sollten gesetzt werden. Außerdem müssen die Ausgaben der Agenten auf kontextuelle Relevanz, Treue der Abfragen und Qualität der Tool-Auswahl überwacht werden.
Der Kern dieser Strategie ist die tiefgreifende Integration von KI-Sicherheit und -Governance als eng verbundene Disziplinen. Diese Zusammenarbeit muss sowohl auf Software- als auch auf Personalebene stattfinden: KI-Entwickler und Sicherheitsfachleute sollten frühzeitig und häufig miteinander kommunizieren.
