Governance als Schlüsselpriorität für Unternehmen mit Agentic AI-Systemen

Governance als oberste Priorität für Unternehmen mit agentischen KI-Systemen

Eine aktuelle Umfrage des API-Management-Unternehmens Gravitee zeigt, dass fast 80% der befragten IT-Professionals Governance als „äußerst wichtig“ einstufen. Dies unterstreicht, dass Organisationen trotz ihrer Innovationsbereitschaft noch stärker darauf fokussiert sind, dies verantwortungsbewusst zu tun.

Einführung in agentische KI-Systeme

Am 1. Mai 2025 veröffentlichte Gravitee die Ergebnisse einer Umfrage zur Nutzung von agentischen KI-Systemen und Large Language Models (LLMs) durch große und mittelständische Unternehmen. Ein zentrales Ergebnis der Umfrage ist, dass IT-Professionals agentische KI und LLMs aggressiv einsetzen, um betrieblichen Effizienz und Kundenerfahrung zu verbessern. Viele Befragte äußerten jedoch Bedenken hinsichtlich der Datenschutz- und Sicherheitsrisiken, die mit der Nutzung dieser Werkzeuge verbunden sind.

Herausforderungen bei der Einführung

Unternehmen aus verschiedenen Branchen sind bestrebt, die Möglichkeiten der generativen KI und autonomen Agenten zu nutzen. Von Kundenservice bis hin zu interner Automatisierung liegt das Versprechen von KI-Agenten in ihrer Fähigkeit, Aktionen auszuführen, anstatt nur Text zu generieren. Doch während Unternehmen mit LLMs und agentischer KI experimentieren, stehen sie vor Herausforderungen hinsichtlich Governance, Kosten, Erklärbarkeit und Sicherheit.

Umfragedaten und wichtige Erkenntnisse

Die Umfrage, die auf den Antworten von 300 Technologie-Führungskräften, Entwicklern und KI-Praktikern basiert, untersucht den Stand der Einführung agentischer KI und LLMs. Hier sind einige der wichtigsten Erkenntnisse:

Agentic Everywhere

Die Umfragedaten zeigen, dass die Einführung agentischer KI nicht mehr experimentell ist – sie ist bereits mainstream. Beeindruckende 72% der Befragten berichten, dass ihre Organisationen agentische KI-Systeme aktiv nutzen. Darüber hinaus plant eine weitere 21% der Befragten, innerhalb der nächsten 24 Monate agentische KI-Systeme zu implementieren.

Warum jetzt?

Fast 74% der Teilnehmer wählten die Steigerung der betrieblichen Effizienz als Hauptantrieb für die Implementierung, was zeigt, dass agentische Systeme als kritische Werkzeuge zur Automatisierung repetitiver Aufgaben, zur Reduzierung manueller Aufwände und zur Optimierung interner Prozesse angesehen werden. Auch die Verbesserung der Kundenerfahrung (46,23%) und die Kostenreduzierung (37,74%) rangierten hoch, was einen Wandel in der Anwendung von KI signalisiert, nicht nur zur Innovation, sondern auch zur Erzielung von wirtschaftlichen Ergebnissen.

Es ist nicht unbedingt ein reibungsloser Prozess

Die Umfragedaten zeigen, dass die Integration in bestehende Systeme sowie Bedenken hinsichtlich Datenschutz und Sicherheit die größten Herausforderungen für Unternehmen darstellen, die agentische Systeme einsetzen. Zudem sticht die Kostenkontrolle von LLM-Interaktionen als das größte Anliegen unter den Befragten hervor; mehr als doppelt so viele Befragte wählten dies als das nächste höchste Problem.

Wie es gemacht wird

Die häufigste Herangehensweise ist die Einrichtung eines dedizierten agentischen KI-Teams, mit 37,74% der Befragten, die dies als ihre primäre Implementierungsgruppe angeben. Dieser Trend weist auf das Entstehen einer neuen funktionalen Spezialisierung innerhalb des Unternehmens hin, die Orchestrierung, Prompt Engineering, Integrationsstrategien und Governance in eine interdisziplinäre Fähigkeit verbindet.

Wie es aufgebaut wird

OpenAI ist die dominierende Wahl für Entwickler und Unternehmen, die Agenten operationalisieren möchten, wahrscheinlich aufgrund seiner robusten APIs, der Reife des Ökosystems und der weit verbreiteten Vertrautheit, da 48,74% der Befragten die Plattform auswählten. Google Vertex AI (10,06%), Microsoft Azure (8,81%) und IBM (8,81%) zeigen ebenfalls starke Fortschritte. Währenddessen hat sich OpenAIs ChatGPT zum de facto Einstiegspunkt für Organisationen entwickelt, die LLMs übernehmen; 86,79% der Befragten gaben an, es in der Vergangenheit genutzt zu haben.

Wie es finanziert wird

Fast die Hälfte der Befragten (49,06%) berichtete, dass ihre Initiativen durch ein neu zugewiesenes Budget speziell für agentische KI unterstützt werden, was auf eine starke Unterstützung durch die Führungsebene und ein langfristiges Engagement hinweist. Eine beträchtliche Anzahl (35,53%) verlagert Budgetmittel aus bestehenden Budgets, ohne andere IT-Initiativen zu kürzen, was einen pragmatischen „klein anfangen, Wert beweisen“-Ansatz signalisiert. Die größte Gruppe der Befragten (49,37%) berichtete von jährlichen Ausgaben zwischen 50.000 und 249.999 USD für LLMs, was darauf hindeutet, dass viele Teams bereits über die Phase des Nachweises des Konzepts hinaus sind und ihre Nutzung skalieren.

„Die Umfragedaten spiegeln wider, was wir von unseren Kunden hören“, sagte ein Unternehmensvertreter. „Unternehmen sind bestrebt, agentische KI-Systeme und LLMs zur Verbesserung der Produktivität und Kundenerfahrung zu implementieren. Aber sie sind auch vorsichtig, insbesondere in Bezug auf Governance und Kontrolle. Wenn Unternehmen besser verstehen, wie sie mit diesen Herausforderungen umgehen können, erwarten wir, dass die Einführung von agentischer KI noch schneller wächst.“

More Insights

EU-KI-Gesetz und seine Auswirkungen auf die Unternehmensführung

Dieses Forschungsprojekt untersucht, wie das EU-Gesetz über Künstliche Intelligenz (KI-Gesetz) eine systemische Transformation in den Rahmenbedingungen für Unternehmensführung und Verantwortung...

KI und Cybersecurity: Die Notwendigkeit von Verantwortung

Organisationen müssen sich mit der Realität auseinandersetzen, dass KI die Bedrohungslandschaft in der Cybersicherheit schnell verändert. Während KI dabei hilft, die Erkennung und Reaktion zu...

Intelligente Ansätze zur KI-Governance in Thailand

Thailand hat Prinzipien für die Gesetzgebung im Bereich künstliche Intelligenz (KI) entworfen, um ein KI-Ökosystem zu schaffen und die Einführung zu erweitern. Das Gesetz zielt darauf ab, Benutzern...

Texas führt umfassende KI-Gesetze mit spezifischen Gesundheitsvorschriften ein

Texas hat mit dem Inkrafttreten des House Bill (HB) 149 und des Senate Bill (SB) 1188 bedeutende Schritte zur Regulierung der künstlichen Intelligenz (KI) unternommen. Diese Gesetze zielen darauf ab...

Risiko intelligent managen: Neue KI-Governance-Lösungen von Riskonnect

Riskonnect hat eine neue Lösung für die KI-Governance eingeführt, die es Organisationen ermöglicht, KI verantwortungsbewusst zu nutzen und gleichzeitig Innovation, Aufsicht und Compliance in Einklang...

AI-Alignment und Governance: Neue Wege für die Zukunft

Gillian K. Hadfield wurde zur Bloomberg Distinguished Professorin für KI-Ausrichtung und Governance an der Johns Hopkins University ernannt. Sie konzentriert sich darauf, sicherzustellen, dass...

Der Brüsseler Trugschluss: Die globale Wirkung des EU KI-Gesetzes

Der EU AI Act wird zunehmend als symbolisches Modell statt als praktischer Leitfaden für Länder, die KI-Gesetzgebungen entwickeln, betrachtet. Diese Entwicklung führt dazu, dass der Einfluss des EU AI...

Der Brüsseler Trugschluss: Die globale Wirkung des EU KI-Gesetzes

Der EU AI Act wird zunehmend als symbolisches Modell statt als praktischer Leitfaden für Länder, die KI-Gesetzgebungen entwickeln, betrachtet. Diese Entwicklung führt dazu, dass der Einfluss des EU AI...