Governance als Schlüsselpriorität für Unternehmen mit Agentic AI-Systemen

Governance als oberste Priorität für Unternehmen mit agentischen KI-Systemen

Eine aktuelle Umfrage des API-Management-Unternehmens Gravitee zeigt, dass fast 80% der befragten IT-Professionals Governance als „äußerst wichtig“ einstufen. Dies unterstreicht, dass Organisationen trotz ihrer Innovationsbereitschaft noch stärker darauf fokussiert sind, dies verantwortungsbewusst zu tun.

Einführung in agentische KI-Systeme

Am 1. Mai 2025 veröffentlichte Gravitee die Ergebnisse einer Umfrage zur Nutzung von agentischen KI-Systemen und Large Language Models (LLMs) durch große und mittelständische Unternehmen. Ein zentrales Ergebnis der Umfrage ist, dass IT-Professionals agentische KI und LLMs aggressiv einsetzen, um betrieblichen Effizienz und Kundenerfahrung zu verbessern. Viele Befragte äußerten jedoch Bedenken hinsichtlich der Datenschutz- und Sicherheitsrisiken, die mit der Nutzung dieser Werkzeuge verbunden sind.

Herausforderungen bei der Einführung

Unternehmen aus verschiedenen Branchen sind bestrebt, die Möglichkeiten der generativen KI und autonomen Agenten zu nutzen. Von Kundenservice bis hin zu interner Automatisierung liegt das Versprechen von KI-Agenten in ihrer Fähigkeit, Aktionen auszuführen, anstatt nur Text zu generieren. Doch während Unternehmen mit LLMs und agentischer KI experimentieren, stehen sie vor Herausforderungen hinsichtlich Governance, Kosten, Erklärbarkeit und Sicherheit.

Umfragedaten und wichtige Erkenntnisse

Die Umfrage, die auf den Antworten von 300 Technologie-Führungskräften, Entwicklern und KI-Praktikern basiert, untersucht den Stand der Einführung agentischer KI und LLMs. Hier sind einige der wichtigsten Erkenntnisse:

Agentic Everywhere

Die Umfragedaten zeigen, dass die Einführung agentischer KI nicht mehr experimentell ist – sie ist bereits mainstream. Beeindruckende 72% der Befragten berichten, dass ihre Organisationen agentische KI-Systeme aktiv nutzen. Darüber hinaus plant eine weitere 21% der Befragten, innerhalb der nächsten 24 Monate agentische KI-Systeme zu implementieren.

Warum jetzt?

Fast 74% der Teilnehmer wählten die Steigerung der betrieblichen Effizienz als Hauptantrieb für die Implementierung, was zeigt, dass agentische Systeme als kritische Werkzeuge zur Automatisierung repetitiver Aufgaben, zur Reduzierung manueller Aufwände und zur Optimierung interner Prozesse angesehen werden. Auch die Verbesserung der Kundenerfahrung (46,23%) und die Kostenreduzierung (37,74%) rangierten hoch, was einen Wandel in der Anwendung von KI signalisiert, nicht nur zur Innovation, sondern auch zur Erzielung von wirtschaftlichen Ergebnissen.

Es ist nicht unbedingt ein reibungsloser Prozess

Die Umfragedaten zeigen, dass die Integration in bestehende Systeme sowie Bedenken hinsichtlich Datenschutz und Sicherheit die größten Herausforderungen für Unternehmen darstellen, die agentische Systeme einsetzen. Zudem sticht die Kostenkontrolle von LLM-Interaktionen als das größte Anliegen unter den Befragten hervor; mehr als doppelt so viele Befragte wählten dies als das nächste höchste Problem.

Wie es gemacht wird

Die häufigste Herangehensweise ist die Einrichtung eines dedizierten agentischen KI-Teams, mit 37,74% der Befragten, die dies als ihre primäre Implementierungsgruppe angeben. Dieser Trend weist auf das Entstehen einer neuen funktionalen Spezialisierung innerhalb des Unternehmens hin, die Orchestrierung, Prompt Engineering, Integrationsstrategien und Governance in eine interdisziplinäre Fähigkeit verbindet.

Wie es aufgebaut wird

OpenAI ist die dominierende Wahl für Entwickler und Unternehmen, die Agenten operationalisieren möchten, wahrscheinlich aufgrund seiner robusten APIs, der Reife des Ökosystems und der weit verbreiteten Vertrautheit, da 48,74% der Befragten die Plattform auswählten. Google Vertex AI (10,06%), Microsoft Azure (8,81%) und IBM (8,81%) zeigen ebenfalls starke Fortschritte. Währenddessen hat sich OpenAIs ChatGPT zum de facto Einstiegspunkt für Organisationen entwickelt, die LLMs übernehmen; 86,79% der Befragten gaben an, es in der Vergangenheit genutzt zu haben.

Wie es finanziert wird

Fast die Hälfte der Befragten (49,06%) berichtete, dass ihre Initiativen durch ein neu zugewiesenes Budget speziell für agentische KI unterstützt werden, was auf eine starke Unterstützung durch die Führungsebene und ein langfristiges Engagement hinweist. Eine beträchtliche Anzahl (35,53%) verlagert Budgetmittel aus bestehenden Budgets, ohne andere IT-Initiativen zu kürzen, was einen pragmatischen „klein anfangen, Wert beweisen“-Ansatz signalisiert. Die größte Gruppe der Befragten (49,37%) berichtete von jährlichen Ausgaben zwischen 50.000 und 249.999 USD für LLMs, was darauf hindeutet, dass viele Teams bereits über die Phase des Nachweises des Konzepts hinaus sind und ihre Nutzung skalieren.

„Die Umfragedaten spiegeln wider, was wir von unseren Kunden hören“, sagte ein Unternehmensvertreter. „Unternehmen sind bestrebt, agentische KI-Systeme und LLMs zur Verbesserung der Produktivität und Kundenerfahrung zu implementieren. Aber sie sind auch vorsichtig, insbesondere in Bezug auf Governance und Kontrolle. Wenn Unternehmen besser verstehen, wie sie mit diesen Herausforderungen umgehen können, erwarten wir, dass die Einführung von agentischer KI noch schneller wächst.“

More Insights

Verantwortungsvolle KI: Ein unverzichtbares Gebot für Unternehmen

Unternehmen sind sich der Notwendigkeit von verantwortungsvollem KI-Betrieb bewusst, behandeln ihn jedoch oft als nachträglichen Gedanken oder separates Projekt. Verantwortliche KI ist eine vordere...

Neues KI-Governance-Modell gegen Schatten-KI

Künstliche Intelligenz (KI) verbreitet sich schnell in den Arbeitsplatz und verändert, wie alltägliche Aufgaben erledigt werden. Unternehmen müssen ihre Ansätze zur KI-Politik überdenken, um mit der...

EU plant Aufschub für AI-Gesetzgebung

Die EU plant, die Anforderungen für risikobehaftete KI-Systeme im KI-Gesetz bis Ende 2027 zu verschieben, um Unternehmen mehr Zeit zu geben, sich anzupassen. Kritiker befürchten, dass diese...

Weißes Haus lehnt GAIN AI-Gesetz ab: Nvidia im Fokus

Das Weiße Haus hat sich gegen den GAIN AI Act ausgesprochen, während es um die Exportbeschränkungen für Nvidia-AI-Chips nach China geht. Die Diskussion spiegelt die politischen Spannungen wider, die...

Ethische KI als Beschleuniger für Innovation

Unternehmen stehen heute unter Druck, mit künstlicher Intelligenz zu innovieren, oft jedoch ohne die notwendigen Sicherheitsvorkehrungen. Indem sie Datenschutz und Ethik in den Entwicklungsprozess...

KI im Recruiting: Verborgene Risiken für Arbeitgeber

Künstliche Intelligenz verändert die Art und Weise, wie Arbeitgeber Talente rekrutieren und bewerten. Während diese Tools Effizienz und Kosteneinsparungen versprechen, bringen sie auch erhebliche...

KI im australischen Kabinett: Chancen und Sicherheitsbedenken

Die australische Regierung könnte in Betracht ziehen, KI-Programme zur Erstellung sensibler Kabinettsanträge zu nutzen, trotz Bedenken hinsichtlich Sicherheitsrisiken und Datenverletzungen...