Governance als Schlüsselpriorität für Unternehmen mit Agentic AI-Systemen

Governance als oberste Priorität für Unternehmen mit agentischen KI-Systemen

Eine aktuelle Umfrage des API-Management-Unternehmens Gravitee zeigt, dass fast 80% der befragten IT-Professionals Governance als „äußerst wichtig“ einstufen. Dies unterstreicht, dass Organisationen trotz ihrer Innovationsbereitschaft noch stärker darauf fokussiert sind, dies verantwortungsbewusst zu tun.

Einführung in agentische KI-Systeme

Am 1. Mai 2025 veröffentlichte Gravitee die Ergebnisse einer Umfrage zur Nutzung von agentischen KI-Systemen und Large Language Models (LLMs) durch große und mittelständische Unternehmen. Ein zentrales Ergebnis der Umfrage ist, dass IT-Professionals agentische KI und LLMs aggressiv einsetzen, um betrieblichen Effizienz und Kundenerfahrung zu verbessern. Viele Befragte äußerten jedoch Bedenken hinsichtlich der Datenschutz- und Sicherheitsrisiken, die mit der Nutzung dieser Werkzeuge verbunden sind.

Herausforderungen bei der Einführung

Unternehmen aus verschiedenen Branchen sind bestrebt, die Möglichkeiten der generativen KI und autonomen Agenten zu nutzen. Von Kundenservice bis hin zu interner Automatisierung liegt das Versprechen von KI-Agenten in ihrer Fähigkeit, Aktionen auszuführen, anstatt nur Text zu generieren. Doch während Unternehmen mit LLMs und agentischer KI experimentieren, stehen sie vor Herausforderungen hinsichtlich Governance, Kosten, Erklärbarkeit und Sicherheit.

Umfragedaten und wichtige Erkenntnisse

Die Umfrage, die auf den Antworten von 300 Technologie-Führungskräften, Entwicklern und KI-Praktikern basiert, untersucht den Stand der Einführung agentischer KI und LLMs. Hier sind einige der wichtigsten Erkenntnisse:

Agentic Everywhere

Die Umfragedaten zeigen, dass die Einführung agentischer KI nicht mehr experimentell ist – sie ist bereits mainstream. Beeindruckende 72% der Befragten berichten, dass ihre Organisationen agentische KI-Systeme aktiv nutzen. Darüber hinaus plant eine weitere 21% der Befragten, innerhalb der nächsten 24 Monate agentische KI-Systeme zu implementieren.

Warum jetzt?

Fast 74% der Teilnehmer wählten die Steigerung der betrieblichen Effizienz als Hauptantrieb für die Implementierung, was zeigt, dass agentische Systeme als kritische Werkzeuge zur Automatisierung repetitiver Aufgaben, zur Reduzierung manueller Aufwände und zur Optimierung interner Prozesse angesehen werden. Auch die Verbesserung der Kundenerfahrung (46,23%) und die Kostenreduzierung (37,74%) rangierten hoch, was einen Wandel in der Anwendung von KI signalisiert, nicht nur zur Innovation, sondern auch zur Erzielung von wirtschaftlichen Ergebnissen.

Es ist nicht unbedingt ein reibungsloser Prozess

Die Umfragedaten zeigen, dass die Integration in bestehende Systeme sowie Bedenken hinsichtlich Datenschutz und Sicherheit die größten Herausforderungen für Unternehmen darstellen, die agentische Systeme einsetzen. Zudem sticht die Kostenkontrolle von LLM-Interaktionen als das größte Anliegen unter den Befragten hervor; mehr als doppelt so viele Befragte wählten dies als das nächste höchste Problem.

Wie es gemacht wird

Die häufigste Herangehensweise ist die Einrichtung eines dedizierten agentischen KI-Teams, mit 37,74% der Befragten, die dies als ihre primäre Implementierungsgruppe angeben. Dieser Trend weist auf das Entstehen einer neuen funktionalen Spezialisierung innerhalb des Unternehmens hin, die Orchestrierung, Prompt Engineering, Integrationsstrategien und Governance in eine interdisziplinäre Fähigkeit verbindet.

Wie es aufgebaut wird

OpenAI ist die dominierende Wahl für Entwickler und Unternehmen, die Agenten operationalisieren möchten, wahrscheinlich aufgrund seiner robusten APIs, der Reife des Ökosystems und der weit verbreiteten Vertrautheit, da 48,74% der Befragten die Plattform auswählten. Google Vertex AI (10,06%), Microsoft Azure (8,81%) und IBM (8,81%) zeigen ebenfalls starke Fortschritte. Währenddessen hat sich OpenAIs ChatGPT zum de facto Einstiegspunkt für Organisationen entwickelt, die LLMs übernehmen; 86,79% der Befragten gaben an, es in der Vergangenheit genutzt zu haben.

Wie es finanziert wird

Fast die Hälfte der Befragten (49,06%) berichtete, dass ihre Initiativen durch ein neu zugewiesenes Budget speziell für agentische KI unterstützt werden, was auf eine starke Unterstützung durch die Führungsebene und ein langfristiges Engagement hinweist. Eine beträchtliche Anzahl (35,53%) verlagert Budgetmittel aus bestehenden Budgets, ohne andere IT-Initiativen zu kürzen, was einen pragmatischen „klein anfangen, Wert beweisen“-Ansatz signalisiert. Die größte Gruppe der Befragten (49,37%) berichtete von jährlichen Ausgaben zwischen 50.000 und 249.999 USD für LLMs, was darauf hindeutet, dass viele Teams bereits über die Phase des Nachweises des Konzepts hinaus sind und ihre Nutzung skalieren.

„Die Umfragedaten spiegeln wider, was wir von unseren Kunden hören“, sagte ein Unternehmensvertreter. „Unternehmen sind bestrebt, agentische KI-Systeme und LLMs zur Verbesserung der Produktivität und Kundenerfahrung zu implementieren. Aber sie sind auch vorsichtig, insbesondere in Bezug auf Governance und Kontrolle. Wenn Unternehmen besser verstehen, wie sie mit diesen Herausforderungen umgehen können, erwarten wir, dass die Einführung von agentischer KI noch schneller wächst.“

More Insights

Vertrauen und Risiko im Zeitalter der KI

Für Vermarkter verspricht KI einen Sprung in der Produktivität – aber nur, wenn sie durch eine klare Strategie und menschliche Aufsicht geleitet wird. Die Frage ist nicht, ob man KI nutzen sollte...

Cloud Governance für die KI-Zukunft

In der heutigen Zeit, in der KI-Innovationen sprießen, wird oft übersehen, dass veraltete Cloud-Governance-Modelle ein kritisches Risiko darstellen. Diese Modelle sind nicht für die Geschwindigkeit...

Leitfaden zur verantwortungsvollen KI-Governance für Unternehmensvorstände

Mit der zunehmenden Bedeutung von Künstlicher Intelligenz (KI) in modernen Unternehmen hat die Confederation of Indian Industry (CII) am Sonntag ein neues Handbuch veröffentlicht, um...

KI-gestützte DevSecOps: Automatisierung, Risiken und Compliance im Zero-Trust-Umfeld

Die rasante Einführung von KI-gestützter Automatisierung im DevSecOps kann sowohl Chancen als auch Herausforderungen mit sich bringen. Während KI die Effizienz steigert, birgt sie auch das Risiko...

Ein Zentrum für KI, Recht und Regulierung in Indien

In einer wegweisenden Entwicklung haben Cyril Amarchand Mangaldas, Cyril Shroff und die O.P. Jindal Global University die Gründung des Cyril Shroff Centre for AI, Law & Regulation am Jindal Global Law...

Darwin präsentiert kostenlosen Policy-Wizard zur Vereinfachung der KI-Governance für Behörden

Darwin hat den AI Policy Wizard eingeführt, ein kostenloses und interaktives Tool, das lokalen Regierungen und öffentlichen Einrichtungen hilft, praktische, konforme und maßgeschneiderte...

Vertrauen in KI durch verantwortungsvolle Governance stärken

Unklare Bedrohungen und unvorhersehbares Verhalten erschweren das globale Vertrauen in KI. Der Aufbau eines gemeinsamen Verständnisses durch anpassbare Governance hilft, konsistente Erwartungen für...

Kultur als Schlüssel zu vertrauenswürdiger KI

In diesem Bericht wird die Bedeutung einer inklusiven KI-Governance hervorgehoben, um sicherzustellen, dass auch übersehene Stimmen im Globalen Süden an der Diskussion und Entscheidungsfindung über...

Die EU AI-Verordnung und die Einhaltung des Urheberrechts

Ein zentrales Problem beim Training generativer KI-Modelle ist die Einhaltung der Urheberrechtsgesetze. Das EU-AI-Gesetz verstärkt die Notwendigkeit der Urheberrechtskonformität, insbesondere in Bezug...