Governance als Schlüsselpriorität für Unternehmen mit Agentic AI-Systemen

Governance als oberste Priorität für Unternehmen mit agentischen KI-Systemen

Eine aktuelle Umfrage des API-Management-Unternehmens Gravitee zeigt, dass fast 80% der befragten IT-Professionals Governance als „äußerst wichtig“ einstufen. Dies unterstreicht, dass Organisationen trotz ihrer Innovationsbereitschaft noch stärker darauf fokussiert sind, dies verantwortungsbewusst zu tun.

Einführung in agentische KI-Systeme

Am 1. Mai 2025 veröffentlichte Gravitee die Ergebnisse einer Umfrage zur Nutzung von agentischen KI-Systemen und Large Language Models (LLMs) durch große und mittelständische Unternehmen. Ein zentrales Ergebnis der Umfrage ist, dass IT-Professionals agentische KI und LLMs aggressiv einsetzen, um betrieblichen Effizienz und Kundenerfahrung zu verbessern. Viele Befragte äußerten jedoch Bedenken hinsichtlich der Datenschutz- und Sicherheitsrisiken, die mit der Nutzung dieser Werkzeuge verbunden sind.

Herausforderungen bei der Einführung

Unternehmen aus verschiedenen Branchen sind bestrebt, die Möglichkeiten der generativen KI und autonomen Agenten zu nutzen. Von Kundenservice bis hin zu interner Automatisierung liegt das Versprechen von KI-Agenten in ihrer Fähigkeit, Aktionen auszuführen, anstatt nur Text zu generieren. Doch während Unternehmen mit LLMs und agentischer KI experimentieren, stehen sie vor Herausforderungen hinsichtlich Governance, Kosten, Erklärbarkeit und Sicherheit.

Umfragedaten und wichtige Erkenntnisse

Die Umfrage, die auf den Antworten von 300 Technologie-Führungskräften, Entwicklern und KI-Praktikern basiert, untersucht den Stand der Einführung agentischer KI und LLMs. Hier sind einige der wichtigsten Erkenntnisse:

Agentic Everywhere

Die Umfragedaten zeigen, dass die Einführung agentischer KI nicht mehr experimentell ist – sie ist bereits mainstream. Beeindruckende 72% der Befragten berichten, dass ihre Organisationen agentische KI-Systeme aktiv nutzen. Darüber hinaus plant eine weitere 21% der Befragten, innerhalb der nächsten 24 Monate agentische KI-Systeme zu implementieren.

Warum jetzt?

Fast 74% der Teilnehmer wählten die Steigerung der betrieblichen Effizienz als Hauptantrieb für die Implementierung, was zeigt, dass agentische Systeme als kritische Werkzeuge zur Automatisierung repetitiver Aufgaben, zur Reduzierung manueller Aufwände und zur Optimierung interner Prozesse angesehen werden. Auch die Verbesserung der Kundenerfahrung (46,23%) und die Kostenreduzierung (37,74%) rangierten hoch, was einen Wandel in der Anwendung von KI signalisiert, nicht nur zur Innovation, sondern auch zur Erzielung von wirtschaftlichen Ergebnissen.

Es ist nicht unbedingt ein reibungsloser Prozess

Die Umfragedaten zeigen, dass die Integration in bestehende Systeme sowie Bedenken hinsichtlich Datenschutz und Sicherheit die größten Herausforderungen für Unternehmen darstellen, die agentische Systeme einsetzen. Zudem sticht die Kostenkontrolle von LLM-Interaktionen als das größte Anliegen unter den Befragten hervor; mehr als doppelt so viele Befragte wählten dies als das nächste höchste Problem.

Wie es gemacht wird

Die häufigste Herangehensweise ist die Einrichtung eines dedizierten agentischen KI-Teams, mit 37,74% der Befragten, die dies als ihre primäre Implementierungsgruppe angeben. Dieser Trend weist auf das Entstehen einer neuen funktionalen Spezialisierung innerhalb des Unternehmens hin, die Orchestrierung, Prompt Engineering, Integrationsstrategien und Governance in eine interdisziplinäre Fähigkeit verbindet.

Wie es aufgebaut wird

OpenAI ist die dominierende Wahl für Entwickler und Unternehmen, die Agenten operationalisieren möchten, wahrscheinlich aufgrund seiner robusten APIs, der Reife des Ökosystems und der weit verbreiteten Vertrautheit, da 48,74% der Befragten die Plattform auswählten. Google Vertex AI (10,06%), Microsoft Azure (8,81%) und IBM (8,81%) zeigen ebenfalls starke Fortschritte. Währenddessen hat sich OpenAIs ChatGPT zum de facto Einstiegspunkt für Organisationen entwickelt, die LLMs übernehmen; 86,79% der Befragten gaben an, es in der Vergangenheit genutzt zu haben.

Wie es finanziert wird

Fast die Hälfte der Befragten (49,06%) berichtete, dass ihre Initiativen durch ein neu zugewiesenes Budget speziell für agentische KI unterstützt werden, was auf eine starke Unterstützung durch die Führungsebene und ein langfristiges Engagement hinweist. Eine beträchtliche Anzahl (35,53%) verlagert Budgetmittel aus bestehenden Budgets, ohne andere IT-Initiativen zu kürzen, was einen pragmatischen „klein anfangen, Wert beweisen“-Ansatz signalisiert. Die größte Gruppe der Befragten (49,37%) berichtete von jährlichen Ausgaben zwischen 50.000 und 249.999 USD für LLMs, was darauf hindeutet, dass viele Teams bereits über die Phase des Nachweises des Konzepts hinaus sind und ihre Nutzung skalieren.

„Die Umfragedaten spiegeln wider, was wir von unseren Kunden hören“, sagte ein Unternehmensvertreter. „Unternehmen sind bestrebt, agentische KI-Systeme und LLMs zur Verbesserung der Produktivität und Kundenerfahrung zu implementieren. Aber sie sind auch vorsichtig, insbesondere in Bezug auf Governance und Kontrolle. Wenn Unternehmen besser verstehen, wie sie mit diesen Herausforderungen umgehen können, erwarten wir, dass die Einführung von agentischer KI noch schneller wächst.“

More Insights

Stärkung der Sicherheit von LLM: Verantwortliche KI-Ausrichtung von phi-3

Dieser Artikel behandelt die Sicherheitsmaßnahmen von Phi-3 in Bezug auf verantwortungsbewusste KI-Alignment-Prinzipien. Durch die Anwendung von Red-Teaming und automatisierten Tests wurde die...

Kontrolle und Compliance in souveränen KI-Clouds für die intelligente Fertigung

Souveräne KI-Clouds bieten sowohl Kontrolle als auch Compliance und sind entscheidend für Hersteller, die sicherstellen möchten, dass ihre sensiblen Daten lokal bleiben. Diese Plattformen ermöglichen...

Ethische KI-Initiativen der schottischen Allianz stärken Vertrauen

Die Scottish AI Alliance hat ihren Impact Report 2024/2025 veröffentlicht, der ein transformierendes Jahr des Fortschritts bei der Förderung von vertrauenswürdiger, ethischer und inklusiver...

EU AI Act: Dringender Handlungsbedarf für Unternehmen

Die Ankündigung der EU-Kommission am vergangenen Freitag, dass es keine Verzögerung des EU-KI-Gesetzes geben wird, hat viele Menschen auf beiden Seiten dieses Themas dazu gebracht, sowohl epische...

Vertrauenswürdigkeit großer Sprachmodelle im Kontext des EU-KI-Gesetzes

Die Entwicklung großer Sprachmodelle (LLMs) wurde durch Fortschritte im Deep Learning, die Verfügbarkeit umfangreicher öffentlicher Datensätze und leistungsstarker Ressourcen vorangetrieben. Diese...

EU AI Gesetz: Dringender Aufruf zur Pause?

Die Europäische Kommission hat die Forderungen nach einer Verzögerung der Umsetzung des AI-Gesetzes zurückgewiesen und den ursprünglichen Zeitplan beibehalten. Trotz Druck von Unternehmen und Ländern...

Strengere Trump-Kontrollen: Chancen und Risiken für die AI-Branche

Die Trump-Administration bereitet neue Einschränkungen für den Export von KI-Chips nach Malaysia und Thailand vor, um zu verhindern, dass fortschrittliche Prozessoren über Drittländer nach China...

Die Bedeutung von KI- und Datengovernance in modernen Unternehmen

Die Governance von KI und Daten ist entscheidend für die Entwicklung zuverlässiger und ethischer KI-Lösungen in modernen Unternehmen. Diese Rahmenbedingungen sind miteinander verbunden und...

BRICS fordert die UN zu globalen KI-Regulierungen auf

Die BRICS-Staaten haben die Vereinten Nationen aufgefordert, eine Führungsrolle bei der Festlegung globaler Regeln für künstliche Intelligenz zu übernehmen. Diese Initiative unterstreicht die...