Governance als Schlüsselpriorität für Unternehmen mit Agentic AI-Systemen

Governance als oberste Priorität für Unternehmen mit agentischen KI-Systemen

Eine aktuelle Umfrage des API-Management-Unternehmens Gravitee zeigt, dass fast 80% der befragten IT-Professionals Governance als „äußerst wichtig“ einstufen. Dies unterstreicht, dass Organisationen trotz ihrer Innovationsbereitschaft noch stärker darauf fokussiert sind, dies verantwortungsbewusst zu tun.

Einführung in agentische KI-Systeme

Am 1. Mai 2025 veröffentlichte Gravitee die Ergebnisse einer Umfrage zur Nutzung von agentischen KI-Systemen und Large Language Models (LLMs) durch große und mittelständische Unternehmen. Ein zentrales Ergebnis der Umfrage ist, dass IT-Professionals agentische KI und LLMs aggressiv einsetzen, um betrieblichen Effizienz und Kundenerfahrung zu verbessern. Viele Befragte äußerten jedoch Bedenken hinsichtlich der Datenschutz- und Sicherheitsrisiken, die mit der Nutzung dieser Werkzeuge verbunden sind.

Herausforderungen bei der Einführung

Unternehmen aus verschiedenen Branchen sind bestrebt, die Möglichkeiten der generativen KI und autonomen Agenten zu nutzen. Von Kundenservice bis hin zu interner Automatisierung liegt das Versprechen von KI-Agenten in ihrer Fähigkeit, Aktionen auszuführen, anstatt nur Text zu generieren. Doch während Unternehmen mit LLMs und agentischer KI experimentieren, stehen sie vor Herausforderungen hinsichtlich Governance, Kosten, Erklärbarkeit und Sicherheit.

Umfragedaten und wichtige Erkenntnisse

Die Umfrage, die auf den Antworten von 300 Technologie-Führungskräften, Entwicklern und KI-Praktikern basiert, untersucht den Stand der Einführung agentischer KI und LLMs. Hier sind einige der wichtigsten Erkenntnisse:

Agentic Everywhere

Die Umfragedaten zeigen, dass die Einführung agentischer KI nicht mehr experimentell ist – sie ist bereits mainstream. Beeindruckende 72% der Befragten berichten, dass ihre Organisationen agentische KI-Systeme aktiv nutzen. Darüber hinaus plant eine weitere 21% der Befragten, innerhalb der nächsten 24 Monate agentische KI-Systeme zu implementieren.

Warum jetzt?

Fast 74% der Teilnehmer wählten die Steigerung der betrieblichen Effizienz als Hauptantrieb für die Implementierung, was zeigt, dass agentische Systeme als kritische Werkzeuge zur Automatisierung repetitiver Aufgaben, zur Reduzierung manueller Aufwände und zur Optimierung interner Prozesse angesehen werden. Auch die Verbesserung der Kundenerfahrung (46,23%) und die Kostenreduzierung (37,74%) rangierten hoch, was einen Wandel in der Anwendung von KI signalisiert, nicht nur zur Innovation, sondern auch zur Erzielung von wirtschaftlichen Ergebnissen.

Es ist nicht unbedingt ein reibungsloser Prozess

Die Umfragedaten zeigen, dass die Integration in bestehende Systeme sowie Bedenken hinsichtlich Datenschutz und Sicherheit die größten Herausforderungen für Unternehmen darstellen, die agentische Systeme einsetzen. Zudem sticht die Kostenkontrolle von LLM-Interaktionen als das größte Anliegen unter den Befragten hervor; mehr als doppelt so viele Befragte wählten dies als das nächste höchste Problem.

Wie es gemacht wird

Die häufigste Herangehensweise ist die Einrichtung eines dedizierten agentischen KI-Teams, mit 37,74% der Befragten, die dies als ihre primäre Implementierungsgruppe angeben. Dieser Trend weist auf das Entstehen einer neuen funktionalen Spezialisierung innerhalb des Unternehmens hin, die Orchestrierung, Prompt Engineering, Integrationsstrategien und Governance in eine interdisziplinäre Fähigkeit verbindet.

Wie es aufgebaut wird

OpenAI ist die dominierende Wahl für Entwickler und Unternehmen, die Agenten operationalisieren möchten, wahrscheinlich aufgrund seiner robusten APIs, der Reife des Ökosystems und der weit verbreiteten Vertrautheit, da 48,74% der Befragten die Plattform auswählten. Google Vertex AI (10,06%), Microsoft Azure (8,81%) und IBM (8,81%) zeigen ebenfalls starke Fortschritte. Währenddessen hat sich OpenAIs ChatGPT zum de facto Einstiegspunkt für Organisationen entwickelt, die LLMs übernehmen; 86,79% der Befragten gaben an, es in der Vergangenheit genutzt zu haben.

Wie es finanziert wird

Fast die Hälfte der Befragten (49,06%) berichtete, dass ihre Initiativen durch ein neu zugewiesenes Budget speziell für agentische KI unterstützt werden, was auf eine starke Unterstützung durch die Führungsebene und ein langfristiges Engagement hinweist. Eine beträchtliche Anzahl (35,53%) verlagert Budgetmittel aus bestehenden Budgets, ohne andere IT-Initiativen zu kürzen, was einen pragmatischen „klein anfangen, Wert beweisen“-Ansatz signalisiert. Die größte Gruppe der Befragten (49,37%) berichtete von jährlichen Ausgaben zwischen 50.000 und 249.999 USD für LLMs, was darauf hindeutet, dass viele Teams bereits über die Phase des Nachweises des Konzepts hinaus sind und ihre Nutzung skalieren.

„Die Umfragedaten spiegeln wider, was wir von unseren Kunden hören“, sagte ein Unternehmensvertreter. „Unternehmen sind bestrebt, agentische KI-Systeme und LLMs zur Verbesserung der Produktivität und Kundenerfahrung zu implementieren. Aber sie sind auch vorsichtig, insbesondere in Bezug auf Governance und Kontrolle. Wenn Unternehmen besser verstehen, wie sie mit diesen Herausforderungen umgehen können, erwarten wir, dass die Einführung von agentischer KI noch schneller wächst.“

More Insights

Risiken der KI im Compliance-Bereich

Das schnelle Wachstum der künstlichen Intelligenz (KI), insbesondere der generativen KI (GenAI) und Chatbots, bietet Unternehmen zahlreiche Möglichkeiten zur Verbesserung ihrer Arbeitsweise...

AI-Kompetenz: Anforderungen und Umsetzung im Unternehmen

Die Verpflichtung zur KI-Kompetenz gilt seit dem 2. Februar 2025 für alle, die mit KI-Systemen in Verbindung stehen. Die Kommission erwartet von den Anbietern und Anwendern von KI-Systemen, dass sie...

Ethische Herausforderungen der KI: Strategien für verantwortungsvolles Handeln

Künstliche Intelligenz (KI) durchdringt zunehmend kritische Entscheidungsprozesse in verschiedenen Branchen, weshalb robuste ethische Governance-Rahmenwerke von entscheidender Bedeutung sind. Die...

Rechtliche Personhood für KI: Eine dringende Debatte

Künstliche Intelligenz ist nicht mehr auf dem Weg, sie ist bereits etabliert. Angesichts der schnellen Integration von KI müssen wir die dringende Frage stellen: Soll KI irgendeine Form von...

Datenherkunft als Schlüssel zur KI-Governance für CISOs

Künstliche Intelligenz hat schleichend in zentrale Funktionen des Unternehmens Einzug gehalten, und viele dieser Funktionen basieren auf großen Sprachmodellen (LLMs). Die Annahme der Sicherheit der...

Ausgewogene KI-Regulierung für die Philippinen

Eine Abgeordnete auf den Philippinen fordert einen vorsichtigen und konsulativen Ansatz zur Regulierung von Künstlicher Intelligenz (KI), um sicherzustellen, dass die Richtlinien eine ethische...

Chinas Weg zur offenen KI-Governance

Chinas schnelle Fortschritte im Bereich der künstlichen Intelligenz (KI) werden zunehmend durch eine starke Betonung der Open-Source-Zusammenarbeit vorangetrieben. Dies ermöglicht es Unternehmen...

Neun Schritte zur effektiven KI-Governance

Die AI-Governance ist entscheidend, um die Integrität, Verantwortlichkeit und Sicherheit der Datenökosysteme zu gewährleisten, die KI-Modelle antreiben. Ohne starke Kontrollen können KI-Systeme...