Herausforderungen der KI-Governance: 7 Blockaden, 7 Kontrollen

Auf einen Blick

• Der Digitale Omnibus hat die Pflichten für eigenständige Hochrisikosysteme auf den 2. Dezember 2027 verschoben, doch KI-Kompetenz, verbotene Praktiken, Transparenz und die Pflichten für Modelle mit allgemeinem Verwendungszweck gelten bereits.
• Die meisten Herausforderungen der KI-Governance sind organisatorischer und nicht technischer Natur: nicht zugewiesene Verantwortung, lückenhaftes Verzeichnis und Nachweise, die im Anforderungsfall niemand findet.
• 78 Prozent der Führungskräfte trauen sich nicht zu, ein unabhängiges KI-Governance-Audit binnen 90 Tagen zu bestehen.
• Verantwortung zerfällt, weil sich Pflichten auf Modellanbieter, Systemanbieter und Betreiber verteilen und kaum jemand dokumentiert, wer welche trägt.
• Jede der sieben Blockaden lässt sich auf eine benannte Pflicht, eine Kontrolle und ein Artefakt zurückführen, nach dem ein Prüfer fragen wird.

Was sich 2026 geändert hat: die Frist verschob sich, die Pflichten nicht

Die schwerwiegendste der aktuellen Herausforderungen der KI-Governance ist ein Kalenderproblem, das die meisten Veröffentlichungen noch nicht abbilden. Die Verordnung (EU) 2026/1744, der Digitale Omnibus zur KI, wurde am 24. Juli 2026 im Amtsblatt veröffentlicht und trat am 27. Juli 2026 in Kraft, neun Tage vor der ursprünglichen Hochrisikofrist. Das Europäische Parlament hatte sie am 16. Juni 2026 mit 423 zu 57 Stimmen bei 174 Enthaltungen gebilligt, der Rat erteilte am 29. Juni 2026 die endgültige Zustimmung. Verschoben wurde: Pflichten für eigenständige Hochrisikosysteme nach Anhang III gelten nun ab dem 2. Dezember 2027, jene für in regulierte Produkte eingebettete KI nach Anhang I ab dem 2. August 2028. Nicht verschoben wurde: das Verbot inakzeptabler Praktiken, anwendbar seit dem 2. Februar 2025. Die Pflicht zur KI-Kompetenz nach Artikel 4, anwendbar seit demselben Datum. Die Pflichten für Modelle mit allgemeinem Verwendungszweck nach Kapitel V, anwendbar seit dem 2. August 2025. Die Transparenzpflichten nach Artikel 50. Genau diese Asymmetrie ist die erste Falle. In einer Budgetrunde liest sich eine Verschiebung um 16 Monate als Erlaubnis, das Programm ruhen zu lassen. Das ist sie nicht. Die heute greifenden Pflichten verlangen ein Betriebsmodell statt einer Produktänderung, und sie sind es, mit denen die meisten Organisationen noch gar nicht begonnen haben. Unser Beitrag zur KI-Regulierung ordnet die Pflichten nach Rolle und Datum.

Blockade 1: niemand verantwortet die Governance

Fragen Sie nach der Verantwortung, und Sie erhalten ein Gremium, keinen Namen. Die Grant-Thornton-Erhebung 2026 unter 950 Führungskräften zeigt, dass nur 48 Prozent der Aufsichtsgremien Erwartungen an die KI-Governance formuliert und 46 Prozent das KI-Risiko in die laufende Überwachung integriert haben, während 73 Prozent der Führungskräfte Governance als vordringliches Handlungsfeld benennen. Die Kiteworks-Jahreserhebung 2026 unter 459 Sicherheits- und Compliance-Fachleuten wird deutlicher: 39 Prozent behandeln KI-Governance als Zusatzaufgabe statt als eigene Funktion. Ein Gremium kann nicht zur Verantwortung gezogen werden. Es kann nur einberufen werden. Tritt ein Vorfall ein, fragt die Aufsicht, wer den Einsatz genehmigt hat, und eine Geschäftsordnung ist darauf keine Antwort. Die Kontrolle: eine namentlich benannte verantwortliche Person je System, ein Entscheidungsgremium mit dokumentierter Befugnis, einen Einsatz zu stoppen, und eine Verantwortungsmatrix, die einen Personalwechsel übersteht. Diese Person muss nicht technisch sein. Sie braucht die Befugnis, Nein zu sagen, und das Budget, danach zu handeln. Das ist das tragende Element jedes KI-Governance-Rahmens und die günstigste der sieben Korrekturen. Das Artefakt: eine unterzeichnete Freigabeentscheidung je System mit Namen der verantwortlichen Person und Datum.

Blockade 2: Was man nicht sieht, kann man nicht inventarisieren

Jede Pflicht der KI-Verordnung hängt an einem System. Wer seine Systeme nicht aufzählen kann, kann keine weitere Kontrolle anwenden, weil ihr der Gegenstand fehlt. Diese Abhängigkeit rückt das Verzeichnis an die Wurzel der meisten Herausforderungen der KI-Governance. Das Ausmaß ist inzwischen messbar. Kiteworks stellt fest, dass 65 Prozent der Organisationen im vergangenen Jahr Schatten-KI entdeckt haben. Eine Gartner-Befragung von 302 Cybersicherheitsverantwortlichen zwischen März und Mai 2025 ergab, dass 69 Prozent vermuten oder belegen können, dass Beschäftigte untersagte öffentliche GenAI-Werkzeuge nutzen. Kaum eines davon hat je eine Governance-Prüfung durchlaufen. Die Schwierigkeit ist struktureller Natur. KI kommt eingebettet in bereits beschaffte Software, über Schnittstellen Dritter und über Einzelkäufe, die nie an einer Beschaffungsstelle vorbeikommen. Agentische Systeme verschärfen das: Ein Agent, der weitere Modelle aufruft und über mehrere Anwendungen hinweg handelt, hat keinen einzelnen Registrierungspunkt. Unser Beitrag zu Schatten-KI beschreibt die Aufspürtechniken. Die Kontrolle: fortlaufende Entdeckung, gekoppelt an ein Verzeichnis nach Anwendungsfall, fachlicher Eigentümerschaft, regulatorischer Rolle, Risikoklasse und Lebenszyklusphase. Beschaffungs- und Reisekostendaten sind die bessere erste Quelle als ein Netzwerkscan, denn Schatten-KI wird eher gekauft als installiert. Das Artefakt: ein datierter Auszug des Verzeichnisses, unverändert übergebbar.

Blockade 3: Verantwortung zerfällt entlang der Wertschöpfungskette

Hier liegt der Mechanismus hinter Blockade 1, und er wird in kaum einer Veröffentlichung behandelt. Pflichten ruhen nicht bei einem einzigen Unternehmen. Sie verteilen sich auf den Anbieter des Basismodells, den Systemanbieter, der darauf aufbaut, und den Betreiber, der es in einem konkreten Kontext einsetzt. The Future Society nennt dies das Problem der vielen Hände: Verantwortung verschwimmt gerade deshalb, weil sich diese drei Akteure in Ressourcen, Fachwissen und kontextspezifischer Information unterscheiden und keiner allein genug davon besitzt, um die Pflicht zu erfüllen. Die Verordnung ist bei der Rollenzuordnung eindeutig. Artikel 3 Nummer 4 definiert den Betreiber als natürliche oder juristische Person, die ein KI-System in eigener Verantwortung verwendet, außerhalb persönlicher und nicht beruflicher Tätigkeit. Artikel 2 Absatz 1 Buchstabe a erfasst Anbieter, die Systeme im Unionsmarkt bereitstellen, unabhängig vom Sitz, Buchstabe b die in der Union ansässigen Betreiber. Artikel 25 macht aus einem Betreiber einen Anbieter, sobald er ein Hochrisikosystem unter eigenem Namen oder eigener Marke führt oder wesentlich verändert. An diesem letzten Punkt geraten Organisationen in die Falle. Feinabstimmung, eine geänderte Zweckbestimmung oder das Auftreten unter eigener Marke können aus dem Betreiber einen Anbieter machen, mit einem deutlich schwereren Pflichtenkatalog. Teams, die auf KI-Modellen aufbauen, überschreiten diese Linie häufig, ohne es festzuhalten. Die Kontrolle: eine schriftliche Rollenbestimmung je System, erneuert bei jeder wesentlichen Änderung, mit vertraglich geregelter Pflichtenverteilung nach oben statt stillschweigender Annahme. Das Artefakt: der Rollenbestimmungsvermerk mit Begründung und Datum.

Blockade 4: Menschliche Aufsicht wird gestaltet, nicht behauptet

Die meisten Programme beanspruchen einen Menschen in der Schleife. Wenige können beschreiben, was diese Person tatsächlich vermag, weshalb Aufsicht zu den Herausforderungen der KI-Governance zählt, die erst im Audit sichtbar werden. Die Verordnung begnügt sich nicht mit der Behauptung. Artikel 14 Absatz 1 verlangt, dass Hochrisikosysteme so konzipiert und entwickelt werden, dass sie während ihrer Verwendung „von natürlichen Personen wirksam beaufsichtigt werden können“, einschließlich geeigneter Mensch-Maschine-Schnittstellen. Entscheidend ist das Wort wirksam. Absatz 3 teilt die Pflicht: Aufsichtsmaßnahmen werden entweder vom Anbieter vor dem Inverkehrbringen eingebaut oder vom Anbieter benannt und vom Betreiber umgesetzt. Programme greifen regelmäßig den ersten Zweig auf und führen den zweiten nie aus. Der Anbieter liefert einen Abschaltknopf, der Betreiber überträgt niemandem die Befugnis, ihn zu drücken, und die Aufsicht existiert nur im Architekturdiagramm. Der Unterschied zwischen Human-in-the-Loop und Human-on-the-Loop ist hier wesentlich, denn beide bringen unterschiedliche Anforderungen an Kompetenz und Personaldecke mit sich. Die Kontrolle: ein Aufsichtskonzept, das Rolle, erforderliche Kompetenz, Befugnis zum Übersteuern oder Anhalten, die Reaktionszeit und das Protokoll jeder Intervention benennt. Das Artefakt: Interventionsprotokolle, die mindestens einen Eingriff belegen, oder eine dokumentierte Begründung, warum keiner nötig war.

Blockade 5: KI-Kompetenz ist bereits Pflicht

Von allen Herausforderungen der KI-Governance wird diese am häufigsten auf das kommende Jahr vertagt. Zu Unrecht. Artikel 4 gilt seit dem 2. Februar 2025, und der Digitale Omnibus hat daran nichts geändert. Der Text ist kurz, sein Anwendungsbereich weit. Anbieter und Betreiber „ergreifen Maßnahmen, um nach besten Kräften ein ausreichendes Maß an KI-Kompetenz ihres Personals und anderer Personen sicherzustellen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind“, unter Berücksichtigung ihrer technischen Kenntnisse, Erfahrung, Ausbildung, des Einsatzkontexts und der Personen, bei denen die Systeme verwendet werden. Artikel 3 Nummer 56 definiert KI-Kompetenz als die Fähigkeiten, Kenntnisse und das Verständnis, die einen informierten Einsatz und ein Bewusstsein für Chancen, Risiken und mögliche Schäden ermöglichen. Beachten Sie, was dort nicht steht. Die Pflicht gilt nicht nur für Hochrisikosysteme und nicht nur für technisches Personal. Sie erfasst jede Person, die in Ihrem Auftrag KI betreibt oder nutzt, Auftragnehmer eingeschlossen. Die Mittel folgen nicht. Grant Thornton berichtet, dass 34 Prozent der Finanzverantwortlichen die Schulungsbudgets für unzureichend halten und dass Beschäftigte an der Front (37 Prozent) sowie das mittlere Management (30 Prozent) den größten Unterstützungsbedarf haben, also genau die Gruppen, die der Artikel abdeckt. Die Kontrolle: rollenbasierte Schulung, abgebildet auf die Systeme, die jede Rolle tatsächlich berührt, aktualisiert bei Systemänderungen statt einmal jährlich. Das Artefakt: Teilnahme- und Verständnisnachweise, verknüpft mit benannten Personen und benannten Systemen.

Blockade 6: Der Nachweis ist nicht abrufbar

Eine Organisation kann jede Kontrolle besitzen und dennoch ein Audit nicht bestehen, denn eine Kontrolle zu haben und sie zu belegen sind zwei verschiedene Tätigkeiten. Die Abrufbarkeit von Nachweisen ist die am wenigsten diskutierte der sieben Blockaden und die, die am ehesten zuerst geprüft wird. Die Zahlen für 2026 sind ernüchternd. 78 Prozent der Führungskräfte trauen sich nicht zu, ein unabhängiges KI-Governance-Audit binnen 90 Tagen zu bestehen. Die Hälfte der von Kiteworks befragten Organisationen kann einen vollständigen Nachweis der KI-Zugriffe nicht innerhalb eines Arbeitstages vorlegen. Nur 33 Prozent führen manipulationssichere Prüfpfade, und 63 Prozent hatten binnen zwölf Monaten Compliance-Folgen aus Governance-Lücken. Ein verwandtes Muster verdient einen Namen: 61 Prozent nennen Datensouveränität als größte Compliance-Herausforderung, doch nur 29 Prozent setzen sie technisch durch. Eine erklärte Richtlinie ohne Durchsetzungspunkt erzeugt keinen Nachweis. Die Abrufzeit ist die Kennzahl, auf die es ankommt. Ein Nachweis, dessen Zusammenstellung drei Wochen dauert, ist aus Sicht einer behördlichen Anfrage ein Nachweis, den Sie nicht haben. Unsere Beiträge zum KI-Audit und zur KI-Systemdokumentation beschreiben, was Marktüberwachungsbehörden tatsächlich verlangen; in Deutschland wirken hier je nach Anwendung die Bundesnetzagentur, das BSI und die Datenschutzaufsicht zusammen. Die Kontrolle: jeden Nachweis im Moment seiner Entstehung an die konkrete Kontrolle binden, die er belegt, und Konfigurationsstände unveränderlich festhalten, sobald sich ein wesentlicher Parameter ändert. Das Artefakt: ein Kontroll-Nachweis-Register mit gemessener Abrufzeit.

Blockade 7: Governance ist langsamer als die Einführung

Die letzte der sieben Blockaden erzeugt still die übrigen sechs. Wenn der Governance-Pfad acht Wochen dauert und das Geschäft in fünf Tagen eine Antwort braucht, umgehen Teams ihn, und jede Umgehung wird zur Schatten-KI von morgen. Das ist kein weicher Kostenfaktor. Grant Thornton ermittelt, dass 46 Prozent der Organisationen Governance- und Compliance-Versäumnisse als eine Hauptursache für unterdurchschnittliche oder gescheiterte KI-Vorhaben nennen, vor unzureichender Schulung (31 Prozent) und mangelnder Datenreife (23 Prozent). Governance-Reibung ist der größte benannte Einzelbeitrag dazu, dass KI nicht funktioniert. Die übliche Reaktion, mehr Prüfende einzusetzen, verschlimmert es. Die Lösung heißt Verhältnismäßigkeit. Die Kontrolle: ein gestufter Eingang, bei dem ein dokumentierter Anwendungsfall mit geringem Risiko binnen Tagen gegen einen knappen Standardsatz entschieden wird und nur Systeme oberhalb einer Klassifizierungsschwelle in die vollständige Bewertung gehen. Ergänzen Sie eine wiederverwendbare Kontrollbibliothek, damit das zehnte System die Arbeit am ersten erbt. Unser Leitfaden zum KI-Risiko zeigt, wie sich die Stufen kalibrieren lassen. Das Artefakt: die Durchlaufzeit von Antrag bis Entscheidung, je Stufe erfasst und neben den Compliance-Kennzahlen berichtet.

Die Herausforderungen der KI-Governance in 90 Tagen angehen

Alles zugleich anzugehen ist der sicherste Weg, ein Programm zum Stillstand zu bringen. Die Abhängigkeiten laufen in eine Richtung. Tag 1 bis 30. Sehen. Bauen Sie das Verzeichnis auf und bestimmen Sie die Rollen der bereits produktiven Systeme. Ohne diese beiden Bausteine ist nichts Nachgelagertes möglich, und beides gelingt überwiegend am Schreibtisch anhand von Beschaffungs- und Reisekostendaten. Tag 31 bis 60. Verantworten. Benennen Sie je System eine verantwortliche Person, richten Sie das Entscheidungsgremium mit Stoppbefugnis ein und schließen Sie die zwei bereits geltenden Pflichten: KI-Kompetenzschulung für die betroffenen Rollen und Aufsichtskonzepte für jedes System, das eine Entscheidung über Menschen trifft oder prägt. Tag 61 bis 90. Belegen. Verknüpfen Sie Kontrollen mit Nachweisen, messen Sie die Abrufzeit gegen ein Ziel von einem Arbeitstag und proben Sie ein Audit an Ihren drei exponiertesten Systemen. Kalibrieren Sie danach die Eingangsstufen anhand dessen, was die Probe über die tatsächliche Reibung gezeigt hat. Rahmenwerke helfen an dieser Stelle, nicht am Anfang. ISO/IEC 42001 liefert die Form des Managementsystems, das NIST AI RMF das Risikovokabular, doch keines ersetzt das Wissen darüber, was Sie betreiben und wer dafür einsteht.

Häufige Fragen

Was ist die größte Herausforderung der KI-Governance? Nicht zugewiesene Verantwortung. Die meisten Organisationen haben ein Steuerungsgremium, aber keine namentlich benannte Person je System, sodass niemand die Befugnis besitzt, einen Einsatz zu stoppen. Die Grant-Thornton-Erhebung 2026 zeigt, dass nur 48 Prozent der Aufsichtsgremien überhaupt Erwartungen formuliert haben. Ein Gremium tagt, es haftet nicht. Wurde die Hochrisikofrist der KI-Verordnung wirklich verschoben? Ja. Die Verordnung (EU) 2026/1744, der Digitale Omnibus zur KI, trat am 27. Juli 2026 in Kraft und verschob die Pflichten für eigenständige Hochrisikosysteme nach Anhang III auf den 2. Dezember 2027 und für eingebettete KI nach Anhang I auf den 2. August 2028. Verbotene Praktiken, die KI-Kompetenz nach Artikel 4, die Pflichten für Modelle mit allgemeinem Verwendungszweck und die Transparenz nach Artikel 50 wurden nicht verschoben. Welche Herausforderungen der KI-Governance sollte man zuerst angehen? Verzeichnis und Verantwortung, in dieser Reihenfolge, weil die übrigen fünf darauf aufbauen. Einem nicht erfassten System lässt sich keine verantwortliche Person zuordnen, ohne verantwortliche Person lässt sich keine regulatorische Rolle bestimmen, und für eine nie zugewiesene Kontrolle entsteht kein Nachweis. Verzerrung und Erklärbarkeit sind wichtig, aber nachgelagert. Wer ist verantwortlich, Anbieter oder Betreiber? Beide, mit unterschiedlichen Pflichten. Der Anbieter trägt die Gestaltungspflichten, etwa den Einbau von Aufsichtsfähigkeiten und die Bereitstellung der Betriebsanleitung. Der Betreiber trägt die Betriebspflichten. Artikel 25 macht aus einem Betreiber einen Anbieter, wenn er ein Hochrisikosystem unter eigener Marke führt oder wesentlich verändert, was bereits eine Feinabstimmung auslösen kann. Wie baut man ein Verzeichnis auf, wenn niemand seine Werkzeuge meldet? Beginnen Sie bei den Ausgaben, nicht beim Netzwerk. Beschaffungsdaten, Reisekostenabrechnungen und SaaS-Abonnements fördern mehr Schatten-KI zutage als ein Scan, denn sie wird eher gekauft als installiert. Verbinden Sie das mit Identitäts- und Gateway-Protokollen und machen Sie die Registrierung zur Bedingung für den weiteren Zugang. Kiteworks nennt 65 Prozent Entdeckungen binnen zwölf Monaten: Unterstellen Sie die Lücke, statt sie zu prüfen. Ist KI-Kompetenzschulung wirklich verpflichtend? Ja, nach Artikel 4 der KI-Verordnung, anwendbar seit dem 2. Februar 2025. Sie gilt für Anbieter und Betreiber, ist nicht auf Hochrisikosysteme beschränkt und erfasst das Personal ebenso wie jede Person, die in Ihrem Auftrag KI betreibt, Auftragnehmer eingeschlossen. Das Maß richtet sich nach Rolle, technischen Kenntnissen und Kontext, weshalb ein einheitliches jährliches E-Learning kaum genügen dürfte.

Fazit

Die Herausforderungen der KI-Governance, die Programme 2026 aufhalten, sind nicht jene, über die der Markt spricht. Es sind weder Modellgenauigkeit noch algorithmische Verzerrung im Abstrakten. Es sind eine Entscheidung ohne Inhaber, ein nicht erfasstes System, eine unbestimmte Rolle, eine Aufsicht, die niemand ausüben kann, eine bereits geltende Schulungspflicht, ein Nachweis mit drei Wochen Vorlauf und ein Prozess, der langsam genug ist, dass das Geschäft ihn meidet. Jede verlangt eine Kontrolle, und jede Kontrolle ein Artefakt. Der Digitale Omnibus hat den meisten Organisationen 16 Monate beim Hochrisiko verschafft und nichts bei dem, was ohnehin gilt. Dieses Fenster als Vorbereitungszeit statt als Pause zu behandeln, macht den ganzen Unterschied. Beginnen Sie damit, was Sie betreiben und wer dafür einsteht, und bauen Sie die Nachweiskette der KI-Compliance von dort aus auf.