Auf einen Blick
- Vier Frameworks prägen die KI-Governance 2026: NIST AI RMF, ISO/IEC 42001, die EU-KI-Verordnung und die OECD-KI-Prinzipien. Jedes erfüllt eine andere Aufgabe.
- NIST ist eine freiwillige Risiko-Taxonomie, ISO/IEC 42001 ein zertifizierbares Managementsystem, die EU-KI-Verordnung eine verbindliche Regulierung und die OECD-Prinzipien der globale Wertesockel.
- Reife Programme adoptieren mehrere Frameworks gleichzeitig: ein interner Kontrollkatalog, einmal dokumentiert, deckt mehrere externe Referenzen ab.
- Die kommenden harmonisierten europäischen Normen der prEN-Reihe (prEN 18228 zum Risikomanagement, prEN 18282 zur KI-Cybersicherheit) werden die EU-Konformitätspraxis 2026-2027 deutlich verändern.
- Welches Framework zuerst eingeführt wird, hängt von der eigenen Position ab: Anbieter oder Betreiber, EU oder Nicht-EU, regulierte Branche oder allgemein.
Was ein KI-Governance-Framework wirklich ist
Ein KI-Governance-Framework ist ein strukturiertes Set aus Prinzipien, Kontrollen, Prozessen und Rollen, mit dem ein Unternehmen seine KI-Systeme innerhalb vereinbarter Grenzen für Risiko, Ethik und Rechtskonformität hält. Ein Framework macht ein KI-System nicht aus sich heraus sicher. Es liefert eine wiederholbare Methode, um zu entscheiden, ob das System ausreichend sicher ist, wer verantwortlich dafür bleibt und welche Nachweise diese Aussage stützen.
Frameworks beantworten vier Fragen: Was kann mit diesem KI-System schiefgehen? Wer verantwortet jedes Risiko? Welche Kontrollen reduzieren das Risiko auf ein akzeptables Niveau? Und woran erkennen wir laufend, dass diese Kontrollen weiterhin greifen?
Framework, Policy und Regulierung
Die drei Begriffe werden häufig vermischt, was die Umsetzung bremst. Eine Regulierung ist Recht. Die EU-KI-Verordnung etwa verpflichtet jeden Anbieter oder Betreiber, der ein KI-System auf dem EU-Markt bereitstellt. Eine Policy ist eine interne Selbstverpflichtung, etwa die unternehmenseigene Nutzungsrichtlinie für generative KI. Ein Framework ist die Verbindung beider Ebenen: Es übersetzt externe Pflichten und interne Selbstverpflichtungen in operative Kontrollen mit benannten Verantwortlichen und messbaren Ergebnissen.
Warum Frameworks 2023-2025 entstanden sind
Die erste Welle reichte von Januar 2023 bis Anfang 2025. Das NIST veröffentlichte das AI Risk Management Framework 1.0 im Januar 2023, gefolgt vom Generative AI Profile in 2024. ISO/IEC 42001 erschien im Dezember 2023. Die EU-KI-Verordnung trat am 1. August 2024 in Kraft, mit gestaffelten Anwendungsdaten bis 2027. Die OECD aktualisierte ihre KI-Prinzipien im Mai 2024, um generative und Allzweck-KI zu adressieren. Der gemeinsame Treiber: Die KI-Fähigkeiten entwickelten sich schneller als ad-hoc-Prozesse mithalten konnten, und Aufsichtsräte brauchten eine belastbare Struktur.
Die vier Frameworks, auf die es 2026 ankommt
Der Markt der KI-Governance 2026 ruht auf vier Ankern. Das NIST AI Risk Management Framework ist das dominante freiwillige Framework in den USA und entwickelt sich zur globalen De-facto-Referenz für Risiko-Taxonomien. ISO/IEC 42001:2023 ist die einzige zertifizierbare Norm für ein KI-Managementsystem und dient als Rückgrat für Unternehmen, die bereits ISO 27001 oder ISO 9001 betreiben. Die EU-KI-Verordnung ist weltweit die folgenreichste verbindliche Regulierung für KI. Die OECD-KI-Prinzipien, 2024 aktualisiert, bilden den Werte-Sockel, auf den sich 47 Adhärentenstaaten ausdrücklich beziehen, darunter die EU, die USA, das Vereinigte Königreich und Japan.
Drei weitere Texte umkreisen diese vier. Die Rahmenkonvention des Europarats zur Künstlichen Intelligenz, im September 2024 zur Zeichnung eröffnet, fixiert Mindeststandards für Menschenrechte. Die NIST-Cybersicherheitsleitlinien (KI-spezifische Erweiterungen zu SP 800-53 und CSF) sowie die kommenden harmonisierten CEN-CENELEC-Normen (prEN 18228 zum Risikomanagement, prEN 18282 zur KI-Cybersicherheit, weitere Geschwistertexte) übersetzen Prinzipien in prüfbare Klauseln. Innerhalb Deutschlands ergänzen das BSI, der BfDI und die BNetzA die internationalen Frameworks um sektorale und nationale Anforderungen.
NIST AI RMF 1.0 und das Generative-AI-Profil
Das NIST AI Risk Management Framework, veröffentlicht im Januar 2023, organisiert die Arbeit am KI-Risiko in vier Kernfunktionen: Govern (regieren), Map (kartieren), Measure (messen) und Manage (steuern). Jede Funktion zerlegt sich in Kategorien und Unterkategorien von Ergebnissen, insgesamt rund 70 Aussagen, die als Selbstbewertung dienen.
Govern, Map, Measure, Manage
Govern etabliert die Politiken, Verantwortlichkeiten und Ressourcen, die das KI-Risikomanagement formal verankern. Map identifiziert Kontext, Geltungsbereich, beabsichtigte Nutzung und betroffene Stakeholder eines konkreten KI-Systems. Measure ordnet den in Map identifizierten Risiken Metriken und Tests zu. Manage wendet Behandlungen an: Akzeptanz, Minderung, Transfer, Vermeidung, mit laufenden Überprüfungen.
Diese Struktur macht das AI RMF anschlussfähig zu Frameworks, die das Unternehmen bereits betreibt. Govern passt sich an ISO 31000, Measure spiegelt die ISO-27001-Auditlogik, Manage verbindet mit Incident Response und kontinuierlicher Verbesserung.
Worin das Generative-AI-Profil abweicht
Das Generative AI Profile (NIST AI 600-1) entstand mit einer offentlichen Arbeitsgruppe von 2.500 Teilnehmenden. Es konzentriert sich auf 13 spezifische Risiken generativer Systeme und schlägt mehr als 400 Maßnahmen vor. Dazu zählen Konfabulation, gefährliche Inhalte, Datenschutzleckagen, Umweltauswirkungen, schädliche Verzerrungen, Mensch-KI-Konfigurationsprobleme, Informationsintegrität, Informationssicherheit, Verletzungen geistigen Eigentums, obszöne und missbräuchliche Inhalte, Wertschöpfungs- und Komponentenrisiken, CBRN-Wissenstransfer und offensive Cyber. Das Profil wird typischerweise auf eine bestehende AI-RMF-Basis aufgelegt und ersetzt diese nicht.
ISO/IEC 42001: KI als Managementsystem
ISO/IEC 42001:2023 spezifiziert Anforderungen zur Einrichtung, Umsetzung, Aufrechterhaltung und kontinuierlichen Verbesserung eines KI-Managementsystems, kurz AIMS. Die Norm ist zertifizierbar: Eine akkreditierte Stelle kann ein Unternehmen prüfen und ein Zertifikat ausstellen, wie bei ISO 27001 üblich.
Plan-Do-Check-Act in der KI
Wie ISO 27001 und 9001 folgt 42001 dem Plan-Do-Check-Act-Zyklus. Plan setzt Kontext, Geltungsbereich, Führungsentscheidungen und Risikoakzeptanzkriterien. Do betreibt die Kontrollen: Daten-Governance, Modelllebenszyklus, menschliche Aufsicht, Incident Handling. Check misst die Leistung durch interne Audits, Managementbewertung und Kennzahlen. Act führt Erkenntnisse zurück in Politik, Kontrollen und Ressourcenplanung.
Die häufigste Überraschung für ISO-27001-Teams: 42001 nimmt die KI-Spezifik ernst. Klauseln wie 6.1.3 zur Risikobehandlung erwarten Ergebnisse, die ein generisches ISMS nicht produziert: Folgenabschätzungen, Systeminventare mit Verwendungszweck und Risikoklasse, Transparenzdokumentation für Stakeholder, Konzeption der menschlichen Aufsicht.
Anhang A im Vergleich zu ISO 27001
ISO/IEC 42001 enthält einen Anhang A mit Kontrollen zu KI-Politiken, interner Organisation, Ressourcen, Folgenabschätzungen, KI-Systemlebenszyklus, Daten für KI-Systeme, Information interessierter Parteien und Nutzung von KI-Systemen. Rund 38 Kontrollen. Die Überlappung mit den 93 Anhang-A-Kontrollen von ISO 27001 ist partiell. Beide Normen ergänzen sich: Ein integriertes Managementsystem kann beide abdecken, aber die KI-spezifischen Nachweise von 42001 lassen sich nicht in die Sicherheitskontrollen von 27001 reduzieren.
Die EU-KI-Verordnung: ein Framework mit Rechtsfolgen
Die EU-KI-Verordnung (Verordnung (EU) 2024/1689) trat am 1. August 2024 in Kraft, mit gestaffelter Anwendung. Die Pflichten für Allzweck-KI gelten seit dem 2. August 2025. Die Mehrheit der Pflichten für Hochrisiko-KI gilt seit dem 2. August 2026. Die restlichen Hochrisiko-Pflichten (KI eingebettet in regulierte Produkte) gelten ab dem 2. August 2027.
Anders als NIST oder ISO ist die KI-Verordnung verbindlich. Bußen reichen bis 35 Millionen Euro oder 7 % des weltweiten Konzernumsatzes bei verbotenen Praktiken und bis 15 Millionen oder 3 % bei den meisten anderen Verstoßen.
Artikel 9: Risikomanagement im Zentrum
Artikel 9 ist das operative Herz für Hochrisiko-KI-Systeme. Anbieter müssen ein Risikomanagementsystem einrichten, umsetzen, dokumentieren und aufrechterhalten, als kontinuierlicher iterativer Prozess über den gesamten Lebenszyklus, mit regelmäßiger systematischer Überprüfung. Es identifiziert und analysiert bekannte und vernünftigerweise vorhersehbare Risiken, schätzt Risiken, die bei bestimmungsgemäßer Verwendung oder vorhersehbarem Missbrauch entstehen können, bewertet Risiken aus der Marktbeobachtung und ergreift angemessene Maßnahmen.
Die Verordnung akzeptiert das Restrisiko ausdrücklich. Maßstab ist die Akzeptabilität unter bestimmungsgemäßer Nutzung, nicht das Nullrisiko.
Harmonisierte Normen und Konformitätsvermutung
Der CEN-CENELEC JTC 21 ist das gemeinsame technische Komitee, das harmonisierte Normen auf Basis des Normungsauftrags M/593 entwickelt. Wendet ein Anbieter eine zitierte harmonisierte Norm an, gilt eine Konformitätsvermutung gegenüber der entsprechenden Anforderung. Aktuelle Entwürfe (prEN) umfassen Risikomanagement (prEN 18228), KI-Cybersicherheitsspezifikationen (prEN 18282) und mehrere Geschwistertexte zu Qualitätsmanagement, Konformitätsbewertung, Transparenz und Governance. Bis zur Veröffentlichung im Amtsblatt der EU stützen sich Anbieter auf ISO/IEC 42001, ISO/IEC 23894 und andere anerkannte Referenzen als Sorgfaltsbeweis, ohne formelle Konformitätsvermutung.
OECD-KI-Prinzipien: der globale Kompass
Die OECD-KI-Prinzipien wurden 2019 verabschiedet und im Mai 2024 aktualisiert. Die Aktualisierung reagiert auf Allzweck- und generative KI und schärft die Sprache zu Privatsphäre, geistigem Eigentum, Sicherheit und Informationsintegrität. Mit 47 Adhärentenstaaten, darunter die EU, die USA, Japan, Korea und das Vereinigte Königreich, fungieren die OECD-Prinzipien als gemeinsame Sprache für grenzüberschreitende Gespräche zu verantwortungsvoller KI.
Was die 2024er-Aktualisierung geändert hat
Der Text behält die fünf wertebasierten Prinzipien bei (inklusives Wachstum und nachhaltige Entwicklung, Menschenrechte und demokratische Werte, Transparenz und Erklärbarkeit, Robustheit und Sicherheit, Verantwortlichkeit) und schärft die Erwartungen an generative KI. Er adressiert explizit Mis- und Desinformation, Schutz geistigen Eigentums in Trainingsdaten und die Verantwortung der KI-Akteure im Lebenszyklus. Das OECD-KI-Observatorium verfolgt die nationale Umsetzung über die OECD.AI-Datenbank und veröffentlicht Länderprofile. Die Prinzipien sind nicht verbindlich, werden aber von der EU-KI-Verordnung, der britischen AI-Politik und mehreren nationalen Strategien als Sockel zitiert.
Cross-Mapping: Überlappungen und Unterschiede
Die operative Frage lautet selten: Welches Framework wählen wir? Sondern: Wie führen wir eine Kontrolle einmal aus und nutzen denselben Nachweis für mehrere Frameworks? Die folgende Tabelle zeigt die wichtigsten Korrespondenzen.
| Ergebnis | NIST AI RMF | ISO/IEC 42001 | EU-KI-Verordnung | OECD-KI-Prinzipien |
|---|---|---|---|---|
| Verantwortlichkeit für KI-Governance | Govern 1.1, 1.2 | Klauseln 5.1, 5.3 | Artikel 17, 22 | Prinzip 1.5 (Accountability) |
| KI-Systeminventar | Map 1.1, 4.1 | Klausel 6.1, Anhang A.6.2.1 | Artikel 16, Artikel 49 | Prinzip 1.2 (Transparenz) |
| Risikoidentifikation und -bewertung | Map 5.1, 5.2 | Klausel 6.1.3, Anhang A.6.1.4 | Artikel 9(2) | Prinzip 1.4 (Robustheit) |
| Daten-Governance und -qualität | Map 2.3, Measure 2.10 | Anhang A.7.1 bis A.7.5 | Artikel 10 | Prinzip 1.2 |
| Konzeption menschlicher Aufsicht | Manage 1.3, 4.1 | Anhang A.9.2 | Artikel 14 | Prinzip 1.3 |
| Transparenz gegenüber Nutzern | Govern 3.2, Map 5.1 | Anhang A.8.2, A.8.3 | Artikel 13, 50 | Prinzip 1.3 |
| Marktbeobachtung und Incidents | Manage 4.3, 4.4 | Klausel 10.2 | Artikel 72, 73 | Prinzip 1.4 |
Die Überlappungen sind kein Zufall. Eine Kontrolle, die NIST Manage 4.1 erfüllt, erfüllt in der Regel auch ISO 42001 Anhang A.9.2 und Artikel 14 der EU-KI-Verordnung. Der Nachweis ist derselbe. Die Rahmung unterscheidet sich. Deshalb bauen reife Programme einen einzigen Kontrollkatalog und taggen jede Kontrolle mit den externen Klauseln, die sie abdeckt.
Wie man ein Framework wählt (oder mehrere kombiniert)
Vier Signale steuern die Wahl.
Erstens die Position in der Wertschöpfungskette. Anbieter, die Hochrisiko-KI-Systeme auf dem EU-Markt bereitstellen, haben keine Wahl: Die KI-Verordnung ist verbindlich, harmonisierte Normen liefern die Konformitätsvermutung, und ISO/IEC 42001 ist das häufigste freiwillige Rückgrat. Betreiber tragen geringere rechtliche Lasten, profitieren aber von denselben internen Kontrollen.
Zweitens die Jurisdiktion. Wer den EU-Markt bedient, nimmt die KI-Verordnung als Sockel. Wer primär in den USA und im Bundesvergabeumfeld arbeitet, beginnt mit dem NIST AI RMF. Multinationale Unternehmen betreiben beides und nutzen ISO/IEC 42001 als Brücke. In Deutschland ergänzen BSI, BfDI und BNetzA die internationalen Vorgaben um sektorale und nationale Anforderungen.
Drittens die Branche. Stark regulierte Sektoren (Finanzwesen, Gesundheit, öffentlicher Sektor, kritische Infrastruktur) legen sektorale Aufsicht auf. Finanzdienste verbinden NIST AI RMF üblicherweise mit Modellrisikomanagement nach SR 11-7 und europäischen Äquivalenten. Das Gesundheitswesen ergänzt MDR und klinische Validierung. Der öffentliche Sektor verlangt Folgenabschätzungen und Registrierungspflichten.
Viertens die organisatorische Reife. Ein Programm in den ersten Schritten sollte nicht im ersten Jahr 42001-Zertifizierung anstreben. Mit der NIST-AI-RMF-Selbstbewertung beginnen, Lücken finden, fehlende Policies schreiben, das KI-Inventar aufbauen, dann ISO/IEC 42001 überlagern, sobald Plan-Do-Check-Act-Disziplin steht. Die umgekehrte Reihenfolge kostet zwölf Monate Audit über Kontrollen, die noch nicht laufen.
Vom Framework zu operativen Kontrollen
Ein Framework ist nur so nützlich wie die Kontrollen, die es erzeugt. Artikel 9 der EU-KI-Verordnung, Anhang A von ISO/IEC 42001 und die Manage-Funktion des NIST AI RMF in einen echten internen Kontrollkatalog zu übersetzen, ist der Punkt, an dem die meisten Programme an Schwung verlieren. Das Muster, das funktioniert: ein interner Kontrollkatalog, jede Kontrolle mit externen Klauseln getaggt, jede Kontrolle mit dem Nachweis-Artefakt verbunden.
Die Plattform AI Sigil ist um dieses Muster gebaut. Jedes Modul entspricht einer Schicht des Stacks: Das KI-Register ist das Inventar, das NIST Map 1.1, ISO/IEC 42001 Anhang A.6.2.1 und Artikel 49 der KI-Verordnung erfüllt. Das Risk-Assessment-Modul deckt NIST Measure, Klausel 6.1.3 von ISO/IEC 42001 und Artikel 9 der Verordnung ab. Das Framework-Compliance-Modul ist die Cross-Mapping-Engine selbst: eine Kontrolle, mehrere Konformitätsvermutungen. Das Evidence-and-Audit-Modul bewahrt die Artefakte in einer Form, die einem ISO-Audit ebenso standhält wie einer KI-Verordnungs-Konformitätsbewertung.
Fünf typische Fallstricke bei der Umsetzung
- Das Framework als Dokumentation statt als Betriebsmodell. Teams schreiben die KI-Politik, kopieren ein paar NIST- oder ISO-Klauseln, legen das Dokument ab und arbeiten weiter wie zuvor. Ein Framework, das das Tagesgeschäft nicht verändert, ist Theater.
- Falscher Startpunkt. Die 42001-Zertifizierung anzustreben, bevor das KI-Inventar existiert, garantiert, dass Auditoren Beweis-Lücken finden. Erst Inventar, dann Risikoklassifizierung, dann Kontrollen.
- Frameworks als Alternativen statt als Schichten verstehen. NIST, ISO 42001, EU-KI-Verordnung und OECD beantworten unterschiedliche Fragen. Nur eines auszuwählen lässt die Lücken offen.
- Daten-Governance unterschätzen. Artikel 10 der KI-Verordnung, Anhang A.7 von ISO 42001 und NIST Map 2.3 verlangen alle belastbare Praktiken zu Trainings-, Validierungs- und Qualitätsdaten. Viele Programme investieren zu spät.
- Keine benannten verantwortlichen Eigentümer. Ein Framework ohne klar zugewiesene Executive-Verantwortliche pro Risikofeld zerfällt zum Koordinationsproblem. NIST Govern 1.2 und Artikel 17 der KI-Verordnung erwarten beide namentliche Verantwortung.
Häufige Fragen
Welche KI-Governance-Frameworks sind 2026 die wichtigsten?
Vier zählen am meisten: NIST AI RMF 1.0 (mit Generative-AI-Profil), ISO/IEC 42001:2023, die EU-KI-Verordnung (Verordnung (EU) 2024/1689) und die im Mai 2024 aktualisierten OECD-KI-Prinzipien. Reife Programme adoptieren typischerweise drei der vier gleichzeitig: NIST für die Risiko-Taxonomie, ISO 42001 für das Managementsystem, EU-KI-Verordnung als verbindlichen Sockel für EU-orientierte Systeme.
Ist die ISO/IEC-42001-Zertifizierung unter der EU-KI-Verordnung verpflichtend?
Nein. Die KI-Verordnung schreibt ISO/IEC 42001 nicht vor. Die Zertifizierung liefert jedoch starke Hinweise auf Sorgfalt und unterstützt die Konformitätsbewertung eines EU-Anbieters. Solange die harmonisierten CEN-CENELEC-Normen nicht im Amtsblatt veröffentlicht sind, stützen sich Anbieter häufig auf ISO/IEC 42001 und ISO/IEC 23894 als die glaubwürdigsten freiwilligen Referenzen.
Wie verhält sich NIST AI RMF zu ISO/IEC 42001?
NIST AI RMF ist eine freiwillige Risikomanagement-Taxonomie mit vier Funktionen und rund 70 Ergebnissen. Sie ist frei zugänglich und in den USA weit verbreitet. ISO/IEC 42001 ist eine zertifizierbare Managementsystem-Norm mit formellen Klauseln und Anhang-A-Kontrollen. Beide ergänzen sich: NIST sagt, welche Risiken zu managen sind. ISO/IEC 42001 sagt, wie das Managementsystem zu betreiben ist, das diese Risiken managt.
Sind harmonisierte CEN-CENELEC-Normen verfügbar?
Noch nicht als endgültige harmonisierte europäische Normen. Das JTC 21 hat mehrere Entwürfe produziert, darunter prEN 18228 zum KI-Risikomanagement und prEN 18282 zu KI-Cybersicherheitsspezifikationen, die 2026 als lizenzierte Entwürfe zirkulieren. Die Veröffentlichung im Amtsblatt der EU und die damit verbundene Konformitätsvermutung werden 2026 und 2027 erwartet.
Was ist das kleinste praktikable KI-Governance-Framework für ein Start-up?
Für ein junges Unternehmen, das KI entwickelt oder einsetzt und noch nicht in der EU verkauft, lautet das Minimum: eine schriftliche KI-Politik, ein KI-Systeminventar mit Verwendungszweck und Risikoklasse, ein an NIST AI RMF Map und Measure orientierter Folgenabschätzungsprozess, benannte verantwortliche Eigentümer und eine kurze Incident-Response-Prozedur. Sobald EU-Kunden oder regulierte Branchen ins Spiel kommen, werden die EU-KI-Verordnung und ISO/IEC 42001 unausweichlich.
Haben die OECD-KI-Prinzipien rechtliche Wirkung?
Nicht direkt. Sie sind nicht verbindlich. Ihre Wirkung ist indirekt, aber bedeutend: Sie werden ausdrücklich von der EU-KI-Verordnung, vom britischen KI-Politikrahmen und mehreren nationalen Strategien als Sockel zitiert. Sie zu beachten genügt selten allein, sich von ihnen abzukoppeln, ist im grenzüberschreitenden Kontext ein Reputationsrisiko.
Fazit
KI-Governance-Frameworks sind 2026 nicht austauschbar. Jedes beantwortet eine andere Frage und trägt unterschiedliche Konsequenzen bei Nichteinhaltung. Der reife Weg behandelt sie als Schichten: OECD als Wertesockel, NIST als Risiko-Taxonomie, ISO/IEC 42001 als Managementsystem, EU-KI-Verordnung als verbindliche Obergrenze für alle, die in Europa verkaufen. Bauen Sie einen einzigen internen Kontrollkatalog, mappen Sie ihn auf alle vier, und die Beweisarbeit kumuliert sich, statt sich zu wiederholen. Diese operative Verschiebung verwandelt ein Governance-Programm aus Dokumentationstheater in belastbare Praxis.