Modellrisikomanagement für KI und maschinelles Lernen

Auf einen Blick

• Modellrisikomanagement (MRM) ist die Disziplin, die das Verlustrisiko aus Entscheidungen auf Basis fehlerhafter oder falsch eingesetzter Modelle erkennt, misst und steuert.
• In den USA änderten sich 2026 die aufsichtlichen Erwartungen: SR 26-2 löst das fünfzehn Jahre alte SR 11-7 ab und ersetzt die verpflichtende jährliche Revalidierung durch eine an der Modellwesentlichkeit ausgerichtete Überwachung.
• SR 26-2 lässt generative und agentische KI bewusst außerhalb seines Geltungsbereichs, wodurch eine Governance-Lücke entsteht, die spezialisierte Rahmenwerke schließen müssen.
• Maschinelles Lernen und generative Modelle widersprechen mehreren Annahmen des klassischen MRM: sie driften, sie sind undurchsichtig, und sie verhalten sich nicht deterministisch.
• Ein modernes Programm verankert das Modellrisikomanagement in einem zentralen Modellinventar und bildet seine Kontrollen auf die KI-Verordnung, die ISO/IEC 42001 und das NIST AI RMF ab.

Was ist Modellrisikomanagement?

Modellrisiko bezeichnet die Möglichkeit nachteiliger Folgen, seien es finanzielle Verluste, fehlerhafte Entscheidungen, aufsichtsrechtliche Beanstandungen oder Reputationsschäden, wenn eine Entscheidung auf einem Modell beruht, das unzutreffend, falsch angewandt oder missverstanden ist. Modellrisikomanagement umfasst die Richtlinien, Rollen und Kontrollen, mit denen eine Organisation dieses Risiko über den gesamten Lebenszyklus innerhalb eines definierten Risikoappetits hält. Die maßgebliche Definition stammt aus der US-Bankenaufsicht. Im April 2011 veröffentlichten die Federal Reserve und das Office of the Comptroller of the Currency SR 11-7 (OCC Bulletin 2011-12), das ein Modell als quantitative Methode beschreibt, die statistische, ökonomische, finanzielle oder mathematische Theorie anwendet, um Eingabedaten in eine quantitative Schätzung zu überführen. Dieses Papier wurde weit über das Bankwesen hinaus zur Vorlage der Disziplin. Zwei Gedanken tragen das Ganze. Erstens ist jedes Modell eine Näherung, sodass der Fehler eine Eigenschaft des Modells ist und kein Versagen. Zweitens wird der Fehler erst dann zum Risiko, wenn ein Modell eine Entscheidung speist. Das Modellrisikomanagement konzentriert seine Anstrengungen deshalb dort, wo eine falsche Ausgabe den größten Schaden anrichten würde, weshalb die Wesentlichkeit, also das an ein Modell geknüpfte Gewicht, im Zentrum jedes ernsthaften Programms steht. Diese Logik durchzieht auch das umfassendere KI-Risikomanagement, von dem das Modellrisiko nur ein Bestandteil ist.

Die drei Säulen: Entwicklung, Validierung, Governance

SR 11-7 gliederte die Disziplin in drei Säulen, die sie bis heute prägen. Entwicklung und Implementierung umfasst ein solides Design, dokumentierte Annahmen, geeignete Daten und Tests vor dem Produktivgang. Die Validierung ist eine unabhängige, wirksame Überprüfung: ein von den Entwicklern getrenntes Team prüft die konzeptionelle Solidität, das laufende Monitoring und die Ergebnisanalyse. Die Governance umschließt beides mit Richtlinien, Rollen, einem Inventar und klarer Verantwortlichkeit, damit die Organisation weiß, welche Modelle bestehen, wer für sie einsteht und wie sie kontrolliert werden. Diese Säulen decken sich mit der breiteren Systematik des KI-Risikos, die Governance-Teams heute verfolgen.

Woher das Modellrisiko stammt

Das Modellrisiko hat vier wiederkehrende Quellen, von denen jede verstärkt wird, sobald das Modell ein System des maschinellen Lernens ist. Daten. Ein Modell taugt nur so viel wie die Daten, aus denen es lernt und mit denen es arbeitet. Stichprobenlücken, Kennzeichnungsfehler, veraltete Merkmale und nicht repräsentative Populationen pflanzen sich sämtlich in den Ausgaben fort. Maschinelles Lernen erweitert diese Angriffsfläche, weil Modelle Qualitätsmängel in großem Maßstab aufnehmen und in jeder Vorhersage reproduzieren. Design und Annahmen. Jedes Modell kodiert Annahmen über die Welt. Wenn diese nicht mehr gelten, etwa bei einem Scoring-Modell, das auf Verhalten vor einem Schock beruht, verschlechtern sich die Ausgaben, obwohl der Code unverändert bleibt. Implementierung. Fehler entstehen beim Codieren, Integrieren oder Bereitstellen: eine nicht passende Merkmalspipeline, eine Rundungsdifferenz zwischen Training und Produktion oder eine unbemerkte Bibliotheksänderung. Solche Mängel bleiben leicht unentdeckt, weil das Modell weiterhin plausible Zahlen liefert. Nutzung und Fehlgebrauch. Die größten Verluste entstehen oft, wenn ein Modell außerhalb seines Zwecks verwendet, über seinen getesteten Bereich hinaus vertraut oder in seinen Grenzen missachtet wird. Klare Zweckangaben und Nutzungshinweise sind Kontrollen, keine Bürokratie.

Von SR 11-7 zu SR 26-2: was sich 2026 änderte

Fünfzehn Jahre lang war SR 11-7 der Fixpunkt der Praxis. Das änderte sich am 17. April 2026, als die Federal Reserve, das OCC und die FDIC SR 26-2 veröffentlichten, eine überarbeitete behördenübergreifende Leitlinie zum Modellrisikomanagement, die SR 11-7 ablöst. Die Stoßrichtung ist risikoorientiert und skalierbar. Die Aufsicht erwartet nun, dass die Tiefe eines Programms zur Größe, Komplexität und zum Risikoprofil des Instituts passt, eine Klarstellung, die kleinere und weniger komplexe Häuser im Blick hat. Die folgenreichste operative Änderung besteht darin, dass die verpflichtende jährliche Revalidierung einer an der Modellwesentlichkeit ausgerichteten Überwachung weicht, sodass der Validierungsaufwand dem Gewicht folgt und nicht dem Kalender. SR 26-2 verengt zudem, was als Modell gilt, und schließt einfache arithmetische Berechnungen in Tabellenkalkulationen, deterministische regelbasierte Prozesse und gewöhnliche Software aus. Die Leitlinie ist vor allem für Banken mit mehr als 30 Milliarden US-Dollar Bilanzsumme einschlägig, ausdrücklich unverbindlich und wird durch das OCC Bulletin 2026-13 ergänzt. Für regulierte Häuser ist dies die Gelegenheit, kalendergetriebene Pflichtübungen aufzugeben und Validierungskapazität dort einzusetzen, wo das Modellrisiko wirklich hoch ist. Für alle anderen ist das Signal deutlich: Kontrolle wird verhältnismäßig und evidenzgestützt statt einheitlich. Dieselbe an der Wesentlichkeit orientierte Haltung durchzieht die moderne Risiko- und Compliance-Steuerung.

Die Lücke bei generativer KI, die SR 26-2 offenlässt

Es gibt eine bewusste Grenze. SR 26-2 hält generative und agentische KI außerhalb seines Geltungsbereichs, mit der Begründung, diese Technologien seien neu und in rascher Bewegung. Die Entscheidung ist vertretbar, doch sie lässt die am schnellsten wachsende Modellkategorie ohne eigenen MRM-Standard aufseiten der US-Bankenaufsicht. Wer große Sprachmodelle oder autonome KI-Agenten einsetzt, kann nicht auf die nächste Überarbeitung warten. Diese Organisationen müssen die Grundsätze der Disziplin jetzt auf solche Systeme ausdehnen, und zwar mit den Governance-Rahmenwerken, die genau dafür geschaffen wurden.

Warum KI und maschinelles Lernen das klassische MRM sprengen

Das klassische MRM war für Modelle gedacht, die vergleichsweise stabil, prüfbar und deterministisch sind. Maschinelles Lernen und generative Systeme verletzen alle drei Annahmen, weshalb Validierungsteams das alte Vorgehen nicht einfach wiederverwenden können. Nichtdeterminismus. Ein generatives Modell kann auf dieselbe Eingabe unterschiedliche Ausgaben liefern. Validierungsmethoden, die um ein einziges erwartetes Ergebnis herum gebaut sind, lassen sich nicht auf Systeme übertragen, deren Verhalten von Natur aus probabilistisch ist. Drift. ML-Modelle verschlechtern sich, sobald sich die Welt von ihrer Trainingsverteilung entfernt. Ohne kontinuierliches Monitoring wird ein bei der Einführung sauber validiertes Modell still unzuverlässig. Undurchsichtigkeit. Komplexe Modelle widersetzen sich der Inspektion, was die Prüfung der konzeptionellen Solidität erschwert und mit den aufsichtlichen Erwartungen an die Erklärbarkeit kollidiert. Prüfer können nicht immer nachvollziehen, warum eine Ausgabe entstand. Verzerrung und adversariale Angriffsfläche. Auf schlecht verwalteten Daten trainierte Modelle erben Verzerrungen und verstärken sie, und generative Systeme fügen Prompt-Injection und Jailbreaks hinzu, die die klassische Validierung nie bedachte. Datenabfluss und Herkunft. Bei schlecht verwalteten Trainingsdaten können sensible Informationen in Ausgaben wieder auftauchen, und die Organisation ist womöglich nicht in der Lage nachzuweisen, worauf ein Modell trainiert wurde. Der schärfste Fall bleibt das größte Risiko generativer KI, die Halluzination, bei der eine flüssige, selbstsichere Ausgabe schlicht falsch ist.

Modellrisikomanagement trifft auf KI-Governance

Die von der Bankenaufsicht gelassene Lücke füllen drei Governance-Instrumente, die ein reifes Programm als ein einziges Kontrollset behandelt und nicht als drei getrennte Prüfungen. Die KI-Verordnung der EU gießt MRM-nahe Pflichten für Hochrisikosysteme in Gesetzesform. Anbieter müssen ein Risikomanagementsystem über den Lebenszyklus betreiben (Artikel 9), eine Daten-Governance anwenden (Artikel 10), technische Dokumentation führen (Anhang IV), menschliche Aufsicht sicherstellen (Artikel 14) sowie Genauigkeit, Robustheit und Cybersicherheit gewährleisten (Artikel 15), bevor sie eine Konformitätsbewertung durchlaufen (Artikel 43). Der Praxisleitfaden zur KI-Verordnung erläutert, wie diese Pflichten verteilt sind. Das NIST AI RMF bietet eine freiwillige Struktur aus vier Funktionen, Govern, Map, Measure und Manage, die sich natürlich an Entwicklung, Validierung und Monitoring anlehnen. Unser Leitfaden zum NIST AI RMF geht jede Funktion durch. Die ISO/IEC 42001 stellt ein zertifizierbares KI-Managementsystem mit Kontrollen in Anhang A und einem dreijährigen Zertifizierungszyklus bereit, was der Disziplin ein prüfbares Zuhause gibt, wie unsere Einführung zur ISO 42001 zeigt. Sogar die sektoralen Aufseher nähern sich denselben Erwartungen. Der im Juli 2025 überarbeitete EZB-Leitfaden für interne Modelle fügte einen eigenen Abschnitt zum maschinellen Lernen hinzu, der Erklärbarkeit, das Verhältnis von Leistung und Komplexität, Validierung und Modellrisikomanagement für Banken behandelt, die ML in regulatorischen internen Modellen verwenden.

Ein Kontrollset für alle Rahmenwerke

Die Rahmenwerke überschneiden sich stärker, als sie sich unterscheiden. Eine einzige Validierung kann zugleich die wirksame Überprüfung nach SR 26-2, Artikel 9 der KI-Verordnung, die Measure-Funktion des NIST und die Monitoring-Kontrollen der ISO 42001 erfüllen, sofern der Nachweis einmal erhoben und mit jeder Anforderung verknüpft wird. Unsere Gegenüberstellung von NIST AI RMF, ISO 42001 und KI-Verordnung zeigt, wo sich die Anforderungen treffen, sodass Teams dieselbe Kontrolle nicht dreimal ausführen.

Ein modernes Modellrisikomanagement aufbauen

Ein Programm, das traditionelle und KI-Modelle umspannt, ruht auf drei operativen Grundlagen.

Das Modellinventar als Fundament

Was nicht erfasst ist, lässt sich nicht steuern. Ein vollständiges Modellinventar, das jedes Modell mit Eigentümer, Zweck, Wesentlichkeit, Datenquellen und Validierungsstatus festhält, ist die Voraussetzung für jede weitere Kontrolle. Das schwierigste Inventarproblem sind heute nicht die der IT bekannten Modelle, sondern die ihr unbekannten: Tabellenkalkulationen, Notebooks und KI-Werkzeuge Dritter, die Schatten-KI bilden. Ein Register, das diese Systeme entdeckt und nachverfolgt, verwandelt die Disziplin von einer periodischen Übung in eine lebendige Fähigkeit.

Drei Verteidigungslinien für KI-Modelle

Ein wirksames MRM trennt die Aufgaben. Die erste Linie, Modelleigentümer und Entwickler, baut und dokumentiert. Die zweite Linie, unabhängige Validierung und Risiko, hinterfragt und genehmigt. Die dritte Linie, die interne Revision, prüft, dass der Prozess selbst funktioniert. Für KI-Modelle braucht diese Struktur bereichsübergreifende Tiefe, weil ein einziges generatives System zugleich Fragen der Daten-Governance, der Sicherheit und der Ethik aufwerfen kann.

Kontinuierliche Validierung und Überwachung

Weil ML-Modelle driften, kann die Validierung kein einmaliges Tor sein. Ein modernes Programm überwacht Leistung, Datenstabilität und Ergebnisse fortlaufend und revalidiert, wenn sich Wesentlichkeit oder Verhalten ändern, statt nach festem Zeitplan. Genau diese an der Wesentlichkeit orientierte Haltung fördert SR 26-2 nun, angewandt auf Systeme, die sich schneller verändern, als jeder Jahreszyklus erfassen kann. Diese Nachweiskette aufzubauen ist zugleich das, was ein System prüfbar macht.

Modellrisikomanagement jenseits des Bankwesens

Die Disziplin begann in der Finanzwelt, doch die Pflicht greift auf jeden Sektor über, der folgenreiche KI einsetzt. Versicherer modellieren Tarifierung und Reservierung, das Gesundheitswesen modelliert Triage und Diagnose, der öffentliche Sektor modelliert Anspruch und Vollzug, jeweils mit realen menschlichen Folgen. Die KI-Verordnung unterscheidet nicht, ob ein Hochrisikomodell in einer Bank oder einem Krankenhaus läuft: die Pflichten zu Risikomanagement, Dokumentation und Aufsicht gelten gleichermaßen. So wird das Modellrisikomanagement zu einer allgemeinen Anforderung der KI-Governance statt zu einer Bankenspezialität, und Organisationen mit einer reifen Funktion haben bei der Compliance einen Vorsprung.

Häufige Fragen

Was sind die drei Säulen des Modellrisikomanagements? Die drei Säulen stammen aus SR 11-7: Entwicklung und Implementierung, Validierung sowie Governance. Entwicklung umfasst solides Design, dokumentierte Annahmen und Tests. Validierung ist die unabhängige, wirksame Überprüfung der konzeptionellen Solidität, des Monitorings und der Ergebnisse eines Modells. Governance liefert die Richtlinien, Rollen, das Inventar und die Verantwortlichkeit, die das Programm zusammenhalten. SR 26-2 behält diese Logik bei, macht aber die Intensität jeder Säule von der Wesentlichkeit abhängig. Was unterscheidet SR 11-7 von SR 26-2? SR 11-7 (2011) war die grundlegende US-Leitlinie zum Modellrisikomanagement. SR 26-2, am 17. April 2026 von der Federal Reserve, dem OCC und der FDIC veröffentlicht, löst sie ab. Die größten Änderungen sind der Wechsel von der verpflichtenden jährlichen Revalidierung zu einer an der Wesentlichkeit ausgerichteten Überwachung, eine engere Definition dessen, was als Modell zählt, und an die Institutsgröße angepasste Erwartungen. SR 26-2 schließt zudem generative und agentische KI aus seinem formalen Geltungsbereich aus. Gilt Modellrisikomanagement für generative KI? Über die US-Bankenaufsicht noch nicht, und genau das ist die zu beobachtende Lücke. SR 26-2 lässt generative und agentische KI außen vor. In der Praxis dehnen Organisationen die Grundsätze der Disziplin über die KI-Verordnung, das NIST AI RMF und die ISO/IEC 42001 auf diese Systeme aus, die KI-Modelle unmittelbar adressieren. Generative Systeme brauchen zudem Kontrollen gegen Nichtdeterminismus, Drift, Undurchsichtigkeit und promptbasierte Angriffe, die die klassische Validierung nie vorsah. Was ist ein Beispiel für Modellrisiko? Ein klassisches Beispiel ist ein Kredit-Scoring-Modell, das auf Daten einer stabilen Wirtschaft trainiert wurde und weiter Kredite bewilligt, während sich die Lage verschlechtert, weil seine Annahmen nicht mehr gelten. Ein modernes Beispiel ist ein generatives Modell, das eine selbstsichere, aber erfundene Antwort erzeugt, eine Halluzination, die ein nachgelagerter Prozess als Tatsache behandelt. In beiden Fällen entsteht der Verlust nicht daraus, dass das Modell existiert, sondern aus einer Entscheidung auf Basis einer fehlerhaften Ausgabe. Wie hängt Modellrisikomanagement mit der KI-Verordnung zusammen? Die KI-Verordnung macht zentrale MRM-Praktiken für Hochrisikosysteme zu rechtlichen Pflichten. Artikel 9 verlangt ein Risikomanagementsystem über den Lebenszyklus, Artikel 10 eine Daten-Governance, Anhang IV technische Dokumentation, Artikel 14 menschliche Aufsicht und Artikel 15 Genauigkeit und Robustheit, alles bestätigt durch die Konformitätsbewertung nach Artikel 43. Eine Organisation mit einer funktionierenden MRM-Funktion führt die meisten dieser Tätigkeiten bereits aus und kann sie der Verordnung zuordnen, statt neu zu beginnen. Wer ist für das Modellrisikomanagement verantwortlich? Die Verantwortung verteilt sich auf drei Verteidigungslinien. Modelleigentümer und Entwickler bauen und dokumentieren. Eine unabhängige Validierungs- oder Risikofunktion hinterfragt und genehmigt. Die interne Revision prüft, dass der Gesamtprozess funktioniert. Geschäftsleitung und Aufsichtsrat verantworten den Risikoappetit und das Rahmenwerk selbst. Für KI-Modelle braucht diese Struktur meist auch den Beitrag der Daten-, Sicherheits- und Ethikfunktionen, weil ein einziges System alle drei Belange berühren kann.

Fazit

Das Modellrisikomanagement hat sich von einer stabilen Bankenspezialität zum Bindegewebe zwischen der Disziplin quantitativer Modelle und der KI-Governance gewandelt. SR 26-2 hat die US-Erwartung modernisiert, doch indem es generative und agentische KI ausklammert, hat es eines klargestellt: Nun tragen die Rahmenwerke, die KI-Modelle regeln, die KI-Verordnung, die ISO/IEC 42001 und das NIST AI RMF, die Last. Die Gewinner werden sie als ein einziges Kontrollset behandeln, verankert in einem lebendigen Inventar, das jedes Modell sieht, auch die, die niemand angemeldet hat. Dort werden Modellrisikomanagement und KI-Governance zu einem einzigen Programm. Sehen Sie, wie ein registergestützter Ansatz Ihre Modelle unter die Kontrolle der KI-Governance bringt.