Höhere Risikobereitschaft bei KI: Grenzen, Schwellen, Nachweise

Auf einen Blick

• Eine höhere Risikobereitschaft ist eine bewusste Entscheidung, mehr Unsicherheit hinzunehmen, um KI schneller einzusetzen. Sie ist eine dokumentierte Wahl und keine Konformitätshaltung, die man behauptet.
• Risikobereitschaft liegt innerhalb der Risikokapazität: Kapazität bezeichnet, was eine Organisation verkraften könnte, Risikobereitschaft das, was sie zu tragen beschließt.
• Die KI-Verordnung setzt Untergrenzen, die keine Erklärung zur Risikobereitschaft unterläuft: Artikel 5 verbietet bestimmte Praktiken vollständig, Artikel 9 verlangt, dass das Restrisiko als vertretbar beurteilt wird.
• ISO/IEC 42001 und das NIST AI Risk Management Framework verlagern die Akzeptanzentscheidung zurück in die Organisation, schriftlich und mit namentlich benanntem Verantwortlichen.
• Wirksam wird Risikobereitschaft erst, wenn sie in gemessene Schwellenwerte, Freigabepunkte im Lebenszyklus und prüfbare Nachweise übersetzt wird.

Was höhere Risikobereitschaft tatsächlich bedeutet

Risikobereitschaft bezeichnet Umfang und Art des Risikos, das eine Organisation anzustreben oder zu behalten bereit ist. Diese Formulierung stammt aus dem genormten ISO-Vokabular (ISO Guide 73, neu aufgelegt als ISO 31073:2022), und zwei ihrer Bestandteile tragen das ganze Gewicht: bereit sein, und behalten. Es geht um eine vorab getroffene Entscheidung über eine Exposition, die man bewusst behält statt sie zu beseitigen.

Die präziseste Definition stammt weiterhin vom Financial Stability Board aus dem Jahr 2013. Dort ist von ‚the aggregate level and types of risk a financial institution is willing to assume within its risk capacity to achieve its strategic objectives and business plan‘ die Rede. Streicht man den bankaufsichtlichen Rahmen, bleibt die Struktur für jede Organisation tragfähig, die KI einsetzt: ein aggregiertes Niveau, benannte Risikoarten, eine Grenze durch die Kapazität, eine Rechtfertigung durch das Ziel. In Deutschland kennt man denselben Aufbau aus den MaRisk der BaFin, die einen dokumentierten Risikoappetit als Bestandteil der Gesamtrisikosteuerung voraussetzen.

Eine höhere Risikobereitschaft zu erklären bedeutet damit etwas Engeres, als es zunächst klingt. Es bedeutet, dass ein größeres Volumen einer definierten Exposition akzeptiert wurde, zur Verfolgung eines ausgesprochenen Ziels, und dass sich sagen lässt, wo die Grenze nun verläuft. Es bedeutet weder Nachsicht gegenüber Überraschungen noch geringeren Dokumentationsaufwand. Innerhalb eines Programms zur KI-Governance zahlt sich eine höhere Risikobereitschaft üblicherweise in kürzeren Freigabewegen für Systeme niedriger Kritikalität aus, in einem größeren Erprobungsspielraum oder in der Bereitschaft, mit einer offengelegten, bekannten Einschränkung in den Betrieb zu gehen.

Risikobereitschaft, Toleranz, Kapazität und Limite

Diese vier Begriffe werden in den meisten Gremien synonym verwendet. Sie sind es nicht.

• Die Risikokapazität ist die Obergrenze. Das Financial Stability Board beschreibt sie als ‚the maximum level of risk the financial institution can assume given its current level of resources before breaching constraints‘. Kapazität wählt man nicht, man stellt sie fest.
• Die Risikobereitschaft ist das Niveau, auf dem man unterhalb dieser Obergrenze arbeiten will.
• Die Risikotoleranz bezeichnet die zulässige Abweichung um ein konkretes Ziel. Das NIST beschreibt sie als ‚readiness to bear the risk in order to achieve its objectives‘.
• Risikolimite sind die Arithmetik. Das Financial Stability Board versteht darunter ‚quantitative measures based on forward looking assumptions that allocate the … aggregate risk appetite statement … to business lines, legal entities as relevant, specific risk categories, concentrations‘.

Risikobereitschaft ohne Limite bleibt Stimmung. Limite ohne erklärte Risikobereitschaft sind willkürlich. Erst das Zusammenspiel macht eine Entscheidung achtzehn Monate später verteidigungsfähig, wenn jemand fragt, warum dieses Modell freigegeben wurde.

Warum KI die klassische Risikoerklärung sprengt

Erklärungen zur Risikobereitschaft wurden für Expositionen entworfen, die sich in Geld ausdrücken lassen. Kreditausfälle, operationelle Vorfälle, Kapitalquoten: alles läuft auf eine Zahl hinaus, und eine Zahl lässt sich begrenzen. KI widersetzt sich dieser Reduktion auf vier konkrete Weisen.

Die Schäden sind nicht in Euro denominiert. Ein Vorauswahlsystem für Bewerbungen, das eine geschützte Gruppe aussortiert, erzeugt eine Diskriminierung und keine Verlustposition. Eine vertretbare Menge rechtswidriger Diskriminierung lässt sich nicht formulieren, weil diese Menge null ist. Dasselbe gilt für Sicherheitsschäden im medizinischen oder industriellen Umfeld. Wo KI-Bias das Fehlerbild ist, verliert die Sprache der Risikobereitschaft ihren Nutzen und die Sprache der Kontrollen übernimmt. Der BfDI und die Datenschutzaufsichtsbehörden der Länder haben durchgehend betont, dass Grundrechtseingriffe nicht gegen Leistungsgewinne aufgerechnet werden.

Das Verhalten driftet nach der Entscheidung. Eine klassische Erklärung wird jährlich überprüft, weil sich die zugrunde liegende Exposition langsam bewegt. Modellleistung folgt jedoch den Daten. Ein System, das im März innerhalb der Risikobereitschaft lag, kann im September darüber liegen, ohne dass eine einzige Codezeile geändert wurde.

Opazität begrenzt das Begrenzbare. Auf eine Eigenschaft, die nicht gemessen wird, lässt sich kein Schwellenwert setzen. Für viele produktive Systeme lautet die ehrliche Antwort, dass Erklärungsqualität, Robustheit bei Verteilungsverschiebung und Fehlermodi nur teilweise beobachtbar sind, was jede zu genaue Zahl zur Risikobereitschaft zu einer Scheinsicherheit macht.

Häufig erbt man die Risikobereitschaft anderer. Wird das Modell eingekauft statt gebaut, sind die Abwägungen aus dem Vortraining nicht die eigenen. Wer KI mit allgemeinem Verwendungszweck einsetzt, übernimmt das Urteil eines vorgelagerten Anbieters darüber, welches Verhalten vertretbar ist, bei begrenzter Einsicht in dessen Zustandekommen.

Das Institute of Internal Auditors benennt die organisatorische Fassung dieses Problems in seinem KI-Prüfungsrahmen unmissverständlich: ‚Having a higher risk appetite in pursuit of AI goals may not be appropriate for an organization that is risk averse in other aspects, whereas organizations with historically high-risk tolerance may be more willing to accept AI-related risks. Regardless of an organization’s risk tolerance, it is essential to recognize and map AI risks during AI strategic planning.‘ Der letzte Satz ist der operative: Risikobereitschaft hebt die Pflicht nie auf, das Akzeptierte zu identifizieren.

Die Untergrenzen, die keine Risikobereitschaft überschreitet

Dies ist der Teil, der in nahezu jedem Beitrag zum Thema fehlt, und er entscheidet, ob eine Erklärung Bestand hat. Bei KI ist Risikobereitschaft keine über ihren gesamten Bereich freie Variable: Das Recht kappt sie nach unten.

Artikel 5 der KI-Verordnung formuliert ein Verbot, kein Risiko. Die Verordnung listet Praktiken auf, die weder in Verkehr gebracht noch verwendet werden dürfen, darunter Social Scoring durch Behörden, das ungezielte Auslesen von Gesichtsbildern zum Aufbau von Erkennungsdatenbanken, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen sowie bestimmte prädiktive Polizeiarbeit, die allein auf Profiling beruht. Diese Vorschriften gelten seit dem 2. Februar 2025. Eine verbotene Praktik ist keine Exposition, die man gegen einen Nutzen abwägt, sondern eine Tätigkeit, die man einstellt. Artikel 99 Absatz 3 bepreist den Fehler mit bis zu 35 000 000 EUR oder 7 Prozent des gesamten weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist.

Artikel 9 legt den Akzeptanztest für Hochrisikosysteme fest. Für diese Klasse verlangt die Verordnung, dass ‚das verbleibende Restrisiko im Zusammenhang mit jeder einzelnen Gefahr sowie das Gesamtrestrisiko der Hochrisiko-KI-Systeme als vertretbar beurteilt wird‘. Beachten Sie, was dieser Satz leistet: Er sagt nicht, wo das Vertretbare liegt, das Urteil bleibt also bei Ihnen, aber er macht das Urteil verpflichtend, ausdrücklich und zurechenbar.

Artikel 9 Absatz 5 gibt zudem eine Reihenfolge vor, die keine Risikobereitschaft umstellen darf: Risiken durch Konzeption und Entwicklung beseitigen oder verringern, soweit technisch durchführbar, dann Minderungs- und Kontrollmaßnahmen für das Verbleibende, dann Information und Schulung der Betreiber. Dokumentation ist die letzte Verteidigungslinie und kein Ersatz für die ersten beiden. Niemand kann eine weitere Risikobereitschaft erklären und direkt zur Offenlegung springen.

Die Entscheidung verfällt auch nicht stillschweigend. Artikel 9 Absatz 2 beschreibt das Risikomanagementsystem als ‚einen kontinuierlichen iterativen Prozess, der über den gesamten Lebenszyklus eines Hochrisiko-KI-Systems geplant und durchgeführt wird und eine regelmäßige systematische Überprüfung und Aktualisierung erfordert‘. Die Einzelheiten dieser Pflichten behandelt unser Praxisleitfaden zur KI-Verordnung.

Wo eine erweiterte Risikobereitschaft berechtigt greift

Nichts davon entwertet den Begriff, es verschiebt ihn. Der tatsächliche Spielraum liegt bei Systemen mit begrenztem und minimalem Risiko sowie in den betrieblichen Entscheidungen um sie herum: wie schnell ein Anwendungsfall die Prüfung durchläuft, wie viel interne Erprobung ohne formale Bewertung stattfindet, wie viele parallele Pilotprojekte die zweite Linie trägt, welche Restunschärfe man bei einem internen Zusammenfassungswerkzeug hinnimmt, aus dem niemand eine Entscheidung ableitet. Dort wird eine höhere Risikobereitschaft zu Geschwindigkeit, und dort ist der Tausch ehrlich.

Was die Normen zwingend dokumentiert verlangen

Beide maßgeblichen KI-Rahmenwerke weigern sich, Ihre Risikobereitschaft für Sie festzulegen, und beide verlangen, dass Sie die gewählte festhalten.

Das NIST AI Risk Management Framework ist darin ungewöhnlich direkt. Abschnitt 1.2.2 stellt fest: ‚While the AI RMF can be used to prioritize risk, it does not prescribe risk tolerance.‘ Die Begründung folgt unmittelbar: ‚Risk tolerance and the level of risk that is acceptable to organizations or society are highly contextual and application and use-case specific.‘ Ergänzend heißt es, Toleranz ‚can be influenced by legal or regulatory requirements‘, also genau die oben beschriebene Kappung. Den Kreis schließt eine Anweisung: ‚Where established guidelines do not exist, organizations should define reasonable risk tolerance.‘ Eine neutrale Option existiert somit nicht. Auf eine Festlegung zu verzichten ist selbst eine Position, und unter Prüfung eine schwache.

Die Unterkategorie GOVERN 1.3 desselben Rahmens verlangt anschließend die Mechanik: Verfahren zur Wirkungsbewertung, Bewertungsskalen für mögliche Auswirkungen, ein Messkonzept, das Wirkung und Eintrittswahrscheinlichkeit verbindet, einheitliche Risikoskalen über das gesamte KI-Portfolio und die ausdrückliche Anerkennung, dass sich Toleranz über den Lebenszyklus verändert.

ISO/IEC 42001 nähert sich der Frage von der Managementsystemseite. Abschnitt 6.1.2 verlangt, dokumentierte KI-Risikokriterien festzulegen und aufrechtzuerhalten, bevor Bewertungen durchgeführt werden, einschließlich der Kriterien für die Risikoakzeptanz. Die Reihenfolge ist der Punkt: Kriterien zuerst, Bewertung danach, damit Ergebnisse zwischen Systemen vergleichbar und über die Zeit reproduzierbar bleiben. Abschnitt 6.1.3 verlangt dann einen dokumentierten Behandlungsprozess und, entscheidend, die Genehmigung des Restrisikos durch die Risikoeigentümer. Jemand unterschreibt. Zum Zusammenspiel mit der Verordnung siehe unsere Aufschlüsselung des Normenstapels aus ISO 42001 und KI-Verordnung.

Gemeinsam gelesen laufen die drei Quellen auf dieselbe Forderung zu: Kriterien festhalten, einheitlich anwenden, das Verbleibende von einem benannten Verantwortlichen akzeptieren lassen und erneut prüfen.

Risikobereitschaft je System festlegen, nicht je Unternehmen

Eine einzige unternehmensweite Erklärung kann nicht gleichzeitig ein Kreditentscheidungsmodell und ein internes Werkzeug für Besprechungsprotokolle abdecken. Der Versuch erzeugt eine Erklärung, die so allgemein ist, dass sie nichts mehr begrenzt, und genau das ist der häufigste Fehler in KI-Governance-Programmen.

Tragfähig ist eine kleine Zahl von Bandbreiten, je System zugewiesen, bestimmt zuerst durch die regulatorische Klasse und dann durch die Exposition des konkreten Anwendungsfalls.

Systemstufe	Bandbreite	Was eine höhere Risikobereitschaft erlaubt	Was sie nie erlaubt
Verbotene Praktik (Art. 5)	Keine	Nichts, die Tätigkeit wird nicht fortgesetzt	Jeden Einsatz, bei jeder Bereitschaft
Hochrisiko (Anhang III oder Produktsicherheit)	Eng, ausdrücklich begründet	Wahl des Minderungswegs, gestufte Einführung, offengelegte Restbeschränkungen	Überspringen der Reihenfolge nach Art. 9 Abs. 5, ungenehmigtes Restrisiko, undokumentierte Akzeptanz
Begrenztes Risiko (Transparenzpflichten)	Mittel	Schnellere Prüfzyklen, breitere Pilotprojekte, geringere Überwachungsfrequenz	Das Weglassen der Transparenzpflicht selbst
Minimales Risiko, interne Werkzeuge	Weit	Selbstbedienung, minimale Bewertung, schnelle Außerbetriebnahme	Nicht gemeldete Nutzung, stilles Abgleiten in einen Entscheidungspfad

Zwei Hinweise zum Betrieb dieser Tabelle. Erstens ist die Stufe eine Eigenschaft des Anwendungsfalls und nicht des Modells, dasselbe Basismodell kann also im selben Unternehmen in zwei Bandbreiten auftauchen. Zweitens funktioniert die Tabelle nur über einem vollständigen Bestandsverzeichnis. Systeme, die niemand gemeldet hat, liegen definitionsgemäß außerhalb jeder Bandbreite, weshalb Schatten-KI ein solches Rahmenwerk lautlos zerlegt: Ein Risiko, von dem man nichts weiß, kann man nicht akzeptiert haben.

Risikobereitschaft in Schwellenwerte und Kontrollen übersetzen

Eine Bandbreite ist eine Absichtserklärung. Durchsetzbar wird sie durch eine Kette aus vier Gliedern, von denen jedes ein Artefakt hervorbringt.

1. Von der Bandbreite zur Messgröße. Wählen Sie die Kennzahl, die die Exposition dieses Systems ausdrückt: Unterschied der Auswahlquoten zwischen Gruppen, Falsch-negativ-Rate in einer sicherheitskritischen Klasse, Rate sachlich falscher Aussagen auf einem gezogenen Bewertungsdatensatz, Eskalationsquote an einen menschlichen Prüfer.
2. Von der Messgröße zum Schwellenwert. Setzen Sie die Zahl, und setzen Sie zwei davon: einen Betriebszielwert und eine Verletzungsgrenze, die eine Handlung auslöst. Ein einzelner Wert liefert keine Frühwarnung.
3. Vom Schwellenwert zum Freigabepunkt. Binden Sie den Schwellenwert an einen Entscheidungspunkt im Lebenszyklus, damit er tatsächlich etwas anhalten kann: Freigabe vor Inbetriebnahme, ein Release-Gate, eine periodische Neubestätigung. Ein Schwellenwert, den an keinem Freigabepunkt jemand prüft, ist Dokumentation und keine Kontrolle.
4. Vom Freigabepunkt zum Nachweis. Halten Sie Messung, Vergleich, Entscheidung und Genehmigenden fest. Genau das verlangt ein KI-Audit, und es ist der einzige dauerhafte Beleg, dass die Risikobereitschaft eingehalten und nicht nur behauptet wurde.

Zwei Mechanismen vervollständigen den Aufbau. Der erste ist ein Abweichungspfad: ein definierter, ausreichend hoch angesiedelter Genehmigungsweg für den Betrieb außerhalb eines Schwellenwerts, versehen mit einem Verfallsdatum. Die Grundsätze des Financial Stability Board setzen über die Zuteilung von Risikolimiten dieselbe Struktur voraus. Ohne legitimen Ausnahmeweg umgehen Teams das Rahmenwerk einfach.

Der zweite ist die Taktung. Da Artikel 9 Absatz 2 Risikomanagement als kontinuierlich behandelt, brauchen Schwellenwerte einen Prüfrhythmus, der sich am Systemverhalten und nicht am Prüfungskalender orientiert. Wo die Kontrolle ein Mensch und keine Kennzahl ist, verschiebt sich die Entwurfsfrage zur Tiefe der Aufsicht, die wir unter menschliche Aufsicht in der Schleife oder über der Schleife behandeln. Wird eine Schwellenwertüberschreitung zu einem meldepflichtigen Ereignis, greifen die Pflichten zur Meldung von KI-Vorfällen nach Artikel 73.

Praxisbeispiel: von der Bandbreite zum Nachweis

Eine Bank nimmt einen kundenseitigen Chatbot in Betrieb, der Produktfragen beantwortet, aber keine Entscheidungen trifft. Der Anwendungsfall fällt unter begrenztes Risiko, Transparenzpflichten gelten, und der Vorstand hat eine mittlere Bandbreite genehmigt, um das Werkzeug innerhalb eines Quartals verfügbar zu machen.

1. Gewählte Kennzahl: Anteil sachlich falscher Produktaussagen in einer gezogenen Bewertung von 500 Fragen, wöchentlich ausgeführt.
2. Gesetzte Schwellenwerte: Betrieb unter 1 Prozent, Verletzung bei 3 Prozent.
3. Gebundene Freigabepunkte: Release oberhalb von 1 Prozent zum Start gesperrt. Eine wöchentliche Bewertung oberhalb von 3 Prozent löst innerhalb eines Werktags den automatischen Rückfall auf ein Skript aus.
4. Erzeugte Nachweise: die wöchentliche Bewertungsdatei, der Schwellenwertvergleich, das Rückfallprotokoll und die Freigabe des Produktverantwortlichen zum Restrisiko beim Start.

Die Entscheidung ist damit prüfbar. Eine Person außerhalb des Teams kann vier Artefakte ansehen und sagen, ob die Organisation getan hat, was sie angekündigt hatte.

Wem die Entscheidung gehört

Risikobereitschaft scheitert häufiger als Zuständigkeitsproblem denn als Methodenproblem.

Der Vorstand oder das gleichwertige Leitungsorgan legt sie fest, weil die Annahme von Risiko im Namen der Organisation ein Governance-Akt ist und nicht an das Team delegiert werden kann, das von der Annahme profitiert. Die Grundsätze des Financial Stability Board weisen Vorstand, Geschäftsführung und Risikovorstand genau deshalb getrennte Pflichten zu.

Das Management, erste und zweite Linie, kalibriert. Das bedeutet, die Bandbreite in Schwellenwerte zu übersetzen, die Bewertungen durchzuführen und die Freigabepunkte zu betreiben. Der Rahmen des Institute of Internal Auditors verteilt dies über sein Drei-Linien-Modell, wobei die zweite Linie dafür einsteht, ob die Kontrollen sachgerecht entworfen wurden und wirksam arbeiten.

Die Interne Revision prüft das Ergebnis. Nicht, ob die Risikobereitschaft richtig gewählt war, das ist eine Geschäftsentscheidung, sondern ob die erklärte Bereitschaft zur tatsächlich getragenen Exposition passt und ob die Nachweise die dokumentierten Akzeptanzen stützen. Diese Lücke zwischen erklärter Bereitschaft und Betriebswirklichkeit ist die Feststellung, auf die es ankommt.

Eine praktische Warnung zum Schluss: Wenn niemand die Person benennen kann, die das Restrisiko Ihrer drei folgenreichsten KI-Systeme akzeptiert hat, haben Sie kein Rahmenwerk zur Risikobereitschaft. Sie haben ein Dokument.

Häufige Fragen

Was bedeutet eine höhere Risikobereitschaft? Sie bedeutet, dass die Organisation beschlossen hat, ein größeres Volumen einer definierten Risikoart zur Verfolgung eines Ziels zu akzeptieren, und ihre erklärte Grenze entsprechend verschoben hat. Bei KI kauft das in der Regel Geschwindigkeit: kürzere Freigaben, breitere Pilotprojekte oder eine Inbetriebnahme mit offengelegter Einschränkung. Sie bedeutet nicht weniger Aufzeichnungen und erstreckt sich nicht auf Expositionen, die das Recht ausschließt.

Ist eine hohe Risikobereitschaft gut? Für sich betrachtet ist sie weder gut noch schlecht. Angemessen ist sie, wenn sie bewusst gewählt, begrenzt, auf die Kapazität abgestimmt und mit dem Verhalten in anderen Bereichen des Hauses vereinbar ist. Das Institute of Internal Auditors merkt an, dass eine höhere Bereitschaft bei KI schlecht zu einer ansonsten risikoscheuen Organisation passen kann. Der Fehler ist nicht eine hohe Bereitschaft, sondern eine unerklärte.

Worin unterscheiden sich Risikobereitschaft und Risikotoleranz? Bereitschaft bezeichnet Niveau und Arten des Risikos, die man über ein Portfolio oder ein Ziel hinweg zu tragen bereit ist. Toleranz bezeichnet die zulässige Abweichung um ein konkretes Ziel oder eine Kennzahl, arbeitet also eine Ebene tiefer und wird meist als Bereich oder Schwellenwert ausgedrückt. Kapazität ist noch etwas anderes: das Maximum, das vor dem Bruch harter Randbedingungen absorbierbar ist, und das man misst statt es zu wählen.

Welche Stufen der Risikobereitschaft gibt es? Die meisten Rahmenwerke arbeiten mit drei oder vier Bandbreiten, oft bezeichnet als risikoscheu, vorsichtig oder konservativ, mittel und offensiv oder offen. Die Bezeichnungen zählen weit weniger als das, was jede Bandbreite erlaubt. Für KI-Systeme ist es sinnvoller, Bandbreiten an Systemstufen zu binden, sodass ein Hochrisikosystem eine enge, ausdrücklich begründete Bandbreite trägt, während interne Werkzeuge mit minimalem Risiko eine weite tragen.

Verlangt die KI-Verordnung eine Erklärung zur Risikobereitschaft? Nicht unter diesem Namen. Artikel 9 verlangt für Hochrisikosysteme ein Risikomanagementsystem über den Lebenszyklus, in dem das Restrisiko je Gefahr und insgesamt als vertretbar beurteilt wird. Dieses Urteil über ein Portfolio hinweg einheitlich zu fällen ist ohne dokumentierte Akzeptanzkriterien unmöglich, und genau diese verlangt Abschnitt 6.1.2 von ISO/IEC 42001 unmittelbar. In der Praxis entsteht aus beiden Pflichten etwas, das wie eine Erklärung zur Risikobereitschaft wirkt.

Wie oft sollte die Risikobereitschaft bei KI überprüft werden? Die Bandbreite selbst kann dem jährlichen Governance-Zyklus folgen. Die darunterliegenden Schwellenwerte nicht, weil sich Modellverhalten zwischen zwei Prüfungen ändert. Binden Sie deren Überprüfung an Systemnachweise: eine festgelegte Bewertungsfrequenz, jede wesentliche Änderung an Daten oder Modellversion, jede Schwellenwertüberschreitung und jede Änderung der regulatorischen Einstufung. Das NIST hält dasselbe fest und weist darauf hin, dass Toleranz und Risikoniveaus sich über den Lebenszyklus eines KI-Systems verändern können.

Fazit

Eine höhere Risikobereitschaft ist eine legitime strategische Position, und KI-Programme, die keine erklären, treffen dieselben Entscheidungen ohnehin, nur ohne Aufzeichnung. Was eine verteidigungsfähige Bereitschaft von einer Parole trennt, ist die Kette dahinter: eine benannte Bandbreite je System, eine Kennzahl, zwei Schwellenwerte, ein Freigabepunkt, der etwas anhalten kann, und ein Genehmigender, dessen Name auf dem Restrisiko steht. KI-Verordnung, ISO/IEC 42001 und das NIST AI Risk Management Framework laufen von verschiedenen Seiten auf dieselbe Kette zu. Sie einmal aufzubauen, an einem Ort, an dem sich Nachweise ansammeln statt zu zerstreuen, ist der Unterschied zwischen Governance, die man beweisen kann, und Governance, die man nur beschreiben kann. Unser Vergleich von KI-Governance-Plattform und umgebendem Werkzeugstapel zeigt, wo diese Aufzeichnung leben sollte.