Auf einen Blick
- Ein KI-Vorfall ist jedes Ereignis, bei dem die Entwicklung, der Einsatz oder das Versagen eines KI-Systems direkt oder indirekt zu einem realen Schaden führt. Der Begriff reicht weiter als ein Softwarefehler und weiter als ein Arbeitsunfall.
- Nach Artikel 73 der KI-Verordnung müssen Anbieter von Hochrisiko-KI-Systemen schwerwiegende Vorfälle den Marktüberwachungsbehörden melden. Die Pflicht gilt ab dem 2. August 2026.
- Die Fristen sind kurz und gestaffelt: 2 Tage bei einer weitreichenden Verletzung oder einer schweren Störung kritischer Infrastruktur, 10 Tage im Todesfall, 15 Tage bei sonstigen schwerwiegenden Vorfällen.
- Den schwerwiegenden Vorfall definiert Artikel 3 Nummer 49: Tod oder schwere Gesundheitsschädigung, schwere und irreversible Störung kritischer Infrastruktur, Verletzung grundrechtsschützender Pflichten oder schwerer Sach- oder Umweltschaden.
- Die KI-Vorfallmeldung trägt nur, wenn sie auf einem wiederholbaren internen Prozess ruht: erkennen, einordnen, Meldepflicht prüfen, fristgerecht melden, dann untersuchen und abstellen.
Was ist Vorfallmeldung, und was unterscheidet einen KI-Vorfall
Vorfallmeldung bedeutet, ein unerwartetes Ereignis zu dokumentieren, um zu verstehen, was geschehen ist, den Schaden einzugrenzen und eine Wiederholung zu verhindern. In Arbeitssicherheit, Gesundheitswesen und IT-Betrieb ist die Praxis eingespielt: Ein Beinahe-Unfall, eine Verletzung oder ein Systemausfall wird auf einem standardisierten Formular erfasst, und der Eintrag speist Untersuchung und Korrekturmaßnahme. KI verschiebt das Problem, und genau hier löst sich die KI-Vorfallmeldung von ihrer allgemeinen Variante. Der Schaden eines KI-Systems entsteht häufig mittelbar. Das Modell stößt niemanden um und verschüttet nichts; es erzeugt eine Ausgabe, auf die ein Mensch oder ein anderes System reagiert, und der Schaden zeigt sich nachgelagert. Ein falscher Triage-Vorschlag in der Medizin, eine verzerrte Kreditablehnung oder ein Versagen der Inhaltsmoderation kann erheblichen Schaden anrichten, ohne dass eine sichtbare Störung vorliegt. Die Kette von Ursache zu Folge ist lang, statistisch und schwer zuzurechnen. Deshalb haben Regulierer und Normungsgremien KI-spezifische Definitionen geschaffen. Die OECD legt in ihrem Bericht von 2024 Defining AI Incidents and Related Terms die Referenztaxonomie fest: Ein KI-Vorfall ist ein Ereignis, bei dem Entwicklung, Nutzung oder Versagen eines KI-Systems direkt oder indirekt zu Schaden führt, etwa Verletzung von Personen, Störung kritischer Infrastruktur, Menschenrechtsverletzung oder Sach- und Umweltschaden. Die OECD trennt die KI-Gefahr, einen Umstand, der plausibel zu einem Vorfall führen könnte, vom KI-Vorfall, bei dem der Schaden tatsächlich eintritt, und ergänzt die KI-Katastrophe als schwerwiegenden Vorfall, der ein Gemeinwesen erschüttert. Diese Unterscheidungen bestimmen, was eine Organisation beobachten, festhalten und mitunter melden muss. Sie prägen auch, wie AI Sigil an das KI-Risikomanagement herangeht.
Die Pflicht der KI-Verordnung: Meldung schwerwiegender Vorfälle nach Artikel 73
Wer auf dem Unionsmarkt tätig ist oder dorthin verkauft, für den wird aus guter Praxis eine Rechtspflicht. Der Mechanismus ist Artikel 73 der KI-Verordnung, das Rückgrat jedes Programms zur Einhaltung der KI-Verordnung für Hochrisikosysteme.
Wer meldet, und an wen
Der Wortlaut ist eindeutig: Anbieter von Hochrisiko-KI-Systemen, die auf dem Unionsmarkt in Verkehr gebracht werden, melden jeden schwerwiegenden Vorfall den Marktüberwachungsbehörden des Mitgliedstaats, in dem der Vorfall eingetreten ist (KI-Verordnung, Artikel 73). Der Betreiber bleibt nicht außen vor: Erlangt er Kenntnis von einem schwerwiegenden Vorfall, führt die Pflicht dazu, den Anbieter und in den vorgesehenen Fällen die Behörde zu unterrichten. In Deutschland übernimmt die Bundesnetzagentur die zentrale Marktüberwachung, während BSI und BfDI für Sicherheit und Datenschutz eine tragende Rolle spielen.
Was als schwerwiegender Vorfall zählt
Auslöser ist die Definition in Artikel 3 Nummer 49. Ein schwerwiegender Vorfall ist ein Vorfall oder eine Fehlfunktion, die direkt oder indirekt eine von vier Folgen auslöst: den Tod oder eine schwere Gesundheitsschädigung einer Person; eine schwere und irreversible Störung der Verwaltung oder des Betriebs kritischer Infrastruktur; eine Verletzung der nach Unionsrecht zum Schutz der Grundrechte bestehenden Pflichten; oder einen schweren Sach- oder Umweltschaden. Trifft keine der vier Folgen zu, kann das Ereignis intern dokumentationswürdig sein, ist aber kein meldepflichtiger schwerwiegender Vorfall.
Die Meldefristen
Artikel 73 setzt eine gestaffelte Uhr, und sie läuft schnell.
- 2 Tage: eine weitreichende Verletzung oder eine schwere und irreversible Störung kritischer Infrastruktur.
- 10 Tage: der Tod einer Person.
- 15 Tage: alle sonstigen schwerwiegenden Vorfälle.
Die Grundregel verbindet alles: Der Anbieter meldet unmittelbar, nachdem er einen ursächlichen Zusammenhang oder die hinreichende Wahrscheinlichkeit eines solchen zwischen dem KI-System und dem Vorfall festgestellt hat, und in jedem Fall spätestens 15 Tage nach Kenntnisnahme. Weil die Fenster eng sind, erlaubt die Verordnung eine unvollständige Erstmeldung, gefolgt von einer vollständigen Meldung, sobald die Fakten klarer sind.
Nach der Meldung
Mit der Meldung ist es nicht getan. Nach einem schwerwiegenden Vorfall führt der Anbieter unverzüglich die erforderlichen Untersuchungen durch, einschließlich einer Risikobewertung des Vorfalls, und ergreift Korrekturmaßnahmen. Die Marktüberwachungsbehörde hat dann sieben Tage Zeit, geeignete Maßnahmen zu treffen.
Wann die Uhr beginnt, und die Kommissionsleitlinien vom September 2025
Die schwierigste Betriebsfrage ist, wann die Frist beginnt. Die Pflicht knüpft an Kenntnis und Kausalzusammenhang an: Die Frist läuft ab dem Moment, in dem der Anbieter einen Zusammenhang zwischen KI-System und Schaden feststellt oder vernünftigerweise feststellen könnte. Im September 2025 veröffentlichte die Europäische Kommission einen Entwurf von Leitlinien und ein Meldeformular, um die Umsetzung praktikabel zu machen. Der Entwurf, herausgegeben am 26. September 2025 und bis zum 7. November 2025 zur Konsultation gestellt, stellt klar, dass ein mittelbarer Kausalzusammenhang genügt, mit Beispielen wie einer falschen medizinischen Analyse, die später Schaden auslöst, oder einer fehlerhaften KI-Kreditbewertung (Latham & Watkins, 2025). Er behandelt auch die Überschneidung mit sektorspezifischen Regeln: Für Betreiber kritischer Infrastruktur, die bereits nach NIS2 melden, ist nur ein Vorfall mit Grundrechtsbezug gesondert nach Artikel 73 zu melden, während die übrigen dem sektoralen Kanal folgen. Die Pflicht gilt ab dem 2. August 2026, dem Geltungsbeginn der Vorschriften für Hochrisikosysteme. Wer die Prozessgestaltung bis dahin aufschiebt, baut sie unter Zeitdruck während eines laufenden Vorfalls.
Vorfälle bei Allzweck-KI und systemischem Risiko
Hochrisikosysteme sind nicht die einzigen im Anwendungsbereich. Anbieter von Allzweck-KI-Modellen mit systemischem Risiko tragen eigene Pflichten nach Artikel 55: schwerwiegende Vorfälle verfolgen, dokumentieren und dem KI-Büro melden, samt möglichen Korrekturmaßnahmen. Der Verhaltenskodex für Allzweck-KI, dessen Kapitel zu Sicherheit und Gefahrenabwehr im Juli 2025 finalisiert wurde, übersetzt diese Pflicht in konkrete Zusagen: ein Tracking schwerwiegender Vorfälle führen, dem KI-Büro und den nationalen Behörden die relevanten Informationen fristgerecht melden und die Dokumentation für die nachgelagerte Analyse aufbewahren. Für die größten Modellanbieter wird die KI-Vorfallmeldung zur fortlaufenden Überwachungspflicht statt zur gelegentlichen Einreichung. AI Sigil bettet dies in eine einheitliche KI-Governance-Plattform ein, nicht in ein abgetrenntes Silo.
Wo die KI-Vorfallmeldung in die Normen passt: NIST und ISO
Die Regulierung setzt den Boden. Freiwillige Normen liefern das Betriebsmodell. Das KI-Risikomanagement-Rahmenwerk des NIST ordnet die Arbeit in vier Funktionen: Govern, Map, Measure und Manage. Die Vorfallreaktion liegt vor allem in Manage, das eine Überwachung nach dem Einsatz, Mechanismen zur Erfassung und Bearbeitung von Problemen sowie eine dokumentierte Vorfallreaktion, Wiederherstellung und Änderungssteuerung verlangt. Govern ergänzt die Leitlinien und die Rechenschaft, die diese Mechanismen am Leben halten. Die Norm ISO/IEC 42001 für das KI-Managementsystem verankert das Vorfallmanagement in einem zertifizierbaren Plan-Do-Check-Act-Zyklus. Eine Organisation mit einem 42001-Managementsystem unterhält einen definierten Prozess für KI-Vorfälle, verknüpft ihn mit der Risikobehandlung und weist dem Auditor nach, dass sich der Kreis schließt. Für ein Team, das bereits ISO/IEC 27001 betreibt, lässt sich der KI-Vorfallprozess mit dem bestehenden Sicherheitsvorfallprozess verzahnen, statt ihn zu verdoppeln.
Einen internen Prozess für die KI-Vorfallmeldung aufbauen
Eine Meldepflicht taugt nur so viel wie der Prozess dahinter. Ein funktionierender Prozess der KI-Vorfallmeldung hat vier Stufen, jede mit benannter Verantwortung.
Erkennen und annehmen
Die meisten KI-Vorfälle bemerkt zuerst ein Nutzer, eine Support-Kraft oder ein nachgelagertes System, nicht ein Dashboard. Geben Sie jedem Kanal eine einzige Annahmestelle: ein Formular, eine Warteschlange oder eine Hotline, die jeder nutzen kann, ohne vorab über die Meldepflicht zu urteilen. Erfassen Sie das Wesentliche bei Annahme (was geschah, welches System, wann, welcher beobachtete Schaden), damit die fristrelevanten Fakten ab der ersten Minute vorliegen.
Einordnen und Meldepflicht entscheiden
Von dieser Entscheidung hängen die Fristen ab. Prüfen Sie jede Annahme am Test des Artikels 3 Nummer 49: Führte das Ereignis direkt oder indirekt zu Tod oder schwerer Gesundheitsschädigung, Störung kritischer Infrastruktur, Grundrechtsverletzung oder schwerem Sach- oder Umweltschaden? Ein kurzer Entscheidungsbaum, einer benannten Rolle zugeordnet, hält die Einordnung konsistent und nachvollziehbar. Halten Sie die Begründung auch dann fest, wenn die Antwort Nein lautet, denn dieser Eintrag ist die Verteidigung der Organisation, falls die Einschätzung später angefochten wird.
Fristgerecht melden
Ist ein Ereignis als schwerwiegender Vorfall eingestuft, gilt die gestaffelte Uhr. Bestimmen Sie die zuständige Marktüberwachungsbehörde, erstellen Sie die Meldung auf dem Formular der Kommission und reichen Sie sie innerhalb von 2, 10 oder 15 Tagen je nach Kategorie ein. Nutzen Sie die unvollständige Erstmeldung, statt die Frist zu versäumen.
Untersuchen, abstellen und protokollieren
Nach der Einreichung ermitteln Sie die Grundursache, führen die von Artikel 73 verlangte Risikobewertung durch und ergreifen Korrekturmaßnahmen. Protokollieren Sie alles in einem Register, das den Vorfall mit System, Modellversion, betroffenen Nutzern und Abhilfe verknüpft. Externe Datenbanken wie die AI Incident Database (AIID), das AIAAIC-Verzeichnis und der OECD AI Incidents Monitor dienen als Bezugspunkte, um aus Vorfällen der Branche zu lernen, eine Praxis, die das CSET in seiner Kurzstudie vom Januar 2025 untersucht hat.
Wie sich die KI-Vorfallmeldung von anderen Regimen unterscheidet
Ein einziges Ereignis kann mehrere Pflichten zugleich auslösen. Ein Datenabfluss in einem KI-System kann eine Verletzung des Schutzes personenbezogener Daten nach DSGVO sein, mit ihrer 72-Stunden-Meldung an die Aufsichtsbehörde nach Artikel 33, ein schwerwiegender Vorfall nach Artikel 73 und, für ein Finanzunternehmen, eine IKT-Vorfallmeldung nach DORA. NIS2 ergänzt Pflichten für wesentliche und wichtige Einrichtungen, und sektorale Regeln für Medizinprodukte, Luftfahrt oder Finanzdienste kommen hinzu. Die praktische Lehre: Meldepflichten einmal vorab kartieren und eine einzige Annahmestelle bauen, die in die richtigen Regime verzweigt. Ein Team, das die KI-Vorfallmeldung als isolierte Aufgabe der KI-Verordnung behandelt, meldet am Ende dasselbe Ereignis dreimal in drei Formaten unter drei Uhren, oder schlimmer, vergisst eine. Die Pflichtenkarte zu zentralisieren ist genau das, wofür eine KI-Governance-Plattform gebaut ist.
Häufige Fragen
Was ist KI-Vorfallmeldung? Die KI-Vorfallmeldung ist der strukturierte Prozess, Ereignisse zu erkennen, zu dokumentieren und, wo gesetzlich verlangt, den Behörden zu melden, bei denen ein KI-System Schaden verursacht oder dazu beiträgt. Nach der KI-Verordnung ist sie eine Rechtspflicht für Anbieter von Hochrisikosystemen und bestimmten Allzweckmodellen, nicht nur eine interne gute Praxis. Welche Schritte umfasst die Meldung eines KI-Vorfalls? Das Ereignis an einer einzigen Annahmestelle erkennen und festhalten; es an der Definition des schwerwiegenden Vorfalls in Artikel 3 Nummer 49 einordnen; bei Erfüllung die zuständige Marktüberwachungsbehörde innerhalb der geltenden Frist melden; dann Grundursache ermitteln, Risiko bewerten und Korrekturmaßnahmen ergreifen. Halten Sie auf jeder Stufe eine schriftliche Spur, auch die Begründung für nicht gemeldete Ereignisse. Was enthält ein KI-Vorfallbericht? Mindestens: eine Beschreibung des Geschehens, das betroffene KI-System und die Modellversion, den Zeitpunkt der Kenntnisnahme, Art und Schwere des Schadens, betroffene Personen oder Sachen, den vermuteten Kausalzusammenhang sowie ergriffene oder geplante Korrekturmaßnahmen. Das Formular der Kommission zu Artikel 73 strukturiert diese Felder. Was ist ein schwerwiegender Vorfall nach der KI-Verordnung? Artikel 3 Nummer 49 definiert ihn als Vorfall oder Fehlfunktion, die direkt oder indirekt zum Tod oder zu schwerer Gesundheitsschädigung einer Person, zu einer schweren und irreversiblen Störung kritischer Infrastruktur, zu einer Verletzung grundrechtsschützender Pflichten des Unionsrechts oder zu schwerem Sach- oder Umweltschaden führt. Ab wann gilt Artikel 73, und wie schnell ist zu melden? Die Pflicht gilt ab dem 2. August 2026. Die Fristen laufen ab Kenntnis und Feststellbarkeit eines Kausalzusammenhangs: 2 Tage bei weitreichender Verletzung oder schwerer Störung kritischer Infrastruktur, 10 Tage im Todesfall, 15 Tage bei sonstigen schwerwiegenden Vorfällen. Wie unterscheidet sich das von einer Datenschutzverletzungsmeldung? Eine DSGVO-Verletzung betrifft personenbezogene Daten und hat eine 72-Stunden-Frist. Ein schwerwiegender Vorfall nach der KI-Verordnung betrifft den Schaden durch das KI-System selbst, auf der Uhr von 2, 10 oder 15 Tagen. Dasselbe Ereignis kann beide auslösen, dazu sektorale Regime wie NIS2 oder DORA: Die Pflichten sollten gemeinsam kartiert werden.
Fazit
Die KI-Vorfallmeldung wandelt sich von der sicherheitskulturellen Selbstverständlichkeit zur harten Rechtspflicht mit kurzen Fristen und benannter Verantwortung. Gelassen damit umgehen wird, wer jetzt entscheidet, wer die Annahme verantwortet, wie ein schwerwiegender Vorfall eingeordnet wird und welche Behörde in welchem Fenster zu unterrichten ist. Die Aufgabe vor dem 2. August 2026 ist nicht allein juristische Auslegung, sondern der stehende Prozess, der Artikel 73 in beherrschbare Routine übersetzt. AI Sigil hilft Teams in regulierten Branchen, solche Pflichten in lebendige, prüffeste Prozesse innerhalb eines einzigen Governance-Systems zu überführen.