Künstliche Intelligenz und Daten
Das kommende Jahr wird auf die Prüfung hinauslaufen, wie gut Finanzdienstleistungsunternehmen (FS) ihre Ambitionen mit robusten Rahmenbedingungen in der Nutzung von Künstlicher Intelligenz (KI) in Einklang bringen können. Die neuesten Umfragen zeigen, dass das Interesse an KI stark bleibt: 94 % der Unternehmen planen, ihre Investitionen in den nächsten 12 Monaten zu erhöhen, wobei 39 % einen signifikanten Anstieg erwarten.
Die Führungsetagen erkennen zu Recht, dass KI eine mächtige Kraft für Transformation ist. Der Übergang von Experimenten zur Skalierung von KI-Anwendungsfällen in die vollständige Produktion, insbesondere in einem ergebnisorientierten regulatorischen Umfeld, bleibt jedoch eine Herausforderung. Die Einrichtung einer effektiven KI-Governance und das Einhalten der Risikobereitschaft, insbesondere bei komplexeren Systemen wie Generativer KI, stellt eine besondere Hürde dar. Fast ein Drittel der Befragten führt das Management von KI-Risiken (29 %) und die Erfüllung regulatorischer Verpflichtungen (28 %) als die Haupthindernisse für die Realisierung von Erträgen an.
Regulierung von KI – Wo stehen wir?
Das internationale regulatorische Umfeld für KI bleibt ein Mischmasch aus gut etablierten und sich noch entwickelnden Rahmenbedingungen. Internationale Branchenstandards spielen ebenfalls eine Schlüsselrolle bei der Leitung guter Praktiken in der Governance und im Risikomanagement.
In Bezug auf KI-spezifische Regeln verfolgen das Vereinigte Königreich und die EU unterschiedliche Wege. Im Vereinigten Königreich gibt es keine spezifische KI-Gesetzgebung für FS, und es wird auch nicht erwartet, dass eine solche eingeführt wird. In der EU bleibt die Umsetzung des KI-Gesetzes im Fluss, wobei Vorschläge zur Verschiebung der Fristen für hochriskante KI-Systeme unter Verhandlung stehen.
Vorausgesetzt, die Omnibus-Vorschläge werden angenommen, werden hochriskante KI-Systeme, die im FS eingesetzt werden – einschließlich Kreditbewertung, Risikoabschätzung und Preisgestaltung in der Gesundheits- und Lebensversicherung sowie arbeitsbezogene Systeme – voraussichtlich zwischen dem ersten und dem Ende des Jahres 2027 dem KI-Gesetz entsprechen müssen. Diese Fristverlängerung sollte jedoch nicht dazu führen, dass die Arbeit eingestellt wird. Im kommenden Jahr erwarten wir eine Vielzahl technischer Standards, Leitlinien und aufsichtsrechtlicher Klarstellungen, was nur wenig Zeit für die Umsetzung lässt.
Die spezifische Regulierung von KI ist jedoch nur ein kleiner Teil der Geschichte. In beiden Jurisdiktionen werden die Aufsichtsbehörden weiterhin hauptsächlich auf die bestehenden technologie-neutralen FS-Rahmenwerke und, wo personenbezogene Daten verwendet werden, auf die Datenschutzvorschriften zurückgreifen.
KI-Governance, Verantwortung und Ergebnisse
Eine effektive KI-Governance und Verantwortlichkeit bestimmen das Tempo und den Umfang der KI-Annahme in FS. Die Aufsichtsbehörden in der EU und im Vereinigten Königreich sind sich einig, dass KI ein technisches Werkzeug ist und die Unternehmen weiterhin dafür verantwortlich sind, es sicher und in Übereinstimmung mit ihren regulatorischen Verpflichtungen zu nutzen.
Da Unternehmen zunehmend den Einsatz von KI in Bereichen mit höherem Einfluss, wie Kreditrisikobewertung, Kapitalmanagement und algorithmischem Handel, in Betracht ziehen, ist mit einer stärkeren und rigoroseren Aufsicht durch das Management und die Aufsichtsräte zu rechnen.
Die Aufsichtsbehörden werden keine Zeilen-für-Zeilen-Überprüfung des Quellcodes von KI-Modellen durchführen. Stattdessen werden sie bewerten, ob die Unternehmen nachweisen können, dass ihre KI-Governance und Kontrollen sicherstellen, dass die Entscheidungsträger die Risiken ihrer Modelle verstehen und die Unsicherheit in ihren Ergebnissen erklären und managen können.
Datenqualität und Governance
Die Daten-Governance ist grundlegend für den effektiven Einsatz von KI. Hochwertige, gut verwaltete Daten bilden die Grundlage für Transparenz, Modellvalidierung und Erklärbarkeit. Sie unterstützen auch die Cybersicherheit, operationale Resilienz und den Datenschutz.
Die Aufsichtsbehörden in der EU und im Vereinigten Königreich sind sich darüber einig. Die europäischen Aufsichtsbehörden haben die Daten-Governance als zentrales Element des KI-Risikomanagements positioniert. Dennoch bleibt die Daten-Governance für viele Unternehmen eine anhaltende Herausforderung.
Operative Resilienz und Risiko von Drittanbietern
Die operationale Resilienz steht nun im Mittelpunkt der KI-Aufsicht, was durch die Abhängigkeit der FS-Branche von einer engen Auswahl von Technologieanbietern für den KI-Stapel bedingt ist. Diese Konzentration schafft erhebliche systemische Risiken.
Ab 2026 wird die Aufsicht an zwei Fronten strenger. Erstens wird die Unternehmensaufsicht zunehmen. Zweitens wird eine direkte Aufsicht über kritische Anbieter eingeführt.
Schlussfolgerung
Die sichere Skalierung von KI im Einklang mit der Risikobereitschaft und den regulatorischen Erwartungen erfordert die Implementierung zentraler Fähigkeiten. Eine starke KI-Governance ist entscheidend, ebenso wie eine sichere Basis für effektives Modellrisikomanagement, Daten-Governance und operationale Resilienz. Diese Elemente sind nicht nur notwendig für die Einhaltung, sondern auch strategische Enabler, um Anwendungsfälle zu identifizieren und Investitionen entsprechend zu lenken.
