Singapur: Umfassendes Handbuch zum KI-Risikomanagement für Finanzinstitute veröffentlicht
Das MindForge-Konsortium hat das Handbuch „KI-Risikomanagement: Executive Handbook“ veröffentlicht, welches Leitlinien zur KI-Governance und zum Risikomanagement für Finanzinstitute bietet. Dieses Handbuch unterstützt Finanzinstitute auf verschiedenen Ebenen der KI-Reife dabei, KI vertrauensvoll zu skalieren, indem es die Implementierung von KI-Governance und Risikomanagement im gesamten Unternehmen fördert. Ziel ist es, eine schnelle, aber verantwortungsvolle Nutzung von KI in der Branche zu ermöglichen.
Hintergrund
Die Finanzaufsichtsbehörde hat 2018 die 14 FEAT-Prinzipien (Fairness, Ethik, Verantwortung, Transparenz) für einen verantwortungsvollen Einsatz von KI in der Finanzdienstleistungsbranche herausgegeben. Nach der Einführung dieser Prinzipien wurde die Veritas-Initiative ins Leben gerufen, um diese Prinzipien in die Praxis umzusetzen und eine Methodologie sowie ein Toolkit zwischen 2020 und 2023 zu entwickeln.
Phase 1 des Projekts MindForge endete im Mai 2024 mit der Veröffentlichung eines Whitepapers zu den aufkommenden Risiken und Chancen von generativer KI für Banken. Phase 2 bringt Banken, Versicherungen, Kapitalmarktunternehmen, Branchenverbände sowie Technologie- und Beratungspartner zusammen, um die Governance-Herausforderungen moderner KI-Systeme, einschließlich traditioneller KI, generativer KI und agentischer KI, anzugehen. Das Executive Handbook übersetzt jahrelange Branchenkooperation in umsetzbare Leitlinien, die unabhängig vom aktuellen Reifegrad der KI von Finanzinstituten implementiert werden können.
Wesentliche Komponenten
Das Executive Handbook ist Teil einer Reihe von drei Handbüchern, die zusammen verwendet werden sollen:
- AI Risk Management Executive Handbook: Bietet Überlegungen und Implementierungspraktiken zur Governance von KI in den verschiedenen Bereichen des Handbuchs und dient als Ressource für Führungskräfte in der Finanzdienstleistungsbranche.
- AI Risk Management Operationalisation Handbook: Wird veröffentlicht und bietet detaillierte Anleitungen zur Operationalisierung jeder Implementierungspraktik, einschließlich Illustrationen bewährter Verfahren und unterstützender Materialien.
- AI Risk Management Handbook Implementation Examples: Wird veröffentlicht und bietet detaillierte Fallstudien zu den Erfahrungen einzelner Finanzinstitute bei der Implementierung von KI-Governance und Risikomanagement.
Kritische Überlegungen
Das Executive Handbook behandelt kritische Bereiche in 17 Überlegungen:
- Verantwortlichkeiten für die KI-Überwachung definieren, indem ein klar definiertes KI-Governance-Betriebsmodell mit Verantwortlichkeit auf Vorstandsebene und im oberen Management etabliert wird;
- Effektive KI-bezogene Richtlinien, Verfahren und Standards sicherstellen, die wichtige KI-Konzepte, Prozesse und Verantwortlichkeiten definieren;
- Risikomanagement auf Organisationsebene verbessern, indem KI-spezifische Risiken in das Unternehmensrisikorahmenwerk und die Risikobereitschaft integriert werden;
- Praktiken zur Verwaltung von KI-Risiken Dritter durch verbesserte Beschaffung, Anbieterbewertung und Vertragspraktiken erweitern;
- Das Management von KI-Risiken auf Anwendungsfall-Ebene durch Risiko-Materialitätsbewertungen, angemessene Kontrollen sowie Vor- und Nachbereitungsüberprüfungen verbessern;
- KI-Inventar-Fähigkeiten sicherstellen, um grundlegende Informationen zu KI-Anwendungsfällen aufzuzeichnen und zu pflegen;
- Den Kontext und das Design von Anwendungsfällen bewerten, um die Kompatibilität mit ethischen, regulatorischen und organisatorischen Standards sicherzustellen;
- Bewerten, ob die beabsichtigte Nutzung von Daten im KI-Anwendungsfall mit ethischen, regulatorischen und organisatorischen Standards kompatibel ist;
- Angemessene Datenmanagementpraktiken übernehmen, die Risiken und Einschränkungen beim Verarbeiten von Daten für KI-Anwendungsfälle adressieren;
- Inkrementelle KI-spezifische Risiken im Rahmen der Einführung von KI-Produkten und -Dienstleistungen Dritter im KI-Anwendungsfall bewerten;
- Sicherstellen, dass der KI-Anwendungsfall mit geeigneten Sicherheitsvorkehrungen und relevanten Metriken für effektives Performance- und Risikomanagement entwickelt wird;
- Gründliche Tests und Überprüfungen vor der Bereitstellung durchführen, um KI-spezifische Risiken zu bewerten und sicherzustellen, dass angemessene Sicherheitsvorkehrungen, Kontrollen und Governance beachtet werden;
- Überwachungs- und Notfallpläne für den Anwendungsfall vor der Bereitstellung entwickeln und risikoinformierte Bereitstellungsoptionen in Betracht ziehen;
- Laufende Überwachung von KI-Anwendungsfällen durchführen, um sicherzustellen, dass sie im Laufe der Zeit weiterhin geeignet sind;
- Änderungen an KI-Anwendungsfällen durch effektives Änderungsmanagement erfassen, um Nachvollziehbarkeit zu gewährleisten und eine angemessene Überprüfung sicherzustellen;
- Die Bereitstellung von KI unterstützen, um sicherzustellen, dass sie geeignet ist.
Das Executive Handbook betont die Proportionalität – Governance-Maßnahmen sollten entsprechend dem Risiko der KI, dem Geschäftsmodell des Finanzinstituts, dem Umfang der KI-Nutzung und der Risikobereitschaft angepasst werden.
Nächste Schritte
Finanzinstitute sollten ihre aktuelle KI-Governance-Reife anhand der 17 Überlegungen bewerten und die empfohlenen Praktiken proportional zu ihrem Risikoprofil und ihrem Geschäftskontext implementieren.
