Finanzsektor unvorbereitet auf KI-Compliance, CCO muss Kontrollen leiten
Um Unfälle im Zusammenhang mit der Nutzung von künstlicher Intelligenz im Finanzsektor zu vermeiden, ist die Einrichtung eines KI-Entscheidungsgremiums erforderlich, das von einem Geschäftsführer geleitet wird und alle relevanten Abteilungen umfasst. Die Einbeziehung von IT- und Risikomanagement-Executives ist dabei selbstverständlich, aber die Rolle des Chief Consumer Officers ist besonders entscheidend.
Es wird empfohlen, die Organisation für das Risikomanagement von KI von den Einheiten für Planung und Entwicklung zu trennen, um Interessenkonflikte zu vermeiden. Dazu gehören auch die Entwicklung von Vorschriften für das Risikomanagement in Bereichen wie KI-Systementwicklung, Verbraucherschutz und die operationellen Richtlinien des KI-Ethischen Komitees, die als interne Unternehmensregeln festgelegt werden sollten.
Systematische Ansätze zur Verhinderung von KI-Vorfällen
Es muss betont werden, dass die systematischen Ansätze zur Verhinderung von KI-Vorfällen beschleunigt werden müssen, da KI zunehmend in Geschäftsabläufe integriert wird. Jüngste Sicherheitsvorfälle im Finanzsektor sind größtenteils darauf zurückzuführen, dass das Management Sicherheitsinvestitionen als Kosten und nicht als Notwendigkeit betrachtet hat. Zu den potenziellen Vorfällen gehören Kunden, die über KI-Beratung falsche Informationen erhalten, oder die Offenlegung persönlicher Daten in Chatbot-Trainingssets.
Der Finanzsektor, einschließlich Banken, Versicherungen und Wertpapierunternehmen, wird als der Sektor mit dem größten KI-Potenzial angesehen. Es wurde prognostiziert, dass die Effizienz in diesem Sektor durch Automatisierung und Arbeitsverbesserung um 69-73 % gesteigert werden könnte. Laut einem aktuellen Bericht haben 84 % der Finanzinstitute weltweit generative KI in ihren Arbeitsumgebungen übernommen, im Vergleich zu etwa 56 % in einem bestimmten Land. Das größte Hindernis für die Annahme und den Ausbau von KI ist das Fehlen von Governance- und Risikomanagementrahmen.
Defizite in der Bereitstellung von Dienstleistungen und Compliance-Verpflichtungen
Es wurde festgestellt, dass inländische Finanzunternehmen insbesondere Defizite in Bezug auf die Bereitstellung von Dienstleistungen und Compliance-Verpflichtungen in Bezug auf hochwirksame KI aufweisen. Eine Umfrage ergab, dass nur 8 % der inländischen Finanzunternehmen hochwirksame KI-Dienste anbieten, und viele versäumen es, ihre Verantwortlichkeiten in Bereichen wie Risikomanagement, Verbraucherschutz und Dokumentation zu erfüllen.
Ein Rahmen für das Risikomanagement von KI wurde entwickelt, um Governance und Risikomanagement zu etablieren. Der Rahmen ist um drei Säulen strukturiert: Governance, Risikoabschätzung und Risikokontrolle. Dies dient als Richtlinie, die Unternehmen hilft, Risiken eigenständig zu verwalten. Bei der Risikoabschätzung, wo Unternehmen die größten Schwierigkeiten haben, wird das Risikoniveau durch die Unterteilung in vier Prinzipien – Legalität, Zuverlässigkeit, Treu und Sicherheit – gemessen.
Erweiterung des Umfangs hochwirksamer KI-Dienste
Gemäß dem im Januar dieses Jahres in Kraft getretenen KI-Grundgesetz sind hochwirksame KI-Dienste im Finanzsektor derzeit auf „Darlehen durch Screening ohne menschliches Eingreifen“ in Banken beschränkt. Diese Einschränkung wird sich voraussichtlich mit dem technologischen Fortschritt erweitern, was ein weiterer Grund ist, warum der Finanzsektor sich auf Risikomanagementmaßnahmen konzentrieren muss.
Die Richtlinien spezifizieren nicht genau, welche Darlehensarten als hochwirksame KI-Dienste gelten. Daher müssen Finanzunternehmen aktiv mit den zuständigen Stellen kommunizieren, um festzustellen, ob spezifische Dienstleistungen unter hochwirksame KI fallen.
Fazit
Es ist entscheidend, dass autonome interne Kontrollsysteme implementiert werden, da die Regulierung mit der technologischen Entwicklung von KI niemals Schritt halten kann. Jüngste Vorfälle im Bereich Kryptowährung hätten durch die ordnungsgemäße Einhaltung interner Selbstregulierungen verhindert werden können. Nachhaltiges Wachstum im Finanzsektor ist nur möglich, wenn Unternehmen verantwortungsvolle Risikomanagementsysteme eigenständig aufbauen.
