Im Jahr 2024 stellte der Softwareanbieter Sage seinen generativen KI-Assistenten ein, nachdem Benutzer berichtet hatten, dass sensible Finanzdaten zwischen Konten geleakt wurden. Unternehmen stehen vor der Herausforderung, KI sicher zu verwalten, während sie gleichzeitig die Verantwortung für mögliche Fehler und deren Konsequenzen klären müssen.
Kenia hat einen bedeutenden diplomatischen Erfolg erzielt, nachdem alle 193 Mitgliedstaaten der Vereinten Nationen einstimmig beschlossen haben, zwei wegweisende Institutionen zur Regulierung der künstlichen Intelligenz (KI) einzurichten. Diese Institutionen, das Unabhängige Wissenschaftliche Gremium für KI und der Globale Dialog zur KI-Governance, sollen internationale Anstrengungen zur Nutzung und Regulierung von KI leiten.
Es gibt erhebliche regulatorische Unsicherheiten in der globalen KI-Überwachung, hauptsächlich aufgrund der fragmentierten rechtlichen Landschaft in verschiedenen Ländern, die eine effektive Verwaltung transnationaler KI-Systeme erschwert. Unternehmen müssen die KI-Einführungen an die Anforderungen jeder Gerichtsbarkeit anpassen, was die Compliance-Belastungen erhöht, aber auch ein klareres Denken über Risiken fördert.
Eine neue Umfrage von Smarsh hat ergeben, dass zwar KI-Tools in den britischen Finanzdienstleistungen schnell angenommen werden, viele Mitarbeiter jedoch Bedenken hinsichtlich der Aufsicht und Compliance haben. Über ein Drittel der Arbeitnehmer nutzt regelmäßig Tools wie ChatGPT oder Microsoft 365 Copilot, doch 55 % geben an, keine formale Schulung erhalten zu haben.
Künstliche Intelligenz (KI) revolutioniert Branchen, bringt jedoch komplexe regulatorische Herausforderungen mit sich. Organisationen in regulierten Sektoren wie Gesundheitswesen und Finanzen müssen Innovationen mit der Einhaltung strenger Gesetze in Einklang bringen.
Am 11. Juli 2025 veröffentlichte die Europäische Kommission die endgültige Version ihres Kodex für allgemeine künstliche Intelligenz (GPAI). Dieser Kodex soll GPAI-Modellanbietern helfen, die Transparenz-, Urheberrechts- und Sicherheitsbestimmungen des AI-Gesetzes zu erfüllen, das am 2. August 2025 in Kraft tritt.
Künstliche Intelligenz wird zunehmend in den Compliance-Funktionen von Unternehmen eingesetzt, um Aufgaben zu automatisieren und die Effizienz zu steigern. Gleichzeitig bringt ihre Implementierung jedoch regulatorische und operationale Risiken mit sich, die von den Organisationen adressiert werden müssen.
Mit der zunehmenden Integration von generativen KI-Tools in den täglichen Betrieb, insbesondere im Bereich HR, wird die Durchführung von KI-Audits immer wichtiger, um rechtliche, betriebliche und reputationsbezogene Risiken zu mindern. Ein gut geplanter KI-Audit kann helfen, potenzielle Risiken zu identifizieren und relevante KI-Richtlinien zu entwickeln.
Künstliche Intelligenz hilft Unternehmen, die komplexen Anforderungen an die Compliance zu erfüllen und bietet gleichzeitig einen Wettbewerbsvorteil. AI-basierte Compliance-Tools machen regulatorische Prozesse kosteneffizienter und proaktiver, was Unternehmen ermöglicht, effizienter zu arbeiten und Risiken zu minimieren.
Finanz-CISOs stehen vor der Herausforderung, die Einführung von Künstlicher Intelligenz voranzutreiben und gleichzeitig Abwehrmaßnahmen gegen KI-gestützte Bedrohungen zu schaffen. Diese Dualität fordert von CISOs eine strategische Herangehensweise, die sowohl Innovation als auch Risikomanagement umfasst.