Die Risiken von KI-Copiloten sind nicht nur theoretisch — reale Vorfälle haben bereits die Gefahren einer unregulierten KI-Nutzung aufgezeigt. Organisationen, die keine angemessenen Sicherheitsmaßnahmen ergreifen, laufen Gefahr, die nächste Schlagzeile zu sein, von Datenverletzungen bis hin zu Verstößen gegen Datenschutzbestimmungen.
Die Einführung von Künstlicher Intelligenz (KI) hat die Landschaft der Cybersicherheit grundlegend verändert, da KI sowohl als Lösung als auch als Bedrohung eingesetzt wird. Trotz des wachsenden Einflusses von KI behaupten fast die Hälfte der Cybersicherheitsprofis, nur über minimale Erfahrungen mit KI-Tools zu verfügen, was Fragen zur Vorbereitung der Branche auf den KI-Übergang aufwirft.
Künstliche Intelligenz (KI) wird zunehmend in den Abläufen der Finanzdienstleistungen integriert und transformiert alles von Verbraucherinteraktionen bis hin zu wesentlichen Funktionen wie Kreditentscheidungen und Betrugserkennung. Angesichts der zunehmenden KI-Nutzung bleibt die Frage, welche Behörden ihre Verwendung regulieren werden, weiterhin ungeklärt.
Künstliche Intelligenz-Agenten werden zunehmend grundlegend für Unternehmensabläufe und erfordern eine Neubewertung der Governance-Modelle. Ihre Fähigkeit, kontextbewusst zu lernen und zu handeln, bringt neue Risiken mit sich, die Governance, Risiko und Compliance-Frameworks herausfordern.
Finanz-CISOs stehen vor der Herausforderung, die Einführung von Künstlicher Intelligenz voranzutreiben und gleichzeitig Abwehrmaßnahmen gegen KI-gestützte Bedrohungen zu schaffen. Diese Dualität fordert von CISOs eine strategische Herangehensweise, die sowohl Innovation als auch Risikomanagement umfasst.
Der Gesetzgeber in New York hat den sicherheitsorientierten RAISE Act verabschiedet, der umfassende Regelungen zur KI-Sicherheit vorsieht. Diese neuen Vorschriften verlangen von großen Entwicklern von Sprachmodellen, Sicherheitsprotokolle und Risikobewertungen zu erstellen und zu veröffentlichen.
Am 21. März erhielt das Gesetz 149 von Ontario, das „Working for Workers Four Act“, 2024, die königliche Zustimmung. Ab dem 1. Januar 2026 müssen Arbeitgeber bei öffentlich ausgeschriebenen Stellenanzeigen offenlegen, ob künstliche Intelligenz zur Bewertung oder Auswahl von Bewerbern eingesetzt wird.
Der New Yorker Staatssenat hat ein Gesetz verabschiedet, das große generative KI-Unternehmen dazu verpflichtet, Sicherheitsberichte zu veröffentlichen und die Verbraucher über Sicherheitsvorfälle zu informieren. Das Gesetz, bekannt als Responsible AI Safety and Education Act (RAISE Act), wird dem Gouverneur von New York, Kathy Hochul, zur endgültigen Genehmigung vorgelegt.
Die Europäische Union hat eine neue Ära der KI-Regulierung eingeleitet. Mit dem Inkrafttreten des Gesetzes über künstliche Intelligenz am 1. August 2024 hat die EU den weltweit ersten umfassenden Rechtsrahmen für künstliche Intelligenz geschaffen.
New York plant, eines der ersten Gesetze zur Regulierung fortschrittlicher KI-Modelle in den Vereinigten Staaten einzuführen. Der Responsible AI Safety and Education (RAISE) Act würde von großen KI-Entwicklern verlangen, Sicherheitsprotokolle und Risikobewertungen zu veröffentlichen, bevor sie ihre Modelle im Bundesstaat freigeben.