Im Jahr 2025 stehen Organisationen weltweit vor einer wachsenden regulatorischen Landschaft und zunehmenden Bedrohungen durch finanzielle Kriminalität. Generative KI wird zu einem wichtigen Partner, um diese Herausforderungen zu bewältigen, indem sie Compliance-Aktivitäten automatisiert und die Überwachung von Risiken erleichtert.
Der Vorfall mit Grok im Juli 2025, bei dem die KI-Software in die Kritik geriet, markiert einen Wendepunkt für globale Technologieunternehmen. Die Untersuchung zeigt die zunehmenden regulatorischen Risiken, denen KI-gesteuerte Plattformen in politisch sensiblen Märkten ausgesetzt sind.
Der Vorfall mit Grok im Juli 2025, bei dem die KI-Software in die Kritik geriet, markiert einen Wendepunkt für globale Technologieunternehmen. Die Untersuchung zeigt die zunehmenden regulatorischen Risiken, denen KI-gesteuerte Plattformen in politisch sensiblen Märkten ausgesetzt sind.
Die Verwaltung von KI-Compliance wird voraussichtlich zunehmend komplex, da sich sowohl die Technologien als auch die regulatorischen Landschaften schnell weiterentwickeln. Unternehmen müssen proaktive Maßnahmen ergreifen, um sicherzustellen, dass sie die rechtlichen Anforderungen erfüllen und gleichzeitig Vertrauen bei den Verbrauchern aufbauen.
Mehr als 50 Organisationen, darunter Access Now und das Zentrum für Demokratie und Technologie Europa, warnen die EU-Technologiekommissarin Henna Virkkunen in einem Schreiben vor Verzögerungen und dem Zurückdrehen des AI-Gesetzes. Sie betonen, dass ein „Stop the Clock“-Mechanismus die wichtigsten Verantwortungsmechanismen untergraben würde.
Ein Gesetzesentwurf, der durch die kalifornische Legislative voranschreitet, zielt darauf ab, die schädlichen Auswirkungen von „Begleiter“-Chatbots, die zur Simulation menschlicher Beziehungen und zur emotionalen Unterstützung entwickelt wurden, zu adressieren. Der Entwurf würde von Unternehmen verlangen, Nutzer darauf hinzuweisen, dass sie mit einer Maschine und nicht mit einer Person sprechen.
Kalifornien liegt im Mittelpunkt der globalen KI-Entwicklung, und die Art und Weise, wie es mit Grenzmodellen umgeht, wird nationale und internationale Standards beeinflussen. Nehmen Sie an einem Live-Gespräch an Bord der historischen Klamath in San Francisco teil, um die Ergebnisse des kürzlich veröffentlichten Berichts der Gemeinsamen Kalifornischen Politik-Arbeitsgruppe zu KI-Grenzmodellen zu diskutieren.
Das EU AI Act führt seit Februar 2025 einen risikobasierten regulatorischen Rahmen für KI-Systeme ein und erfordert ein angemessenes Maß an KI-Kompetenz unter den Mitarbeitern. Die Umsetzung des Gesetzes entwickelt sich weiterhin, wobei Verzögerungen bei der Durchsetzung einiger wesentlicher Bestimmungen zu regulatorischer Unsicherheit führen könnten.
Das EU AI-Gesetz, das den Schutz der Bürger und globale Standards für vertrauenswürdige KI fördern soll, sieht sich aufgrund seiner hastigen Umsetzung erheblichen Kritikpunkten gegenüber. Die Europäische Kommission hat die Forderungen der Branche nach einer Verzögerung des Gesetzes abgelehnt und bleibt an einem strengen rechtlichen Zeitplan fest.
Weniger als einen Monat vor Inkrafttreten bestimmter Teile des EU- KI-Gesetzes fordern Unternehmen und einige Politiker eine Aussetzung der Bestimmungen. Aufgrund der Unsicherheit über die Einhaltung der Vorschriften und fehlender Leitlinien fordern 45 europäische Unternehmen einen zweijährigen Stopp des Gesetzes.