Künstliche Intelligenz (KI) verbreitet sich schnell in den Arbeitsplatz und verändert, wie alltägliche Aufgaben erledigt werden. Unternehmen müssen ihre Ansätze zur KI-Politik überdenken, um mit der zunehmenden Nutzung von Shadow AI umzugehen, und dabei flexible Richtlinien implementieren, die Innovation und Risikomanagement in Einklang bringen.
Die EU plant, die Anforderungen für risikobehaftete KI-Systeme im KI-Gesetz bis Ende 2027 zu verschieben, um Unternehmen mehr Zeit zu geben, sich anzupassen. Kritiker befürchten, dass diese Verzögerung den Datenschutz schwächt und die Sicherheit von sensiblen Bereichen wie der Einstellung oder Strafverfolgung gefährdet.
Die australische Regierung könnte in Betracht ziehen, KI-Programme zur Erstellung sensibler Kabinettsanträge zu nutzen, trotz Bedenken hinsichtlich Sicherheitsrisiken und Datenverletzungen. Finanzministerin Katy Gallagher kündigte an, dass die öffentliche Verwaltung ein eigenes KI-Programm für Regierungsmitarbeiter entwickeln werde, um Produktivitätsvorteile zu realisieren.
In der Finanzbranche, in der KI zunehmend zur Automatisierung von Compliance-Prozessen eingesetzt wird, stellt sich die Frage, ob wir die Entscheidungen dieser Systeme wirklich verstehen. Erklärbare KI könnte die Lösung sein, um Klarheit darüber zu schaffen, wie Algorithmen zu ihren Schlussfolgerungen gelangen und somit die Verantwortung im Compliance-Bereich zu stärken.
Dieser Blog untersucht 18 KI-bezogene Gesetze, die Kalifornien 2024 verabschiedet hat, von denen 8 in einem begleitenden CSET Emerging Technology Observatory (ETO) Blog näher betrachtet werden. Außerdem wird die Geschichte Kaliforniens in der Regulierung von KI und anderen aufkommenden Technologien beleuchtet.
Die Einführung von KI-Technologie nimmt 2025 rasant zu, wobei 56 % der Unternehmen planen, innerhalb des nächsten Jahres generative KI zu integrieren. Diese Anleitung erklärt, wie Unternehmen sicherstellen können, dass ihre KI-Systeme ethisch, transparent und gesetzeskonform sind.
Die Europäische Kommission erwägt Änderungen am wegweisenden AI Act, da sie unter Druck von US-Technologieunternehmen steht. Die vorgeschlagenen Änderungen könnten die Datenschutz-Grundverordnung (GDPR) aufweichen und den Einsatz biometrischer Technologien in der EU erweitern.
Die Regulierung von KI gewinnt an Dringlichkeit, da die Aufsichtsbehörden schneller handeln als zuvor, um Risiken zu bewältigen, die möglicherweise Märkte und soziale Stabilität beeinträchtigen könnten. Die EU hat mit dem AI Act einen umfassenden Rechtsrahmen eingeführt, der Organisationen dazu verpflichtet, ihre KI-Risiken zu verstehen und entsprechende Maßnahmen zur Einhaltung zu ergreifen.
Die Zunahme der Künstlichen Intelligenz (KI) in Unternehmen bringt erhebliche Risiken mit sich. Laut einem Bericht haben 72 % der S&P 500-Unternehmen im Jahr 2025 KI-bezogene Risiken in ihren öffentlichen Offenlegungen angegeben.
Die Auswahl des wissenschaftlichen Panels für die europäische KI-Strategie ist entscheidend für die Umsetzung des KI-Gesetzes. Europa sollte sich auf herausragende KI-Forscher konzentrieren, die über fundierte Kenntnisse in der Entwicklung von genereller KI verfügen und jüngeren Stimmen Gehör schenken.