Der Joint California Policy Working Group on AI Frontier Models hat seinen finalen Bericht veröffentlicht, der einen Rahmen für die Governance von KI-Modellen in Kalifornien präsentiert. Senator Wiener betont die Dringlichkeit, effektive Sicherheitsvorkehrungen zu schaffen, um die Chancen von KI zu nutzen und gleichzeitig grundlegende Schutzmaßnahmen zu gewährleisten.
Die Einführung von Künstlicher Intelligenz (KI) hat die Landschaft der Cybersicherheit grundlegend verändert, da KI sowohl als Lösung als auch als Bedrohung eingesetzt wird. Trotz des wachsenden Einflusses von KI behaupten fast die Hälfte der Cybersicherheitsprofis, nur über minimale Erfahrungen mit KI-Tools zu verfügen, was Fragen zur Vorbereitung der Branche auf den KI-Übergang aufwirft.
Ohne strenge Sicherheitsrichtlinien kann KI leicht zu einer Haftung werden. Hersteller müssen Innovation mit Risikomanagement in Einklang bringen, um eine solide Grundlage für langfristigen Erfolg zu schaffen.
Die Umfrage zeigt, dass nahezu alle Organisationen in irgendeiner Form mit KI arbeiten, wobei 10 % angeben, dass KI für ihren Betrieb grundlegend ist. Trotz des wachsenden Einsatzes haben 38 % der Organisationen noch keine spezifische Person für die Implementierung von KI verantwortlich gemacht.
Künstliche Intelligenz-Agenten werden zunehmend grundlegend für Unternehmensabläufe und erfordern eine Neubewertung der Governance-Modelle. Ihre Fähigkeit, kontextbewusst zu lernen und zu handeln, bringt neue Risiken mit sich, die Governance, Risiko und Compliance-Frameworks herausfordern.
Ein Gesetz in Kalifornien, bekannt als das „No Robo Bosses Act“, zielt darauf ab, den Einsatz von Künstlicher Intelligenz am Arbeitsplatz zu regulieren. Das Gesetz soll verhindern, dass automatisierte Entscheidungen über Beförderungen oder Entlassungen ohne menschliche Aufsicht getroffen werden.
Die Änderungen des EU AI Act haben weltweit Organisationen dazu verpflichtet, ihre Mitarbeiter in KI-Kompetenz zu schulen. Galeboe Mogotsi von Wits betont, dass Hochschulen Partnerschaften nutzen, um den Zugang zu Breitband und Schulungsangeboten zu erweitern.
Agentic AI wird als neue Frontier der KI-Innovation angesehen, da diese Agenten mühsame oder sich wiederholende Prozesse automatisieren können, ohne dass ein menschlicher Benutzer direkt eingreifen muss. In Australien und Neuseeland setzen 69 % der Führungskräfte, die sich auf KI konzentrieren, auf die Implementierung von agentic AI in den nächsten 12 Monaten.
Finanz-CISOs stehen vor der Herausforderung, die Einführung von Künstlicher Intelligenz voranzutreiben und gleichzeitig Abwehrmaßnahmen gegen KI-gestützte Bedrohungen zu schaffen. Diese Dualität fordert von CISOs eine strategische Herangehensweise, die sowohl Innovation als auch Risikomanagement umfasst.
Viele Projekte im Bereich der generativen KI scheitern daran, dass Unternehmen grundlegende Bedürfnisse wie die Modernisierung der Infrastruktur und Governance-Rahmenbedingungen übersehen. Um die Vorteile von GenAI wirklich nutzen zu können, müssen Organisationen zuerst ihre technologische Schulden abbauen und klare Governance-Rahmen einführen.