Italien hat ein neues Gesetz über künstliche Intelligenz verabschiedet, das die ersten umfassenden KI-Vorschriften innerhalb der Europäischen Union einführt. Das Gesetz legt menschenzentrierte, transparente und sichere Prinzipien für die Nutzung von KI fest und betont Innovation, Cybersicherheit und Datenschutz.
KI bewegt sich schneller als die Regulierung, was sowohl Chancen als auch Risiken für Compliance-Teams schafft. Unternehmen müssen jetzt handeln, um GRC-Programme zu entwickeln, die über Risikominderung hinausgehen und als vertrauenswürdige Berater fungieren, um neue Märkte zu erschließen.
Die weit verbreitete Einführung von künstlicher Intelligenz in Organisationen hat zahlreiche Vorteile mit sich gebracht, aber auch negative Folgen. Laut einem Bericht von Infosys gaben 95 % der Führungskräfte an, dass ihre Organisationen in den letzten zwei Jahren aufgrund der Nutzung von Unternehmens-KI negative Konsequenzen erfahren haben.
Ein Jahr nach der Einführung des EU AI-Gesetzes zeigt eine neue Forschung von SAP Emarsys, dass mehr als ein Drittel der britischen Vermarkter (37 %) ihre Herangehensweise an KI seit Inkrafttreten der Vorschrift erheblich geändert haben. Das Gesetz hat den Fokus auf Datenverwaltung und ethische Praktiken verstärkt, was zu einer ethischeren Nutzung von KI bei 44 % der britischen Vermarkter geführt hat.
Der EU AI Act stellt sowohl ein erhebliches Risiko als auch eine potenzielle Wertdifferenzierung dar, die Investoren nicht ignorieren können. Er verändert die Risikobewertung von KI-Investitionen und schafft neue Compliance-Anforderungen, die die Marktchancen beeinflussen.
AI-Governance umfasst Regeln, Richtlinien und Schutzmaßnahmen, um sicherzustellen, dass Ihre KI nicht außer Kontrolle gerät. Der EU AI Act ist das erste bedeutende KI-Gesetz der Welt und klassifiziert KI-Systeme in vier Risikoebenen.
Mit dem Inkrafttreten des EU AI Act müssen Unternehmen, die hochriskante KI-Systeme entwickeln oder nutzen, neue Verpflichtungen erfüllen, um die Grundrechte und die Sicherheit der Bürger zu gewährleisten. Diese Anforderungen betreffen insbesondere Anbieter und Nutzer, die sich an die detaillierten Bestimmungen der Artikel 9 bis 15 halten müssen.
Versicherungsunternehmen integrieren zunehmend KI in ihre Prozesse, was zu einer schnelleren Datenverarbeitung und verbesserter Interaktion mit den Versicherungsnehmern führt. Doch diese technologischen Vorteile bringen auch regulatorische Herausforderungen mit sich, die Transparenz, Fairness und die Vermeidung von Diskriminierung erfordern.
Das EU-Daten-Gesetz ist am 2. August 2025 in Kraft getreten, und die Frist für die Einhaltung rückt näher. Unternehmen, die KI-Systeme in der EU betreiben, müssen sich auf die bevorstehenden Anforderungen vorbereiten, insbesondere für hochriskante Systeme, die bis zum 2. August 2026 konform sein müssen.
Sam Peters, der Chief Product Officer bei ISMS.online, erklärt, wie Marken sichere, ethische und compliance-orientierte KI-Modelle in der heutigen sich wandelnden Bedrohungslandschaft aufbauen können. Der Artikel betont die Notwendigkeit, Governance und Sicherheit in den Mittelpunkt von KI-Initiativen zu stellen, bevor Modelle implementiert werden.