AI-Konformität: Wichtige Hinweise für Unternehmen

AI-Compliance: Ein schneller Überblick

Künstliche Intelligenz (KI) verändert die moderne Gesellschaft und ermöglicht die Automatisierung und Modifikation routinemäßiger menschlicher Aktivitäten, was die Effizienz und Produktivität steigert. Wie jede technologische Entwicklung bringt KI sowohl Vorteile als auch Risiken mit sich. Zu den Bedenken gehören mögliche Voreingenommenheiten, Datenschutzverletzungen und ethische Dilemmata.

Laut dem Artificial Intelligence Index Report 2024 fand eine Umfrage von Ipsos im Jahr 2023 heraus, dass 66 % der Befragten davon ausgehen, dass KI ihr Leben in naher Zukunft erheblich verändern wird, während 54 % der Befragten glauben, dass die Vorteile die Nachteile überwiegen. Die öffentliche Meinung ist jedoch gemischt: 52 % gaben an, nervös über KI-Produkte und -Dienstleistungen zu sein, was einen Anstieg von 13 % im Vergleich zu 2022 darstellt. Global gesehen liegen die größten Bedenken darin, dass KI für schädliche Zwecke missbraucht wird (49 %), die Auswirkungen auf die Beschäftigung (49 %) und mögliche Verletzungen der Privatsphäre (45 %).

Regulierungsmaßnahmen

Behörden weltweit versuchen, mit der rasanten Entwicklung von KI Schritt zu halten und die damit verbundenen Risiken sowie öffentliche Bedenken durch Regulierungen zu mindern. Ein wegweisendes Beispiel ist das EU AI Act, das den weltweit ersten rechtlichen Rahmen für die Entwicklung, Bereitstellung und Nutzung von KI-Systemen und allgemeinen KI-Modellen darstellt. Das EU AI Act trat am 1. August 2024 in Kraft, wobei die erste Gruppe von bedeutenden Regeln am 2. Februar 2025 in Kraft trat, die sich auf (1) verbotene KI-Systeme und (2) KI-Kompetenzpflichten konzentriert.

Verbote von KI-Systemen

Unter dem EU AI Act sind bestimmte KI-Systeme aufgrund eines inakzeptablen Risikos für die grundlegenden Rechte verboten. Diese beinhalten KI-Systeme, die:

• subliminale, manipulative oder täuschende Techniken verwenden, die das Verhalten verzerren und die Entscheidungsfindung beeinträchtigen und erheblichen Schaden verursachen;
• Verletzlichkeiten, die mit Alter, Behinderung oder sozioökonomischem Status zusammenhängen, ausnutzen, um Verhalten zu verzerren und Schaden zu verursachen;
• biometrische Kategorisierungen bereitstellen, um den Status in sensiblen Gruppen abzuleiten;
• soziale Bewertungen vornehmen, die zu unfairer oder nachteiliger Behandlung basierend auf Verhalten oder persönlichen Eigenschaften führen;
• kriminelle Risikobewertungen auf Grundlage von Profiling oder Persönlichkeitseigenschaften bereitstellen;
• Gesichtserkennungsdatenbanken durch massenhaftes Scraping aus dem Internet oder von CCTV-Aufnahmen erstellen;
• Emotionserkennung am Arbeitsplatz oder in der Bildung bereitstellen;
• in öffentlichen Räumen in Echtzeit biometrische Identifikation für Strafverfolgungszwecke durchführen.

Diese Verbote unterliegen bestimmten Qualifikatoren sowie Sicherheits- und Durchsetzungsbefreiungen. Um die konsistente und einheitliche Anwendung des EU AI Act in diesem Zusammenhang sicherzustellen, veröffentlichte die Europäische Kommission im Februar 2025 zwei Entwurfshinweise: (1) die Richtlinien zur Definition von KI-Systemen und (2) die Richtlinien zu verbotenen KI-Praktiken.

KI-Kompetenz und Compliance

KI-Kompetenz ist ein weiterer entscheidender Aspekt des EU AI Act, der Teil eines Governance-Rahmens ist. Dies bedeutet, dass Arbeitgeber sicherstellen müssen, dass ihre Mitarbeiter, die an der Bereitstellung von KI beteiligt sind, verstehen, wie diese Systeme funktionieren, welche Risiken damit verbunden sind und welche Herausforderungen sie darstellen können.

Artikel 4 des EU AI Act schreibt vor, dass Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen müssen, um sicherzustellen, dass ihr damit verbundenes Personal über ausreichende KI-Kompetenz verfügt, „unter Berücksichtigung ihres technischen Wissens, ihrer Erfahrung, Ausbildung und Schulung sowie des Kontexts, in dem die KI-Systeme eingesetzt werden sollen, und unter Berücksichtigung der Personen oder Gruppen von Personen, auf die die KI-Systeme angewendet werden sollen“. Ziel dieser Verpflichtung ist es, eine Kultur des verantwortungsvollen Einsatzes von KI zu fördern und Compliance sowie Innovation zu unterstützen.

Dieser Beitrag dient als kurze Erinnerung an die Notwendigkeit, die regulatorischen Anforderungen einzuhalten. Weitere Einzelheiten zur Compliance und den erforderlichen Schritten sind in den entsprechenden Veröffentlichungen zu finden.