EU AI-Gesetz: Verbotene KI-Anwendungen und Anforderungen an die KI-Kompetenz
Mit dem Inkrafttreten der ersten großen Compliance-Frist des EU AI-Gesetzes am 2. Februar 2025 haben die EU-Regulierungsbehörden offiziell bestimmte hochriskante KI-Anwendungen verboten. Unternehmen, die KI-Systeme entwickeln oder einsetzen, müssen nun Maßnahmen ergreifen, um sicherzustellen, dass das Personal, das diese Systeme betreibt, über ein ausreichendes Maß an KI-Kompetenz verfügt.
Verbotene KI-Praktiken
Artikel 5 des EU AI-Gesetzes verbietet KI-Anwendungen, die inakzeptable Risiken für die Grundrechte und die zentralen Werte der Union darstellen. Insbesondere verbietet das Gesetz den Verkauf („Inverkehrbringen“), die Bereitstellung („Inbetriebnahme“) oder die Nutzung eines KI-Systems, das:
- Manipulative, irreführende oder täuschende Techniken verwendet, die das Verhalten einer Person verzerren oder deren Entscheidungsfindung beeinträchtigen;
- Die Verletzlichkeiten einer Person oder einer Gruppe von Personen basierend auf deren Alter, Behinderung oder sozioökonomischen Status ausnutzt;
- Einzelpersonen oder Gruppen aufgrund ihres Sozialverhaltens oder ihrer Persönlichkeitsmerkmale bewertet, was zu nachteiliger oder unfairer Behandlung führt;
- Das Risiko bewertet oder vorhersagt, dass eine Person eine Straftat begeht, basierend ausschließlich auf Profiling oder Verhaltensbewertung;
- Gesichtserkennungsdatenbanken durch das ungezielte Scraping von Gesichtsabbildungen aus dem Internet oder CCTV erstellt oder erweitert;
- Die Emotionen einer Person am Arbeitsplatz oder in einer Bildungseinrichtung ableitet;
- Biometrische Kategorisierungen verwendet, um Einzelpersonen basierend auf ihren biometrischen Daten bestimmte sensible demografische Merkmale zuzuordnen;
- „Echtzeit“-biometrische Daten in öffentlichen Räumen zum Zweck der Gesetzesdurchsetzung sammelt.
Die Verbote umfassen eine spezifische Ausnahme für die Verwendung von KI-Systemen, die Emotionen in Arbeits- oder Bildungskontexten ableiten, jedoch nur zu medizinischen oder Sicherheitszwecken. Diese Ausnahme spiegelt das Engagement der Regulierungsbehörden wider, KI-Innovation und praktische Anwendungen mit dem Schutz der Verbraucherrechte in Einklang zu bringen.
KI-Kompetenz
Die Anforderungen an die KI-Kompetenz gemäß Artikel 4 des EU AI-Gesetzes traten ebenfalls am 2. Februar 2025 in Kraft. Anbieter und Anwender von – arguably – allen KI-Systemen müssen sicherstellen, dass ihr Personal über ein „ausreichendes“ Maß an KI-Kompetenz verfügt. KI-Kompetenz wird definiert als die erforderlichen Fähigkeiten, Kenntnisse und das Verständnis, um informierte Entscheidungen über den Einsatz von KI-Systemen zu treffen und sich der Chancen, Risiken und potenziellen Schäden, die diese Systeme verursachen können, bewusst zu sein.
Die Europäische KI-Agentur veröffentlichte ein lebendes Repository von KI-Kompetenzpraktiken, um Lernen und Austausch über KI-Kompetenz zu fördern.
Nächste Schritte
Der erste Schritt besteht darin, zu bewerten und zu dokumentieren, ob Ihr Unternehmen KI-Anwendungen verwendet, die gemäß Artikel 5 des EU AI-Gesetzes verboten sind. Falls ja, besteht die nächste Priorität darin, wichtige Interessengruppen einzubeziehen, die betroffenen KI-Systeme schrittweise abzubauen und letztendlich deren Nutzung einzustellen.
Es ist ratsam, Verfahren zu etablieren, um zukünftige KI-Initiativen zu identifizieren, die mit dem Verbot in Konflikt stehen könnten, Mitarbeiterschulungen zu implementieren, um ein grundlegendes Verständnis der Compliance in den Teams sicherzustellen, und mit Dienstleistern zu koordinieren, um einen konsistenten Ansatz zur Einhaltung der Vorschriften beizubehalten.
Selbst wenn die spezifischen Verbote nicht auf die KI-Anwendungsfälle Ihrer Organisation zutreffen, erstrecken sich die Anforderungen an die KI-Kompetenz auf ein viel breiteres Spektrum von KI-Aktivitäten. Wenn noch nicht vorhanden, ist dies eine Gelegenheit, mit internen Teams zusammenzuarbeiten, um umfassende KI-Governance, Schulungsmaterialien, Schulungsprogramme und Schutzmaßnahmen gegen Missbrauch zu entwickeln.
