Die ersten Verpflichtungen des EU-KI-Gesetzes treten in Kraft

Der EU-AI-Gesetz: Die ersten Verpflichtungen treten in Kraft

Mit dem AI-Gesetz strebt die EU an, einen einheitlichen rechtlichen Rahmen für die Entwicklung, den Inverkehrbringen, die Inbetriebnahme und die Nutzung von Künstlicher Intelligenz (KI)-Systemen innerhalb der EU zu schaffen. Dies geschieht in Übereinstimmung mit den Werten der EU; insbesondere soll die Nutzung von menschenzentrierter und vertrauenswürdiger KI gefördert werden, während gleichzeitig ein hohes Maß an Schutz der Gesundheit, Sicherheit und der grundlegenden Rechte gewährleistet wird, wie sie in der Charta der Grundrechte der Europäischen Union verankert sind.

Das AI-Gesetz gilt für Anbieter, die KI-Systeme auf den Markt bringen oder in Betrieb nehmen, sowie für „Anwender“, die diese Systeme nutzen. Wenn Sie als Arbeitgeber KI-Systeme verwenden – beispielsweise im Recruiting – müssen Sie hauptsächlich die Verpflichtungen der Anwender berücksichtigen.

KI-Kompetenz

Die erste Verpflichtung, die nun in Kraft getreten ist (seit dem 2. Februar 2025), besteht darin, ein ausreichendes Niveau der KI-Kompetenz sicherzustellen. Das Ziel ist es, sicherzustellen, dass alle Personen, die in einer Organisation mit KI-Systemen arbeiten, über die notwendigen Fähigkeiten und Kenntnisse verfügen, um informierte Entscheidungen zu treffen und die KI-Systeme verantwortungsvoll zu nutzen.

Bei der Ergreifung von Maßnahmen zur Sicherstellung eines ausreichenden Niveaus der KI-Kompetenz müssen die folgenden Punkte berücksichtigt werden:

• Das technische Wissen, die Erfahrung, die Ausbildung und das Training des Personals und anderer Personen, die mit dem Betrieb und der Nutzung von KI-Systemen befasst sind; und
• Der Kontext, in dem die KI-Systeme eingesetzt werden sollen.

Arbeitgeber, die von den Vorschriften betroffen sind, sollten auch die Personen oder Gruppen von Personen berücksichtigen, auf die die KI-Systeme angewendet werden.

Das AI-Gesetz spezifiziert nicht, welche Maßnahmen ein Arbeitgeber ergreifen muss, um ein „ausreichendes“ Niveau der KI-Kompetenz zu erreichen. Dies erschwert es, die Einhaltung dieser Verpflichtung nachzuweisen, bietet jedoch auch die Möglichkeit für Arbeitgeber, selbst zu bestimmen, was für ihre Organisation und Mitarbeiter „ausreichend“ ist.

Aus diesem Grund sollten Organisationen, die KI-Systeme nutzen, Sch Schulungen zur KI-Kompetenz organisieren. Die Implementierung einer detaillierten Politik für den verantwortungsvollen Einsatz von KI würde ebenfalls dazu beitragen, die Verpflichtung zur KI-Kompetenz zu erfüllen.

Es ist zu beachten, dass nicht alle Mitarbeiter das gleiche Maß an KI-Kompetenz erreichen müssen. Es handelt sich nicht um eine „One-Size-Fits-All“-Verpflichtung, sondern um eine, die einen maßgeschneiderten Ansatz erfordert. Dennoch wird von jedem, der mit KI in Berührung kommt, erwartet, dass er die grundlegenden Prinzipien versteht und in der Lage ist, verantwortungsvoll und kritisch mit KI-Systemen umzugehen. Die Einhaltung dieser Verpflichtung ist ein fortlaufender und dynamischer Prozess.

Es ist auch erwähnenswert, dass das AI-Büro, eine innerhalb der Europäischen Kommission eingerichtete Einrichtung als „Zentrum der KI-Expertise“, ein „lebendes Repository“ von Praktiken zur KI-Kompetenz veröffentlicht hat. Diese sind nicht erschöpfend und sollen regelmäßig aktualisiert werden. Ziel des Repositories ist es, das Lernen und den Wissensaustausch unter Anbietern und Anwendern von KI-Systemen in Bezug auf die KI-Kompetenz zu fördern. Das Dokument bestätigt, dass die Umsetzung der festgelegten Praktiken jedoch nicht automatisch die Einhaltung des AI-Gesetzes garantiert.

Verbotene KI-Praktiken

Seit dem 2. Februar 2025 hat das AI-Gesetz eine Reihe von Praktiken im Bereich der KI, die als inakzeptabel erachtet werden, verboten. Dies sind Praktiken, die den grundlegenden Normen und Werten Europas widersprechen, wie etwa der Verletzung der in der Charta verankerten grundlegenden Rechte.

Beispielsweise sind die folgenden KI-Praktiken (unter anderem) nun verboten:

• KI-Systeme, die subliminale Techniken jenseits des Bewusstseins einer Person oder absichtlich manipulative oder täuschende Techniken einsetzen. Dies umfasst Systeme, die Menschen dazu bringen, Entscheidungen zu treffen, die sie sonst nicht treffen würden, was zu erheblichen Schäden führen kann;
• KI-Systeme, die die Verwundbarkeiten einer Person oder einer bestimmten Gruppe von Personen aufgrund ihres Alters oder ihrer Behinderung ausnutzen, um ihr Verhalten erheblich zu stören, was zu erheblichen Schäden führen kann;
• KI-Systeme, die Menschen basierend auf ihrem sozialen Verhalten oder bekannten, abgeleiteten oder vorhergesagten persönlichen oder Persönlichkeitsmerkmalen bewerten oder klassifizieren (bekannt als „Sozialbewertung“), und die zu nachteiliger oder ungünstiger Behandlung führen;
• KI-Systeme, die Gesichts­erkennung-Datenbanken durch das untargeted Scraping von Gesichts­bildern aus dem Internet oder CCTV-Aufnahmen erstellen oder erweitern; und
• KI-Systeme, die die Emotionen einer Person ableiten, es sei denn, das KI-System wird aus medizinischen oder Sicherheitsgründen verwendet.

Unternehmen, die verbotene KI-Praktiken entwickeln oder nutzen, unterliegen administrativen Geldbußen von bis zu 35 Millionen EUR oder, wenn der Täter ein Unternehmen ist, bis zu 7% des gesamten weltweiten Jahresumsatzes, je nachdem, was höher ist. Bei der Verhängung von Geldbußen gegen KMU und Start-ups werden deren Interessen und ihre wirtschaftliche Lebensfähigkeit berücksichtigt, und es kann eine niedrigere Geldbuße verhängt werden.

KI-Politik

Entsprechend ihren Verpflichtungen aus dem AI-Gesetz wird das AI-Büro der EU die Erstellung von Verhaltenskodizes fördern und unterstützen, wobei internationale Ansätze berücksichtigt werden.

„Verhaltenskodizes“ wird in diesem Kontext recht breit interpretiert, und es ist nicht ganz klar, ob dies eine KI-Politik einschließt oder nicht. Die Etablierung einer solchen Politik wird jedoch dringend empfohlen. In einer KI-Politik können Arbeitgeber klare Richtlinien für die Nutzung von KI innerhalb des Unternehmens festlegen. Dies kann beinhalten, welche KI-Systeme verwendet werden dürfen, von wem und in welchem Umfang KI-Systeme in Bezug auf bestimmte Mitarbeiter eingesetzt werden dürfen. Die Politik kann auch festlegen, wie Mitarbeiter ausreichend KI-kompetent bleiben können.

Schlussfolgerung für Arbeitgeber

Die ersten Verpflichtungen gemäß dem AI-Gesetz sind nun in Kraft. Diese lang erwartete und erste globale KI-Regulierung beginnt nun, sich in der realen Geschäftswelt zu verankern, und es ist wichtig, dass Arbeitgeber sich ihrer Verpflichtungen vollständig bewusst sind. Arbeitgeber sollten:

• Die KI-Systeme, die innerhalb ihrer Organisation verwendet werden, kartieren;
• Diese KI-Systeme basierend auf ihrem Risiko-Niveau qualifizieren; und
• Alle KI-Systeme, die ein inakzeptables Risiko darstellen, nicht mehr verwenden.

Im Anschluss sollten sie den aktuellen Stand der KI-Kompetenz innerhalb der Organisation kartieren und bewerten, welche zusätzlichen Maßnahmen erforderlich sind (z.B. Schulungen, interne Vorschriften usw.).

Obwohl nicht zwingend erforderlich, empfehlen wir auch die Erstellung einer KI-Politik mit klaren Richtlinien zur Nutzung von KI innerhalb des Unternehmens. Wir glauben, dass die Erstellung einer KI-Politik ein relativ einfacher und zugänglicher Weg für Arbeitgeber ist, den ersten Schritt zur Erreichung eines ausreichenden Niveaus der KI-Kompetenz zu unternehmen.

Abschließend ist es wichtig, die Entwicklungen im Auge zu behalten, die in der Zukunft auf uns zukommen: Die nächsten Verpflichtungen gemäß dem AI-Gesetz werden am 2. August 2025 in Kraft treten.

Wie oben erörtert, sind die Folgen eines Fehlverhaltens erheblich, und daher empfehlen wir Arbeitgebern, professionelle rechtliche Beratung in Anspruch zu nehmen, wenn sie Fragen zu HR, Datenschutz und KI in ihrer Organisation haben oder Unterstützung bei der Erstellung einer KI-Politik oder der Organisation von Schulungen wünschen.