EU’s neuer KI-Gesetzesentwurf beschränkt Emotionserkennungssysteme am Arbeitsplatz
Die neue Gesetzgebung der Europäischen Union zum Thema Künstliche Intelligenz (KI) hat bedeutende Auswirkungen auf den Einsatz von Emotionserkennungssystemen in Arbeitsumgebungen. Insbesondere wird die Verwendung von KI-Systemen, die Emotionen durch Tastatureingaben, Körperhaltungen oder Bewegungen ableiten, eingeschränkt, da sie auf biometrischen Daten basieren.
Richtlinien zur Anwendung des KI-Gesetzes
Die neuen Richtlinien zielen darauf ab, eine konsequente, effektive und einheitliche Anwendung des KI-Gesetzes in der gesamten Europäischen Union sicherzustellen. Die Veröffentlichung der Richtlinien durch die Kommission bietet wertvolle Einblicke in die Interpretation der Verbote, bleibt jedoch nicht bindend. Autoritative Auslegungen sind dem Gerichtshof der Europäischen Union (CJEU) vorbehalten.
Emotionserkennungssysteme
Die Restriktionen betreffen auch die Nutzung von Emotionserkennungssystemen während der Einstellungs- und Probezeit. Beispiele, in denen diese Technologien nicht eingesetzt werden dürfen, sind:
- „KI-Systeme, die den emotionalen Ton in hybriden Arbeitsteams überwachen, indem sie Emotionen aus Stimme und Bildmaterial von hybriden Videoanrufen identifizieren und ableiten, sind verboten.“
- „Der Einsatz von Kameras durch Supermärkte zur Überwachung der Emotionen ihrer Mitarbeiter, wie z.B. Freude, ist untersagt.“
Auch der Einsatz von Webcams und Spracherkennungssystemen in Callcentern zur Überwachung der Emotionen der Mitarbeiter ist laut den Richtlinien verboten.
Allerdings dürfen diese Werkzeuge zu Trainingszwecken eingesetzt werden, solange die Daten nicht mit Personalverantwortlichen geteilt werden und keinen Einfluss auf die Bewertung und Beförderung des Mitarbeiters haben.
Bewältigung der Datenschutzrisiken von KI
Dieser Schritt zielt darauf ab, Bedenken hinsichtlich der Privatsphäre und der potenziellen Verzerrung in der KI-gestützten Emotionserkennung zu adressieren. Emotionserkennungssysteme, die die emotionalen Zustände von Individuen analysieren, werfen ethische Fragen auf, da die emotionale Ausdrucksweise zwischen Kulturen und Individuen variiert.
Das Verbot soll die Würde der Arbeitnehmer schützen und diskriminierende Praktiken verhindern. Es gibt jedoch Ausnahmen für KI-Systeme, die zur Überwachung emotionaler Zustände zu medizinischen oder sicherheitsrelevanten Zwecken eingesetzt werden.
Ein Beispiel wäre der Einsatz von KI in hochriskanten Umgebungen, wie Fabriken oder Baustellen, um Anzeichen von Stress oder Burnout zu identifizieren, sofern die Technologie direkt mit dem Wohlergehen und der Sicherheit der Mitarbeiter verbunden ist.
Das KI-Gesetz der EU wurde im August 2024 verabschiedet und wird am 2. August 2026 vollständig anwendbar sein. Ein offizieller Vertreter der Kommission äußerte: „Die Ambition besteht darin, denjenigen, die KI-Systeme auf dem europäischen Markt bereitstellen oder einsetzen, rechtliche Sicherheit zu bieten, auch für die Marktüberwachungsbehörden. Die Richtlinien sind nicht rechtsverbindlich.“
