Herausforderungen für Arbeitgeber bei der Nutzung von KI-Anwendungen
Die Verwendung von Künstlicher Intelligenz (KI) im Recruiting bietet Unternehmen die Möglichkeit, nahezu jeden Aspekt des Bewerbungsprozesses zu automatisieren, von der Erstellung von Stellenanzeigen über die Analyse und Bewertung von Bewerbungsunterlagen bis hin zur Vorauswahl von Kandidaten, Interviews und anschließender Einarbeitung. Diese KI-Tools eröffnen zahlreiche Chancen zur Steigerung der Effizienz und Optimierung der Entscheidungsprozesse. Dennoch müssen dabei die nachfolgend aufgeführten rechtlichen Anforderungen beachtet werden.
Rechtliche Anforderungen für den Einsatz von KI-Tools im Recruiting
Die zentralen rechtlichen Rahmenbedingungen bilden der EU KI-Act und die Allgemeine Datenschutzverordnung (DSGVO).
Der EU KI-Act schafft einen verbindlichen Rechtsrahmen auf europäischer Ebene, der auch für Arbeitgeber, die KI-Anwendungen nutzen, von Bedeutung ist. Besonders relevante Aspekte sind:
- Hochrisiko-KI-Systeme: Systeme zur Auswahl oder Bewertung von Bewerbern gelten als Hochrisiko-KI-Systeme und unterliegen daher besonderen Vorschriften. Arbeitgeber müssen sicherstellen, dass solche Systeme ordnungsgemäß verwendet und von qualifiziertem Personal überwacht werden.
- Verbotene Praktiken: Für bestimmte Praktiken ist die Verwendung von KI-Tools ausdrücklich untersagt. Beispielsweise sind KI-Anwendungen, die Emotionen erkennen und bewerten, verboten. Dazu gehören Systeme, die nonverbale Signale wie Gesichtsausdrücke oder Gesten in Video-Interviews analysieren.
Darüber hinaus ist die DSGVO für den Einsatz von KI-Tools im Bewerbungsprozess relevant. Die Verarbeitung personenbezogener Daten muss auf einer rechtlichen Grundlage beruhen und einen bestimmten Zweck verfolgen. Besonders zu beachten ist Artikel 22 der DSGVO, der besagt, dass Personen nicht einer Entscheidung unterworfen werden dürfen, die ausschließlich auf automatisierter Verarbeitung beruht und rechtliche Auswirkungen hat oder sie erheblich beeinflusst.
Hieraus ergibt sich die grundlegende Anforderung an die menschliche Aufsicht, um sicherzustellen, dass die individuellen Umstände eines Bewerbers während des Bewerbungsprozesses angemessen berücksichtigt werden. Arbeitgeber sollten daher KI-Systeme verwenden, die Bewerbungen vorab sortieren und bewerten sowie Empfehlungen abgeben, jedoch keine eigenständigen Entscheidungen über Ablehnungen oder Einstellungen treffen. Die endgültige Entscheidung muss immer von einem Menschen getroffen werden.
Verstöße gegen den EU KI-Act und die DSGVO können mit hohen Geldstrafen geahndet werden. Verstöße gegen den EU KI-Act können mit Bußgeldern von bis zu 15 Millionen Euro oder 3% des weltweiten Jahresumsatzes bestraft werden. Verstöße gegen die DSGVO ziehen noch höhere Geldstrafen nach sich.
Potenzielle Diskriminierung durch KI-Anwendungen
Arbeitgeber sollten sich auch bewusst sein, dass selbst vermeintlich objektive Anwendungen zu diskriminierenden Entscheidungen führen können, indem sie unbewusste Vorurteile reproduzieren oder verstärken, insbesondere wenn die Trainingsdaten nicht ausreichend repräsentativ sind. Wenn beispielsweise Frauen in Führungspositionen in den Trainingsdaten unterrepräsentiert sind, könnte das KI-Tool dies als Norm betrachten und weibliche Bewerber systematisch benachteiligen.
Diskriminierung durch KI ist oft schwer zu erkennen, da sogenannte Proxy-Variablen, wie Wohnort oder Bildungsweg, verwendet werden können, um indirekt sensible Merkmale wie Geschlecht oder ethnische Herkunft zu erschließen, ohne die Daten selbst direkt zu verwenden. Wenn eine Einstellungs- oder Beförderungsentscheidung auf einer Empfehlung beruht, die auf solchen diskriminierenden Annahmen basiert, verstößt dies gegen das Allgemeine Gleichbehandlungsgesetz (AGG). In solchen Fällen hat der betroffene Bewerber Anspruch auf Entschädigung gemäß § 15 (2) AGG.
Fazit
Der Einsatz von KI-Tools im Bewerbungsprozess ermöglicht es Unternehmen, ihre Prozesse zu optimieren und zu rationalisieren. Arbeitgeber sollten jedoch sicherstellen, dass die verwendeten Systeme transparent, nicht diskriminierend und compliant mit den Datenschutzbestimmungen sind. Regelmäßige Systemprüfungen, rechtliche Expertise und die Einrichtung von menschlichen Kontrollmechanismen sind unerlässlich, um rechtliche Fallstricke zu vermeiden und die Vorteile der Technologie voll auszuschöpfen.
Dieser Artikel dient lediglich Informationszwecken und stellt keine rechtliche Beratung dar. Professionelle rechtliche Beratung sollte eingeholt werden, bevor Maßnahmen auf Grundlage des Inhalts dieses Artikels ergriffen oder unterlassen werden.
