KI im Recruiting: Wichtige Aspekte für Arbeitgeber in Bulgarien und der EU

KI im Recruiting: Wichtige Überlegungen für Arbeitgeber in Bulgarien und der EU

Künstliche Intelligenz (KI) prägt zunehmend die Recruiting-Praktiken und verändert die Art und Weise, wie Organisationen Kandidaten bewerten und auswählen. KI-Tools bieten einen datengestützten und effizienten Ansatz zur Talentsuche, der verspricht, den Einstellungsprozess zu optimieren, menschliche Vorurteile zu reduzieren und Unternehmen dabei zu unterstützen, Kandidaten schnell und genau zu identifizieren.

Gleichzeitig bringt der zunehmende Einsatz von KI im Recruiting Herausforderungen mit sich, wie z.B. algorithmische Vorurteile, Transparenz und den Schutz personenbezogener Daten, die Berücksichtigung erfordern und die Bedeutung der regulatorischen Konformität hervorheben. Da der EU KI-Gesetz (Verordnung (EU) 2024/1020) strengere Standards festlegt, müssen Organisationen in Bulgarien und der EU die Vorteile technologischen Fortschritts mit Fairness, Transparenz und Respekt für die Rechte der Kandidaten in Einklang bringen.

Regulatorische Rahmenbedingungen

Da KI in verschiedene Geschäftsprozesse, einschließlich Recruiting, integriert wird, müssen Organisationen in Bulgarien und der EU ein komplexes regulatorisches Umfeld navigieren. Zwei wichtige Vorschriften gelten für den Einsatz von KI-Systemen bei der Einstellung: das KI-Gesetz (EU-Verordnung 2024/1020) und die Allgemeine Datenschutzverordnung (GDPR) (EU-Verordnung 2016/679).

KI-Systeme, die für das Recruiting oder die Auswahl von Kandidaten vorgesehen sind, werden gemäß dem KI-Gesetz als „hochriskant“ eingestuft. Ihr Einsatz muss daher strengen Compliance-Anforderungen genügen, die darauf abzielen, Fairness zu gewährleisten, Transparenz sicherzustellen und grundlegende Rechte zu schützen.

Verantwortlichkeiten der Arbeitgeber

Unter dem KI-Gesetz werden Organisationen, die KI-Systeme nutzen (z.B. Arbeitgeber und Personalvermittlungsagenturen), im Allgemeinen als „Bereitsteller“ betrachtet. Sie können jedoch als „Anbieter“ umklassifiziert werden und unterliegen strengeren Verpflichtungen, wenn sie:

• ihren Namen oder ihre Marke auf einem hochriskanten KI-System anbringen, das bereits auf dem Markt ist oder in Betrieb genommen wurde (es sei denn, ein Vertrag weist diese Verantwortlichkeiten eindeutig anders zu);
• eine wesentliche Änderung am System vornehmen; oder
• den vorgesehenen Zweck des KI-Systems ändern.

Wichtige Compliance-Verpflichtungen für Bereitsteller

Bereitsteller von hochriskanten KI-Systemen für das Recruiting müssen eine Reihe von Verpflichtungen einhalten, die mit den Anforderungen der GDPR für automatisierte Entscheidungsfindung und Profiling übereinstimmen:

1. Transparenz- und Benachrichtigungspflichten:

• Kandidaten und Mitarbeiter darüber informieren, dass sie einem hochriskanten KI-System unterliegen, bevor es eingesetzt wird;
• Klare Informationen über den Zweck, die Fähigkeiten und die Einschränkungen des Systems bereitstellen;
• Compliance mit den Transparenzanforderungen der GDPR sicherstellen, einschließlich des Rechts auf Information, Zugang und Anfechtung automatisierter Entscheidungen.

2. Menschliche Aufsicht:

• Geschultes Personal mit ausreichender Autorität zur Überwachung des KI-Systems zuweisen;
• Sicherstellen, dass sie die Ausgaben interpretieren und das System bei Bedarf eingreifen oder aussetzen können;
• Die Aufsicht muss aktiv und informiert sein, nicht formalistisch.

3. Datenqualität und Vorurteilsminderung:

• Die Eingabedaten müssen relevant und repräsentativ sein und Vorurteile in der Einsatzphase mildern, was interne Audits oder Validierungsverfahren erforderlich machen kann;
• Vorurteilsprüfungen sind ratsam, um sicherzustellen, dass die Daten nicht zu diskriminierenden Ergebnissen führen;
• Mit den Prinzipien der GDPR zu Datenminimierung und -genauigkeit übereinstimmen.

4. Technische und organisatorische Maßnahmen:

• Das System nur gemäß den Anweisungen des Anbieters verwenden (Verstöße könnten dazu führen, dass der Bereitsteller als Anbieter qualifiziert wird);
• Schutzmaßnahmen implementieren, um Missbrauch oder unbeabsichtigte Folgen zu verhindern;
• Den Betrieb aussetzen, wenn das System ein Risiko oder eine Fehlfunktion darstellt, und den Anbieter, Distributor und die zuständige Marktüberwachungsbehörde informieren.

5. Dokumentations- und Überwachungspflichten:

• Protokolle über die Systemoperationen mindestens sechs Monate lang aufbewahren (sofern die Protokolle unter der Kontrolle des Bereitstellers stehen);
• Die Leistung kontinuierlich überwachen, um Anomalien oder Risiken zu erkennen und die Anbieter zu informieren;
• Mit den Marktüberwachungsbehörden zusammenarbeiten und auf Anfrage Dokumentation bereitstellen.

6. Folgenabschätzungsverpflichtungen:

• Vor der ersten Nutzung eine Folgenabschätzung der grundlegenden Rechte im Rahmen der Datenschutz-Folgenabschätzung durchführen. Der Bereitsteller kann sich auf zuvor durchgeführte Folgenabschätzungen oder bestehende Bewertungen des Anbieters stützen.

7. KI-Kompetenz und Schulungsverpflichtungen:

• Maßnahmen ergreifen, um ein ausreichendes Maß an KI-Kompetenz bei Mitarbeitern und anderen Personen, die mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, sicherzustellen. Alle Mitarbeiter, die an KI-Operationen beteiligt sind, müssen eine angemessene Schulung erhalten.

Respektierung der Rechte der Kandidaten gemäß der GDPR

Bereitsteller müssen die Rechte der Kandidaten gemäß der GDPR wahren, insbesondere die in Artikel 22, die Einzelpersonen Schutz vor Entscheidungen gewähren, die ausschließlich auf automatisierter Verarbeitung basieren. Wo eine solche Verarbeitung zulässig ist, müssen den Kandidaten folgende Rechte garantiert werden:

• das Recht auf menschliches Eingreifen;
• das Recht, ihre Sichtweise darzulegen;
• das Recht, eine Entscheidung anzufechten.

Diese Sicherheitsvorkehrungen sind besonders wichtig im Recruiting, wo KI-gesteuerte Entscheidungen erhebliche Auswirkungen auf die Karrieren und Lebensunterhalte von Einzelpersonen haben können.

Hochrisikante KI-Systeme haben das Potenzial, das Recruiting zu transformieren, indem sie Prozesse optimieren und bessere Entscheidungen unterstützen. Doch dieses Potenzial kann nur verwirklicht werden, wenn Organisationen KI-Technologie verantwortungsvoll im Einklang mit der GDPR und dem KI-Gesetz anwenden. Compliance schützt nicht nur die Rechte der Kandidaten und verringert rechtliche Risiken, sondern fördert auch das Vertrauen in KI-gestützte Einstellungen.