KI-Recruiting: ein Audit, fünf Regelwerke

Auf einen Blick

• KI-Recruiting fällt inzwischen unter fünf getrennte Regelwerke: die EU-KI-Verordnung, das deutsche Arbeits- und Datenschutzrecht, das Local Law 144 der Stadt New York, das Gesetz HB 3773 aus Illinois und die kalifornische Regulierung automatisierter Entscheidungssysteme. Jedes definiert den Gegenstand anders.
• Die europäische Frist hat sich verschoben. Die Pflichten für Hochrisikosysteme nach Anhang III wandern vom 2. August 2026 auf den 2. Dezember 2027. Die vier übrigen Regelwerke sind geblieben, wo sie waren.
• Ein jährliches Bias-Audit ist eine Messung, keine Rechtfertigung. Es liefert Impact Ratios, es bescheinigt keine Rechtmäßigkeit.
• Eine unabhängige Studie fand 18 veröffentlichte Auditberichte bei 391 untersuchten New Yorker Arbeitgebern. Die beobachtete Erfüllungsquote liegt nahe null, und genau diese Lücke ist das Risiko.
• Die kalifornische Aufbewahrungsfrist von vier Jahren ist die praktische Untergrenze. Wer den Nachweispfad einmal auf diesem Niveau baut, erfüllt den Großteil der übrigen vier Regelwerke mit.

Was ein automatisiertes Personalentscheidungssystem ist

Die Frage klingt trivial. Sie ist es nicht, weil kein Gesetzgeber die Definition eines anderen übernommen hat. Die EU-KI-Verordnung zieht den weitesten Kreis. Anhang III Nummer 4 erfasst Systeme, die gezielt Stellenanzeigen ausspielen, Bewerbungen filtern, Bewerber bewerten, über Arbeitsbedingungen, Beförderung und Beendigung entscheiden, Aufgaben zuweisen sowie Leistung und Verhalten von Beschäftigten überwachen oder bewerten. Anzeigenausspielung und Aufgabenverteilung liegen damit im europäischen Anwendungsbereich, während sie in New York unsichtbar bleiben. New York hat umgekehrt die erste verbindliche Definition geschrieben und sie bewusst eng gefasst. Erfasst ist ein rechnergestützter Prozess, dessen vereinfachtes Ergebnis eine Ermessensentscheidung über Einstellung oder Beförderung wesentlich unterstützt oder ersetzt. Die Ausführungsvorschriften verengten das weiter: Das vereinfachte Ergebnis muss andere Kriterien überwiegen oder eine menschliche Einschätzung überstimmen. Diese Verengung hat gewirkt. Zahlreiche Arbeitgeber kamen zu dem Schluss, ihr Lebenslauf-Parser informiere die Personalabteilung lediglich und unterstütze die Entscheidung nicht wesentlich, falle also nicht unter das Gesetz. Kalifornien ging den entgegengesetzten Weg. Die seit dem 1. Oktober 2025 geltenden Vorschriften erfassen jeden rechnergestützten Prozess, der eine Entscheidung über eine beschäftigungsbezogene Leistung trifft oder eine menschliche Entscheidung darüber erleichtert. Erleichtern ist eine erheblich niedrigere Schwelle als wesentlich unterstützen.

Die Definitionen decken sich nicht, und das ist das erste Problem

Dasselbe Vorauswahlsystem kann am selben Tag in New York außerhalb, in Kalifornien innerhalb des Anwendungsbereichs und in der Union als Hochrisikosystem eingestuft sein. Einen einheitlichen Test gibt es nicht. Die Einordnung muss deshalb je System und je Regelwerk erfolgen und vor allem schriftlich festgehalten werden, denn genau diese Bewertung prüft eine Aufsichtsbehörde zuerst. Ein einziges günstiges Einordnungsgutachten als globale Antwort zu behandeln, ist der häufigste Fehler.

Die fünf Regelwerke für KI-Recruiting

KI-Recruiting wird nicht von einem Gesetz mit fünf Anhängen geregelt, sondern von fünf Gesetzen, die unabhängig voneinander, in verschiedenen Jahren und zur Lösung verschiedener Probleme entstanden sind.

Die EU-KI-Verordnung, Anhang III Nummer 4

Beschäftigung und Personalmanagement bilden einen der acht Hochrisikobereiche des Anhangs III. Artikel 6 Absatz 2 lässt keinen Auslegungsspielraum: „Zusätzlich zu den in Absatz 1 genannten Hochrisiko-KI-Systemen gelten die in Anhang III genannten KI-Systeme als hochriskant.“ Mit dieser Einstufung greift der gesamte Pflichtenkatalog des Kapitels III: Risikomanagementsystem, Daten-Governance, Protokollierung, technische Dokumentation, menschliche Aufsicht und Beobachtung nach dem Inverkehrbringen. Unser Praxisleitfaden zur EU-KI-Verordnung behandelt die Aufteilung zwischen Anbieter und Betreiber im Detail.

Deutsches Recht: Betriebsrat, AGG und BDSG

Dies ist die Ebene, die angelsächsische Analysen regelmäßig übersehen, und sie gilt heute, nicht erst 2027. Entscheidend ist § 87 Absatz 1 Nummer 6 des Betriebsverfassungsgesetzes. Der Betriebsrat hat ein echtes Mitbestimmungsrecht bei der Einführung und Anwendung technischer Einrichtungen, die dazu bestimmt sind, Verhalten oder Leistung der Beschäftigten zu überwachen. Die Rechtsprechung legt das Merkmal weit aus: Es genügt die objektive Eignung zur Überwachung. Ein System, das Bewerbungen bewertet oder Leistung misst, erfüllt dieses Merkmal regelmäßig. Ohne Betriebsvereinbarung ist die Einführung mitbestimmungswidrig, unabhängig davon, ob das Modell messbare Verzerrungen aufweist. Hinzu treten § 26 BDSG für die Verarbeitung von Beschäftigtendaten und das Allgemeine Gleichbehandlungsgesetz. Das AGG verlagert bei Vorliegen von Indizien die Beweislast auf den Arbeitgeber. Wer ein Vorauswahlsystem einsetzt und dessen Auswahlquoten nie gemessen hat, kann diesen Entlastungsbeweis kaum führen. Genau hier wird das Bias-Audit vom US-Formalismus zum deutschen Eigeninteresse.

New York: Local Law 144

Seit Juli 2023 in Kraft und Vorlage für die übrigen Texte. Ein Arbeitgeber darf ein solches System nur einsetzen, wenn innerhalb der letzten zwölf Monate ein unabhängiges Bias-Audit stattgefunden hat, eine Zusammenfassung der Ergebnisse veröffentlicht wurde und Bewerber mindestens zehn Werktage vor dem Einsatz informiert worden sind. Die Bußgelder erreichen 1.500 US-Dollar je Verstoß, wobei jeder Tag fortgesetzter Nutzung als eigener Verstoß zählt.

Illinois und Kalifornien

HB 3773 gilt in Illinois seit dem 1. Januar 2026 und verbietet den Einsatz von KI, die eine diskriminierende Wirkung entfaltet. Ein Audit ist nicht vorgesehen, das Ergebnis selbst ist der Verstoß. Untersagt ist zudem die Postleitzahl als Stellvertretermerkmal für ein geschütztes Merkmal. In Kalifornien gelten die Vorschriften seit dem 1. Oktober 2025 für Arbeitgeber ab fünf Beschäftigten. Drei Punkte zählen praktisch: Der Nachweis proaktiver Bias-Tests ist verteidigungsrelevant, das Verhalten des Anbieters kann dem Arbeitgeber zugerechnet werden, und die Aufbewahrungsfrist für Personalunterlagen steigt von zwei auf vier Jahre, einschließlich der Bewerberstromdaten.

Colorado

Das Gesetz von Colorado greift in geänderter Fassung ab 2027 und folgt einer Sorgfaltspflichtlogik statt eines Veröffentlichungsmodells. Wir behandeln es in unserem Beitrag zum Colorado AI Act.

Die Frist, die sich verschoben hat, und die vier, die geblieben sind

Der 2. August 2026 sollte der Stichtag für die Hochrisikopflichten des Anhangs III sein. Das ist er nicht mehr. Im Rahmen des Digital Omnibus stimmte das Europäische Parlament am 16. Juni 2026 mit 423 zu 57 Stimmen bei 174 Enthaltungen zu, und der Rat erteilte am 29. Juni 2026 die endgültige Zustimmung. Eigenständige Hochrisikosysteme des Anhangs III, worunter Recruiting-Systeme fallen, rücken auf den 2. Dezember 2027, eine Verschiebung um sechzehn Monate. In regulierte Produkte eingebettete Systeme nach Anhang I rücken auf den 2. August 2028. Drei Dinge haben sich nicht verschoben. Die verbotenen Praktiken gelten seit dem 2. Februar 2025 ohne Übergangsfrist. Emotionserkennung am Arbeitsplatz steht auf dieser Liste und nicht in der Hochrisikokategorie. Ein System, das die Begeisterung einer Bewerberin aus einem Videointerview ableitet, ist damit bereits unzulässig und nicht bloß reguliert. Das nationale Recht bleibt unberührt. Artikel 2 Absatz 11 der Verordnung stellt ausdrücklich klar, dass die Mitgliedstaaten Vorschriften beibehalten oder einführen dürfen, die für Arbeitnehmer im Hinblick auf den Einsatz von KI-Systemen durch Arbeitgeber günstiger sind, und dass günstigere Kollektivvereinbarungen zulässig bleiben. Mitbestimmung, AGG und BDSG laufen also unverändert weiter. Und die vier US-Regelwerke sind ohnehin geblieben. Ein Punkt dämpft die Erleichterung zusätzlich: Der Aufschub wurde vor allem gewährt, weil die harmonisierten technischen Normen nicht fertig sind. Der Maßstab, an dem ein Arbeitgeber später gemessen wird, wird noch geschrieben. Die sechzehn Monate verbrauchen die Normungsgremien, sie werden nicht den Betreibern geschenkt.

Was ein Bias-Audit tatsächlich misst

Das vom Local Law 144 verlangte Audit ist eine genau umrissene statistische Übung, und wer ihre Form kennt, unterscheidet ein nützliches Audit von einem teuren. Die prüfende Stelle berechnet die Auswahlquote je Kategorie nach Geschlecht, Rasse und Ethnie, also den Anteil der ausgewählten Bewerber innerhalb der Gruppe. Bei einem System, das bewertet statt auswählt, berechnet sie den Durchschnittswert je Gruppe. Daraus ergibt sich die Impact Ratio: die Auswahlquote einer Gruppe geteilt durch die Auswahlquote der am häufigsten ausgewählten Gruppe. Gelesen wird das Ergebnis an der Vier-Fünftel-Regel. Eine Impact Ratio unter 80 Prozent kann auf eine benachteiligende Wirkung hindeuten. Es handelt sich um eine Screening-Heuristik, nicht um einen Rechtsmaßstab. Zwei Details verdienen mehr Aufmerksamkeit, als sie erhalten. Die prüfende Stelle darf jede Kategorie ausschließen, die weniger als 2 Prozent der Auditdaten ausmacht, was kleine Gruppen unauffällig aus der Rechnung nimmt, also genau dort, wo Diskriminierung am schwersten nachweisbar ist. Und die Unabhängigkeit hat Substanz: Die prüfende Stelle darf kein finanzielles Interesse an dem System haben, und ein Anbieter darf sein eigenes Produkt nicht prüfen.

Was das Audit nicht leistet

Es ist keine Konformitätsbescheinigung. Es schafft keinen Schutz nach Title VII und keine Vermutungswirkung nach dem AGG. Und es ist eine Jahresmomentaufnahme eines Systems, das oft quartalsweise nachtrainiert wird. Die elf Monate zwischen zwei Audits sind der Zeitraum, in dem die Drift entsteht. Die zugrunde liegenden Mechanismen behandeln unsere Beiträge zu KI-Bias und algorithmischer Verzerrung.

Die US-Bundesebene, die niemand abgeschafft hat

Am 27. Januar 2025 hat die EEOC ihre KI-Leitlinien vom Mai 2023 von der Website genommen, nachdem die vorherige Präsidialverfügung zur künstlichen Intelligenz aufgehoben worden war. Anschließend leitete die Behörde die Schließung anhängiger Verfahren wegen benachteiligender Wirkung ein. Manche deutschen Konzerne mit US-Tochtergesellschaft lasen das als Erledigung der Bundesebene. Diese Lesart trägt nicht. Das Verbot mittelbar benachteiligender Praktiken steht im Title VII, einem formellen Gesetz. Die Uniform Guidelines on Employee Selection Procedures und ihre Validierungsanforderungen gelten für jedes Auswahlverfahren, ob algorithmisch oder nicht, und beide Texte wurden nicht geändert. Leitlinien erläutern Recht, sie setzen es nicht, und ihr Rückzug hebt nichts auf. Geändert hat sich die Verfolgungspraxis des Bundes, nicht der Maßstab. Private Kläger, Sammelklagen und die Generalstaatsanwälte der Bundesstaaten handeln unabhängig von den Prioritäten der EEOC. Der Rückzug der Veröffentlichung hat den geltenden Maßstab schlechter lesbar gemacht, ohne ihn weniger verbindlich zu machen. Für eine Compliance-Funktion ist das die unbequemere Lage, nicht die bequemere.

Ein Nachweispfad für fünf Regelwerke

Fünf Regelwerke, fünf Definitionen, drei Haftungslogiken. Fünf getrennte Compliance-Projekte sind nicht durchhaltbar. Ein einziger Nachweispfad ist es, weil die Texte weitgehend deckungsgleiche Artefakte unter verschiedenen Namen verlangen.

1. Jedes System erfassen, das Menschen bewertet, sortiert, filtert oder überwacht. Dazu gehören Funktionen, die innerhalb eines Bewerbermanagement- oder HR-Systems aktiviert wurden und die nie als KI beschafft worden sind. Dort sitzt der größte Teil des nicht erfassten Risikos. Unser Beitrag zu Schatten-KI beschreibt das Vorgehen.
2. Die Einordnung je Regelwerk schriftlich vornehmen. Dasselbe System erhält fünf Antworten. Begründung und Unterzeichner festhalten.
3. Eine strukturierte Vorabbewertung durchführen. Artikel 27 der KI-Verordnung liefert eine auch außerhalb der Union brauchbare Vorlage: Beschreibung der Prozesse des Betreibers, Zeitraum und Häufigkeit der Nutzung, Kategorien betroffener Personen, konkrete Schadensrisiken, umgesetzte Maßnahmen der menschlichen Aufsicht sowie Regelungen zu interner Governance und Beschwerdemechanismen. Das Verhältnis zur Datenschutz-Folgenabschätzung behandelt unser Beitrag zum Unterschied zwischen PIA, DSFA und Grundrechte-Folgenabschätzung.
4. Unabhängige Bias-Tests beauftragen und die Artefakte aufbewahren, nicht nur die Zusammenfassung: Auswahl- und Bewertungsquoten, Impact Ratios, Methodik, Unabhängigkeitserklärung, veröffentlichtes Ergebnis. Unser Beitrag zum KI-Audit behandelt die Auswahl der prüfenden Stelle.
5. Menschliche Aufsicht wirksam ausgestalten. Artikel 14 verlangt, dass Hochrisikosysteme so entwickelt werden, dass sie während ihrer Verwendung von natürlichen Personen wirksam beaufsichtigt werden können. Wer eine Rangliste abzeichnet, ohne die Zeit oder die Möglichkeit zu haben, ihr zu widersprechen, beaufsichtigt nichts. Die Unterscheidung behandelt unser Beitrag zu Human-in-the-Loop und Human-on-the-Loop.
6. Nachweise der Information aufbewahren, und zwar vier Jahre. Die kalifornische Frist als globale Untergrenze zu setzen erspart fünf parallele Fristenkalender und deckt die deutschen Dokumentationsinteressen nach AGG mit ab.
7. Den Anbietervertrag nachschärfen. Er muss zur Mitwirkung an Ihrem Audit verpflichten, Zugriff auf die für die Impact Ratios nötigen Daten gewähren, die Meldung wesentlicher Modelländerungen vorsehen und benennen, wer prüft. Da ein Anbieter sein eigenes System nicht prüfen darf, bedeutet Schweigen an dieser Stelle, dass niemand geprüft hat.
8. Zwischen den Audits überwachen. Auswahlquoten laufend verfolgen, damit das Jahresaudit bestätigt, was Sie bereits wussten, statt es elf Monate zu spät aufzudecken. Das ist gewöhnliches KI-Risikomanagement, angewandt auf einen Bewerbungstrichter.

Dieser Pfad ist ein einziges Programm. Aus denselben Vorgängen entstehen das New Yorker Audit, der Wirkungsnachweis für Illinois, der kalifornische Aufbewahrungsbestand, die Sorgfaltsdokumentation für Colorado, die technische Dokumentation nach Anhang III und die Unterlagen für die Verhandlung mit dem Betriebsrat.

Die Quote, die niemand zitiert

Das stärkste Argument für einen ernsthaften Aufbau liefert die Forschung über alle anderen. Eine auf der ACM-Konferenz für Fairness, Rechenschaft und Transparenz vorgestellte Studie untersuchte, wie Arbeitgeber auf das Local Law 144 reagierten. Von 391 untersuchten Arbeitgebern, geprüft durch 155 Erhebende in einer Kooperation des CAT Lab der Cornell University, des Data & Society Research Institute und von Consumer Reports, hatten 18 einen Auditbericht und 13 einen Transparenzhinweis veröffentlicht. Nur elf hatten beides in einer den Anforderungen genügenden Form publiziert. Zwei Lesarten sind möglich. Die beruhigende: Die Durchsetzung ist schwach, das Risiko rechnerisch gering. Die zutreffende: Ein nahezu vollständiges Fehlen veröffentlichter Audits in einem vollständig regulierten Markt ist kein stabiler Zustand, und wer veröffentlicht, ist nicht das Ziel. Wirklich exponiert sind die Organisationen, die sich für nicht betroffen erklärt und die Begründung nirgends festgehalten haben.

Häufige Fragen

Was ist ein automatisiertes Personalentscheidungssystem? Jede Software, die mit maschinellem Lernen, Statistik, Datenanalyse oder KI eine Bewertung, Rangfolge oder Empfehlung erzeugt, die eine menschliche Entscheidung über Einstellung oder Beförderung wesentlich unterstützt oder ersetzt. In der Praxis: Lebenslauf-Parser, Matching-Systeme, Testauswertung, Analyse von Videointerviews und Teile des Active Sourcing. Ob ein konkretes System darunterfällt, hängt von der Rechtsordnung ab, denn New York, Kalifornien und die Union legen drei verschiedene Schwellen an. Hat der Betriebsrat beim KI-Recruiting ein Mitbestimmungsrecht? In aller Regel ja. Nach § 87 Absatz 1 Nummer 6 BetrVG besteht ein Mitbestimmungsrecht bei technischen Einrichtungen, die zur Überwachung von Verhalten oder Leistung geeignet sind, und die Rechtsprechung lässt die objektive Eignung genügen. Ein Bewertungs- oder Vorauswahlsystem erfüllt das regelmäßig. Praktisch bedeutet das eine Betriebsvereinbarung vor dem Rollout. Dieses Recht gilt heute und wird von der Verschiebung der europäischen Frist auf Dezember 2027 nicht berührt. Beseitigt die Verschiebung der KI-Verordnung die Pflichten für Recruiting-Systeme? Nein, sie verschiebt das Datum. Eigenständige Hochrisikosysteme des Anhangs III haben nun bis zum 2. Dezember 2027 statt bis zum 2. August 2026 Zeit, bestätigt durch den Rat am 29. Juni 2026. Die verbotenen Praktiken einschließlich der Emotionserkennung am Arbeitsplatz gelten seit Februar 2025 und wurden nicht verschoben. Mitgliedstaaten dürfen nach Artikel 2 Absatz 11 günstigere Arbeitnehmerschutzregeln beibehalten. Und deutsches Mitbestimmungs- und Gleichbehandlungsrecht gilt ohnehin sofort. Macht ein jährliches Bias-Audit ein System rechtskonform? Nein. Es erfüllt eine bestimmte Anforderung eines bestimmten Gesetzes und berechnet Impact Ratios zu einem Zeitpunkt. Es validiert das System nicht als arbeitsplatzbezogen und sachlich gerechtfertigt, es schafft keinen Schutz nach Title VII, und es sagt nichts über den Wirkungsmaßstab aus Illinois oder die europäischen Hochrisikopflichten. Das Auditzertifikat für eine Konformitätsaussage zu halten, ist der häufigste Fehler in diesem Feld. Wer haftet, wenn das System eines Anbieters diskriminiert? In erster Linie der Arbeitgeber, und zwar in allen fünf betrachteten Regelwerken. New York adressiert den einsetzenden Arbeitgeber. Die kalifornischen Vorschriften sehen die Zurechnung des Anbieterverhaltens vor. Die KI-Verordnung teilt die Pflichten zwischen Anbieter und Betreiber, doch der Betreiber, definiert als die Stelle, die das System unter eigener Verantwortung verwendet, trägt die einsatzbezogenen Pflichten. Nach AGG trifft die Beweislastumkehr ebenfalls den Arbeitgeber, nicht den Softwarelieferanten. Gelten diese Regeln auch ohne US-Bezug? Ja, über mindestens zwei Wege. Mitbestimmung, AGG, BDSG und DSGVO greifen sofort, ohne Übergangsfrist. Und die KI-Verordnung erfasst ab Dezember 2027 jedes Vorauswahl- oder Bewertungssystem nach Anhang III Nummer 4. Die US-Texte betreffen nur Unternehmen mit dortiger Gesellschaft oder dortigen Bewerbern, liefern aber den strengsten und damit für die Kalibrierung eines einheitlichen Nachweispfads nützlichsten Maßstab.

Fazit

KI-Recruiting ist derzeit die am dichtesten regulierte Kategorie unternehmerischer KI, und zugleich diejenige, die am ehesten ohne Beschaffungsentscheidung in einer bestehenden HR-Plattform aktiviert wurde. Fünf Regelwerke greifen darauf zu, mit drei unvereinbaren Haftungslogiken, und die Frist, die sich soeben verschoben hat, war die einzige, die Entlastung versprach. Skalierbar ist nicht die Antwort mit fünf Compliance-Projekten. Skalierbar ist ein Inventar, eine Einordnung je Regelwerk, eine Bewertungsstruktur, ein unabhängiger Test mit aufbewahrten Artefakten, eine Aufbewahrungsfrist von vier Jahren und eine Vertragsvorlage. Jedes der genannten Regelwerke lässt sich aus dieser einen Kette bedienen. AI Sigil ist darauf ausgelegt, diese Kette zu tragen: Systeminventar, Klassifizierung je Rahmenwerk, Kontrollzuordnung und prüffähige Nachweise über alle für Sie einschlägigen Regelwerke hinweg. Wenn Sie sehen möchten, wie sich Ihr Recruiting-Stack auf alle fünf abbildet, beginnen Sie mit unserem KI-Governance-Rahmenwerk.