Kaliforniens KI-Einstellungsregeln sind jetzt in Kraft – und neue Klagen erweitern das Risiko für Arbeitgeber
Künstliche Intelligenz und automatisierte Entscheidungssysteme (ADS) sind zu gängigen Merkmalen moderner Rekrutierung und Einstellung geworden. Kalifornische Regulierungsbehörden und Gerichte haben zunehmend den Fokus darauf gelegt, wie Arbeitgeber KI-Tools in Einstellungsentscheidungen verwenden und die damit verbundenen rechtlichen Risiken.
Kaliforniens ADS-Regelungen sind jetzt in Kraft
Die Regelungen des kalifornischen Zivilrechtsrates zur Verwendung von ADS im Rahmen des Fair Employment and Housing Act (FEHA) sind seit dem 1. Oktober 2025 in Kraft. Diese Regelungen verbieten nicht die Verwendung von KI oder ADS, sondern verstärken mehrere Grundsätze, die Arbeitgeber bereits in ihre Compliance-Programme integrieren sollten:
- Arbeitgeber sind weiterhin für diskriminierende Ergebnisse verantwortlich, die aus KI-unterstützten Entscheidungen resultieren, selbst wenn die Tools von Drittanbietern entwickelt oder verwaltet werden.
- ADS-gesteuerte Entscheidungen müssen beruflich relevant und im Einklang mit der geschäftlichen Notwendigkeit stehen, wenn sie zu einer unterschiedlichen Auswirkung auf geschützte Gruppen führen.
- Dokumentation, Tests und Aufbewahrung von Unterlagen sind wichtig, insbesondere wenn Arbeitgeber später erklären müssen, wie automatisierte Tools Einstellungsentscheidungen beeinflusst haben.
- Anbieter können als Agenten im Sinne des FEHA betrachtet werden, was die Bedeutung von Sorgfaltspflicht und Vertragsverwaltung erhöht.
Eine neue Haftungstheorie für KI-Einstellungswerkzeuge: Die Klage gegen Eightfold AI
Eine kürzlich eingereichte Sammelklage gegen Eightfold AI hebt einen anderen Bereich des Risikos für Arbeitgeber hervor, die KI-Einstellungswerkzeuge nutzen. Die Kläger behaupten, dass die von Eightfold generierten Bewerberbewertungen und -rankings als „Verbraucherberichte“ im Sinne des Fair Credit Reporting Act (FCRA) und des Investigative Consumer Reporting Agencies Act (ICRAA) fungieren.
Die Klage konzentriert sich auf den Prozess und die Transparenz, nicht nur auf diskriminierende Ergebnisse. Die Kläger behaupten, dass Bewerber keine Offenlegungen erhalten, die Erstellung solcher Berichte nicht autorisiert haben und keinen Zugang zu den Informationen hatten, bevor nachteilige Einstellungsentscheidungen getroffen wurden.
Wenn Gerichte dieser Theorie zustimmen, könnten die Implikationen weit über Eightfold hinausgehen. Jedes Drittanbieter-KI-Tool, das Bewerberdaten zusammenstellt und bewertende Ausgaben produziert, könnte potenziell Verbraucherberichtspflichten auslösen.
Was dies für Arbeitgeber im Jahr 2026 bedeutet
Die ADS-Regelungen in Kalifornien, die Klage gegen Eightfold und ähnliche Entwicklungen zeigen, dass das Risiko im Bereich der KI-Einstellung jetzt mehrere rechtliche Rahmenbedingungen umfasst:
- Antidiskriminierungsgesetze (FEHA und bundesstaatliche Bürgerrechtsstatuten)
- Verbraucherberichterstattungsstatuten, die sich auf Benachrichtigung, Genehmigung und Streitrechte konzentrieren
- Erwartungen an Transparenz und Dokumentation im Zusammenhang mit automatisierten Entscheidungen
Für Arbeitgeber bedeutet dies, dass die Governance von KI sowohl ergebnisorientiert als auch prozessorientiert sein sollte. Praktische Überlegungen sollten Folgendes umfassen:
- Bestandsaufnahme der verwendeten KI- und ADS-Tools im Einstellungsprozess.
- Verständnis der gesammelten, bewerteten oder abgeleiteten Daten durch diese Tools.
- Bewertung, ob KI-Ausgaben als Berichte oder Bewertungen charakterisiert werden können, die wesentlichen Einfluss auf Einstellungsentscheidungen haben.
- Überprüfung von Vereinbarungen mit Anbietern, Offenlegungen und internen Arbeitsabläufen, um sicherzustellen, dass sie mit den Anforderungen der Antidiskriminierung und der prozeduralen Compliance übereinstimmen.
Fazit
KI-gestützte Einstellungswerkzeuge bleiben zulässig und wertvoll, aber die rechtlichen Rahmenbedingungen, die ihre Nutzung betreffen, entwickeln sich weiter. Die ADS-Regelungen in Kalifornien bestätigen, dass KI im Bereich des Antidiskriminierungsrechts eindeutig verankert ist, während aufkommende Klagen wie die gegen Eightfold darauf hindeuten, dass prozedurale Compliance und Transparenz die nächsten großen Herausforderungen im Bereich der KI-basierten Einstellungsrisiken sein könnten.
