Arbeiter stellen ‚versteckte‘ KI-Einstellungstools in einer Sammelklage mit erheblichen regulatorischen Folgen in Frage
Arbeiter sind zunehmend unzufrieden mit KI-gestützten Einstellungsverfahren. Eine neue Sammelklage, die in Kalifornien eingereicht wurde, behauptet, dass menschliche Bewerber unfair von ‚versteckten‘ KI-Einstellungstechnologien profiliert werden, die im Hintergrund Informationen über ahnungslose Bewerber sammeln.
Die Klage richtet sich insbesondere gegen ein Unternehmen, das diese Technologien anbietet, und fordert, dass deren Werkzeuge ähnlich wie Kreditberichterstattungsbüros reguliert werden. Die Klage könnte weitreichende Auswirkungen auf die zunehmende Nutzung von KI im Einstellungsprozess haben.
Die Klage und ihre Auswirkungen
Die Klage wurde von einer Rechtsanwaltskanzlei im Namen zweier Kläger eingereicht, die behaupten, sie seien mehrfach von Unternehmen, die KI-gestützte Einstellungstools verwenden, von der Anstellung ausgeschlossen worden. Die Klage behauptet, dass das Unternehmen gegen bundesstaatliche und staatliche Gesetze zur fairen Kreditvergabe und Verbraucherschutz sowie gegen Gesetze zum unlauteren Wettbewerb verstoßen hat, indem es Daten über Bewerber gesammelt und Berichte über sie verkauft hat.
Diese Praktiken können tiefgreifende Folgen für Arbeitssuchende in den USA haben. Das Unternehmen vermarktet sich als die „größte selbstaktualisierende Quelle für Talentdaten“ und nutzt eine riesige Menge an globalen Datenpunkten, um Kandidaten zu bewerten.
Intransparente Praktiken
Die Berichte, die durch die KI-Algorithmen erstellt werden, sind für die Bewerber nicht einsehbar, und sie haben keine Möglichkeit, deren Inhalt zu bestreiten, bevor sie an die Personalverantwortlichen weitergegeben werden. Dies führt dazu, dass niedrig bewertete Kandidaten oft abgelehnt werden, bevor ein Mensch ihre Bewerbung überhaupt betrachtet.
Die Klage argumentiert, dass diese Methode der Berichtserstellung gegen die Anforderungen des Fair Credit Reporting Act verstößt. Der Fair Credit Reporting Act definiert Verbraucherberichte als jede Art von Kommunikation, die Informationen über eine Person enthält, um deren Zugang zu Kredit und Versicherung sowie für Einstellungszwecke zu bestimmen.
Regulatorische Herausforderungen
Die Kläger argumentieren, dass die bestehenden Gesetze nicht für die Verwendung von KI bei der Einstellung ausgelegt sind und dass Unternehmen wie das in der Klage genannte verpflichtet sind, ihre Praktiken offenzulegen und den Verbrauchern die Möglichkeit zu geben, Berichte zu überprüfen und zu korrigieren. Dies könnte die Einstellung in ein reguliertes Gebiet führen, was bedeutet, dass Personalverantwortliche Klarheit schaffen und Regeln zur Benachrichtigung, Transparenz, Auditrechten und Anfechtbarkeit festlegen müssen.
Fazit
Diese Klage zeigt eine grundlegende Rechenschaftspflichtslücke auf. Während KI in der Einstellung nützlich sein kann, wird es problematisch, wenn sie in Bereiche des Urteils vordringt. Ein verantwortungsvoller Umgang mit KI in der Personalbeschaffung erfordert, dass Unternehmen die menschliche Rolle als verantwortlichen Akteur wiederherstellen und sicherstellen, dass Entscheidungen nachvollziehbar sind.
