„No Robo Bosses Act“: Ein Gesetzesentwurf in Kalifornien zur Begrenzung des Einsatzes von KI-Systemen bei Einstellungsentscheidungen
Ein neuer Gesetzesentwurf in Kalifornien, bekannt als SB 7, zielt darauf ab, die Verwendung von künstlicher Intelligenz (KI) bei entscheidungsrelevanten Prozessen in der Personalwirtschaft zu regulieren. Dieser Gesetzesentwurf wurde von einem kalifornischen Senator vorgeschlagen und soll die Entscheidungsfindung bei Einstellungen, Förderungen, Disziplinarmaßnahmen und Kündigungen einschränken.
Definition des automatisierten Entscheidungssystems
Das Gesetz definiert ein automatisiertes Entscheidungssystem (ADS) als jeden rechnergestützten Prozess, der auf maschinellem Lernen, statistischer Modellierung, Datenanalyse oder künstlicher Intelligenz basiert und der vereinfachte Ausgaben, wie z.B. Bewertungen, Klassifikationen oder Empfehlungen, erzeugt, die zur Unterstützung oder zum Ersatz menschlicher Entscheidungsfindung verwendet werden. Diese Systeme dürfen nicht diskriminierend wirken oder gegen geltende Gesetze verstoßen.
Wesentliche Bestimmungen des Gesetzes
Der Gesetzesentwurf SB 7 beinhaltet mehrere wesentliche Regelungen:
- Arbeitgeber sind verpflichtet, mindestens 30 Tage vor der Einführung eines ADS eine verständliche, eigenständige Mitteilung an Arbeitnehmer, Auftragnehmer und Bewerber zu senden.
- Arbeitgeber müssen eine Liste aller verwendeten ADS führen und diese Liste in der Mitteilung an die betroffenen Personen einfügen.
- Die primäre Verwendung von ADS für Einstellungen, Förderungen, Disziplinarmaßnahmen oder Kündigungen wird untersagt.
- Arbeitgeber dürfen keine ADS verwenden, die gegen geltende Gesetze verstoßen oder geschützte Merkmale ableiten.
- Arbeitnehmer haben das Recht, die gesammelten Daten einzusehen und Fehler zu berichtigen.
- Arbeitnehmer können gegen Entscheidungen, die unter Verwendung eines ADS getroffen wurden, Einspruch erheben und verlangen, dass ein menschlicher Prüfer die Entscheidung überprüft.
- Das Gesetz schafft Durchsetzungsmechanismen gegen die Entlassung, Diskriminierung oder Vergeltung von Arbeitnehmern, die ihre Rechte gemäß SB 7 ausüben.
Zusammenarbeit mit dem California Civil Rights Council
Ähnlich wie SB 7 hat der California Civil Rights Council Vorschriften vorgeschlagen, die die Mitarbeiter vor Diskriminierung, Belästigung und Vergeltung im Zusammenhang mit dem Einsatz von ADS schützen sollen. Diese Vorschriften zielen darauf ab, diskriminierende Praktiken zu verhindern, die auf der Grundlage geschützter Klassen basieren.
Aktueller Stand des Gesetzesentwurfs
Der Gesetzesentwurf befindet sich derzeit in der Anfangsphase und wird am 9. April 2025 in einem ersten Ausschuss behandelt. Die Auswirkungen des Gesetzes auf den Arbeitsmarkt und die Personalpraktiken könnten erheblich sein, und andere Bundesstaaten könnten ähnliche Regelungen übernehmen. Daher ist SB 7 ein Gesetz, das man im Auge behalten sollte.
