McNerney führt den No Robo Bosses Act von 2026 ein, um menschliche Aufsicht von KI am Arbeitsplatz sicherzustellen
Der Senator hat am Montag SB 947, den No Robo Bosses Act von 2026, eingeführt – eine wegweisende Gesetzgebung, die menschliche Aufsicht über künstliche Intelligenzsysteme am Arbeitsplatz vorschreibt, um Missbrauch zu verhindern.
Gesetzliche Bestimmungen
SB 947 verbietet es Arbeitgebern in Kalifornien, sich ausschließlich auf automatisierte Entscheidungssysteme (ADS) zu verlassen, um Mitarbeiter zu entlassen oder zu disziplinieren. Bei der Verwendung von ADS zur Unterstützung bei Entlassungs- und Disziplinarentscheidungen ist zudem menschliche Aufsicht und unabhängige Überprüfung erforderlich.
Darüber hinaus untersagt SB 947 die Verwendung von ADS, die persönliche Informationen von Mitarbeitern nutzen, um vorherzusagen, was diese in Zukunft tun werden.
Notwendigkeit von Aufsicht
„Arbeitgeber nutzen zunehmend KI, um die Produktivität zu steigern und Kosten zu sparen, aber es gibt keine Schutzmaßnahmen, um Schäden für die Arbeitnehmer zu verhindern“, so der Senator. „SB 947 etabliert vernünftige Sicherheitsvorkehrungen, um sicherzustellen, dass kalifornische Unternehmen nicht auf Robo-Bosse zurückgreifen, um Mitarbeiter zu entlassen oder zu disziplinieren. KI muss ein von Menschen kontrolliertes Werkzeug bleiben, nicht umgekehrt.“
SB 947 wird von der kalifornischen Gewerkschaftsföderation, AFL-CIO, unterstützt.
Probleme mit automatisierten Systemen
Arbeitgeber weltweit setzen zunehmend ADS ein, aber diese Systeme sind, wie andere Arten von KI, fehleranfällig. Beispielsweise haben ADS fälschlicherweise Mitarbeiter entlassen. Einige ADS-Systeme verwenden sogenannte „prädiktive Verhaltensmodelle“, die persönliche Daten sammeln, um Mitarbeiter zu profilieren, und möglicherweise nachteilige Maßnahmen gegen einen Mitarbeiter einleiten, basierend auf den Vorhersagen des Systems.
Schutzmaßnahmen von SB 947
SB 947 etabliert notwendige Schutzmaßnahmen für KI am Arbeitsplatz, indem es:
- Arbeitgebern verbietet, sich ausschließlich auf ADS zur Entscheidungsfindung über Entlassungen oder Disziplinarmaßnahmen zu verlassen.
- Die menschliche Aufsicht und unabhängige Überprüfung bei Entlassungs- und Disziplinarentscheidungen vorschreibt.
- Die Verwendung von ADS zur Analyse prädiktiven Verhaltens von Mitarbeitern untersagt.
- Arbeitgeber verpflichtet, Mitarbeiter zu informieren, wenn ADS bei Entlassungs- oder Disziplinarentscheidungen verwendet wurden.
Überarbeitung des Gesetzes
SB 947 ist eine Überarbeitung von SB 7, einer ähnlichen Gesetzgebung aus dem Jahr 2025. SB 7 wurde sowohl im Senat als auch in der Versammlung genehmigt, aber vom Gouverneur vetoisiert. SB 947 enthält Änderungen, um die Bedenken des Gouverneurs bezüglich SB 7 zu adressieren.
Der Senator ist Vorsitzender des Senatskomitees für Einnahmen und Besteuerung und Mitglied des Komitees für Datenschutz, digitale Technologien und Verbraucherschutz, das über KI-Gesetze entscheidet.
