AI-Regulierung: Kalifornien plant das Gesetz gegen Robo-Manager

AI-Regulierung: Kalifornischer Gesetzgeber schlägt das „No Robo Bosses“-Gesetz vor

Ein kalifornischer Gesetzgeber möchte, dass der Bundesstaat an der Spitze der Regulierung von Künstlicher Intelligenz steht, und hat das „No Robo Bosses“-Gesetz vorgestellt, das gezielt auf den Einsatz von KI am Arbeitsplatz abzielt. Der Gesetzentwurf SB 7, der von Senator Jerry McNerney, einem Demokraten aus Stockton, veröffentlicht wurde, zielt darauf ab, die Nutzung automatisierter Entscheidungssysteme (ADS) im Beschäftigungsbereich zu regulieren, um den Einsatz von KI-gestützten Werkzeugen bei der Einstellung, Beförderung, Disziplinierung und Kündigung von Arbeitnehmern stark einzuschränken. Sollte SB 7 in Kraft treten, hätte dies erhebliche Auswirkungen auf Arbeitgeber, die KI-gestützte Werkzeugsysteme einsetzen.

Was würde SB 7 erfordern?

Das „No Robo Bosses“-Gesetz würde mehrere wesentliche Verpflichtungen und Einschränkungen für Arbeitgeber einführen, die ADS in beschäftigungsbezogenen Entscheidungen verwenden:

• Vorgabe menschlicher Aufsicht: Arbeitgeber dürften sich nicht ausschließlich auf automatisierte Entscheidungswerkzeuge für Einstellungen, Beförderungen, disziplinarische Maßnahmen oder Kündigungen verlassen. Ein menschlicher Prüfer müsste in alle wichtigen Beschäftigungsentscheidungen einbezogen werden.
• Benachrichtigungspflichten: Arbeitgeber müssten den Arbeitnehmern schriftlich mitteilen, wenn ein ADS zur Entscheidungsfindung im Beschäftigungsbereich verwendet wird. Dies umfasst: 1) eine Vorabbenachrichtigung mindestens 30 Tage vor der Einführung eines ADS; und 2) eine Nachbenachrichtigung, die erklärt, wie ein ADS eine Beschäftigungsentscheidung beeinflusst hat.
• Transparenz und Datenzugang: Mitarbeiter müssen das Recht haben, auf ihre Daten zuzugreifen und diese zu korrigieren, die von einem ADS verwendet werden, um sicherzustellen, dass sie nicht aufgrund ungenauer KI-gestützter Analysen falsch beurteilt werden.
• Berufungsverfahren: Arbeitgeber müssen den Arbeitnehmern einen klaren Berufungsprozess anbieten, wenn sie der Meinung sind, dass eine ADS-gestützte Beschäftigungsentscheidung falsch war.
  • Arbeitnehmer müssten 30 Tage Zeit haben, um eine Berufung einzulegen.
  • Arbeitgeber hätten dann 14 Geschäftstage Zeit für eine Antwort, nachdem ein menschlicher Prüfer, der bestimmte Kriterien erfüllt, alle Beweise objektiv bewertet hat.
  • Wenn der menschliche Prüfer feststellt, dass die Entscheidung aufgehoben werden sollte, müsste der Arbeitgeber die Entscheidung innerhalb von 21 Geschäftstagen korrigieren.
• Verbotene Anwendungen: Der Gesetzentwurf verbietet ausdrücklich bestimmte Funktionen von ADS, darunter:
  • Verwendung von KI zur Vorhersage des Verhaltens von Arbeitnehmern oder zur Bewertung von Persönlichkeit, emotionalem Zustand oder Absichten.
  • Erhebung oder Ableitung sensibler persönlicher Daten (z.B. Einwanderungsstatus, sexuelle Orientierung, Kreditgeschichte, religiöse Überzeugungen und mehr).
  • Primäre Abhängigkeit von Kundenbewertungen oder ähnlichen KI-generierten Metriken für Beschäftigungsentscheidungen.

Dieser letzte Punkt – das Verbot solcher Aktionen wie prädiktive KI – wird voraussichtlich stark umstritten sein. Ein solches Verbot könnte den Fortschritt und die Effizienz erheblich behindern, da es gängige Anwendungen von KI erfasst, die tatsächlich dazu dienen, Arbeitnehmer zu unterstützen, einschließlich Mitarbeiterbindung, Mitarbeiterzufriedenheit und ähnlichen Zielen.

Wie würde SB 7 durchgesetzt?

Der Arbeitskommissar hätte die Durchsetzungsbehörde über SB 7, und Verstöße könnten zu zivilrechtlichen Strafen von 500 US-Dollar pro Verstoß führen – ganz zu schweigen von privaten Klagen von Arbeitnehmern.

Wie unterscheidet sich SB 7 von anderen geplanten KI-Regulierungen?

SB 7 ist nicht die einzige Regelung zur KI am Arbeitsplatz, die in Kalifornien in Betracht gezogen wird. Der Gesetzentwurf AB 1018 zielt ebenfalls darauf ab, KI in der Beschäftigung zu regulieren – aber es gibt wesentliche Unterschiede.

• SB 7 konzentriert sich hauptsächlich auf die menschliche Aufsicht in Beschäftigungsentscheidungen und hindert Arbeitgeber daran, sich ausschließlich auf KI zu verlassen, um kritische Entscheidungen am Arbeitsplatz zu treffen.
• AB 1018 legt umfassendere Compliance-Verpflichtungen für Arbeitgeber und KI-Anbieter fest, einschließlich Audits, Datenaufbewahrungsrichtlinien und umfassenden Risikoanalysen für KI-gestützte Einstellungstools.
• SB 7 verbietet ausdrücklich prädiktive Verhaltensanalysen, während sich AB 1018 eher auf Auswirkungen und Berichtspflichten konzentriert.

Insgesamt könnte SB 7 effektiv die Vorgaben des CCPA/CPRA zur Regulierung von Technologien zur automatisierten Entscheidungsfindung verdrängen, da dieses Gesetz im Wesentlichen dieselben Anforderungen auferlegt – zusätzlich zu einigen Anforderungen, die in den ausstehenden CCPA-Vorschriften nicht enthalten sind.

Was kommt als Nächstes?

Das „No Robo Bosses“-Gesetz wird voraussichtlich erhebliche Debatten zwischen Gewerkschaften und Unternehmensgruppen auslösen. Befürworter argumentieren, dass menschliche Aufsicht unerlässlich ist, um KI-gestützte Diskriminierung zu verhindern, während Kritiker behaupten, dass bestehende Arbeitsgesetze bereits angemessene Schutzmaßnahmen bieten.

Arbeitgeber sollten mögliche Änderungen beobachten, während der Gesetzentwurf in den kommenden Monaten durch die Ausschusssitzungen geht. Die wichtigsten Fristen? Der Gesetzentwurf müsste bis Mitte September bei Governor Newsom eingehen, und er hätte bis zum 12. Oktober Zeit, das Gesetz zu unterzeichnen oder zu vetieren.

Was sollten Arbeitgeber jetzt tun?

Obwohl SB 7 noch den legislativen Prozess durchläuft, sollten Arbeitgeber, die KI im Workforce Management einsetzen, sich jetzt vorbereiten, indem sie einige Best Practices in Betracht ziehen:

• Aktualisieren Sie die aktuellen KI-Systeme: Identifizieren Sie, wo und wie KI-gestützte Werkzeuge in Beschäftigungsentscheidungen eingesetzt werden.
• Überlegen Sie, wie Sie menschliche Aufsichtspolitiken umsetzen würden: Sie müssen möglicherweise sicherstellen, dass menschliche Entscheidungsträger in Bezug auf Einstellungen, Beförderungen, Disziplin und Kündigungen das letzte Wort haben.
• Überprüfen Sie die Datenerhebungspraktiken: Sie sollten sicherstellen, dass Ihre KI-Tools keine verbotenen persönlichen Merkmale verwenden oder ableiten.
• Implementieren Sie KI-Governance-Richtlinien: Etablieren Sie klare Rahmenbedingungen für die KI-Governance, einschließlich Protokollen zur Minderung von Vorurteilen und Transparenzmaßnahmen.
• Bleiben Sie über gesetzgeberische Entwicklungen informiert: Angesichts des aggressiven Vorstoßes Kaliforniens zur Regulierung von KI sollten Arbeitgeber SB 7 und AB 1018 genau beobachten, um den Compliance-Anforderungen einen Schritt voraus zu sein.