Kalifornien führt ein weiteres Gesetz gegen Diskriminierung durch KI ein: Was Arbeitgeber wissen müssen
Ein neu vorgeschlagenes Gesetz in Kalifornien zielt darauf ab, Entscheidungshilfen auf Basis künstlicher Intelligenz im Beschäftigungsbereich und anderen wichtigen Sektoren zu regulieren. Das Gesetz wurde am 20. Februar von der Abgeordneten Rebecca Bauer-Kahan eingeführt und trägt die Bezeichnung Versammlungsgesetz 1018 (AB 1018). Es soll strenge Auflagen für automatisierte Entscheidungssysteme (ADS) schaffen, um Diskriminierung am Arbeitsplatz und darüber hinaus zu verhindern.
Wesentliche Aspekte des vorgeschlagenen Gesetzes
Das AB 1018 führt einen umfassenden Rahmen für den Umgang mit KI-gestützten Entscheidungshilfen ein. Hier sind die wichtigsten Komponenten für Arbeitgeber:
1. Opt-Out-Rechte und Anforderungen an die menschliche Überprüfung
Arbeitgeber müssen Mitarbeitern und Bewerbern die Möglichkeit bieten, in bestimmten Fällen von ADS-gestützten Entscheidungen abzusehen. Zudem müssen Arbeitgeber offenlegen, ob eine menschliche Überprüfung vor der endgültigen Entscheidung stattfindet.
2. Transparenz und Beschwerderechte
Arbeitgeber sind verpflichtet, Kandidaten und Mitarbeitern Informationen über KI-gestützte Entscheidungen bereitzustellen, ihnen die Möglichkeit zu geben, in bestimmten Fällen abzulehnen, und einen Beschwerdeprozess für nachteilige Ergebnisse anzubieten.
3. Erweiterte Definition von ‚folgenreiche Entscheidungen‘
Das Gesetz umfasst nicht nur Einstellungen und Entlassungen, sondern auch Löhne, Leistungen, Arbeitszeitpläne, Beförderungen, Leistungsbewertungen, Zugang zu Schulungen und Entscheidungen zur Arbeitssicherheit, was die Compliance-Verpflichtungen für HR-Funktionen, die KI nutzen, erweitert.
4. Verpflichtungen für Arbeitgeber, die KI-Systeme anpassen
Arbeitgeber, die ein KI-Tool außerhalb seines ursprünglichen Anwendungsbereichs anpassen, können rechtliche Verantwortlichkeiten übernehmen, die normalerweise den Entwicklern von KI-Systemen zugeordnet sind.
5. Pflicht zur Leistungsbewertung
KI-Entwickler müssen jährliche Audits durchführen und mögliche unterschiedliche Auswirkungen ihrer Systeme offenlegen.
6. Unabhängige Audits für Arbeitgeber
Unternehmen, die KI-Tools bei Einstellungen, Beförderungen und Entlassungen einsetzen, müssen unabhängige Audits durchführen lassen, wenn ihre KI-Systeme über einen Zeitraum von drei Jahren 6.000 oder mehr Personen betreffen.
7. Strenge Regeln zur Datenverwaltung und -aufbewahrung
Arbeitgeber müssen unredigierte KI-bezogene Dokumentationen für 10 Jahre aufbewahren, einschließlich Audit-Ergebnisse, Leistungsbewertungen und Mitarbeiterbeschwerden.
8. Compliance-Beauftragte und interne Überprüfungspflichten
Unternehmen, die KI-Entscheidungshilfen einsetzen, müssen mindestens einen Compliance-Beauftragten benennen, der für die Einhaltung des Gesetzes verantwortlich ist.
9. Aufsicht durch den Generalstaatsanwalt und Meldepflichten
Arbeitgeber könnten verpflichtet werden, unredigierte Leistungsbewertungen auf Anfrage des Generalstaatsanwalts von Kalifornien vorzulegen.
10. Berücksichtigung der Anforderungen des California Consumer Privacy Act (CCPA)
Unternehmen, die dem CCPA unterliegen, müssen auch die KI-bezogenen Datenschutzbestimmungen einhalten.
11. Durchsetzung und Strafen
Der Staatsanwalt, das Ministerium für Bürgerrechte und der Arbeitskommissar können Strafen von bis zu 25.000 USD pro Verstoß verhängen.
Wie schneidet es im Vergleich zu anderen KI-Vorschriften ab?
AB 1018 folgt dem Beispiel des bahnbrechenden KI-Gesetzes in Colorado, das Anforderungen zur Bekämpfung von Vorurteilen für KI-Entwickler und -Nutzer einführt. Im Gegensatz zu Colorados Gesetz, das sich hauptsächlich auf KI-Entwickler konzentriert, legt Kaliforniens Gesetz erhebliche Verantwortung auf Unternehmen, die KI bei Beschäftigungsentscheidungen verwenden.
Was kommt als Nächstes? Verständnis des kalifornischen Gesetzgebungsprozesses
AB 1018 wurde gerade erst eingeführt und muss den langen Gesetzgebungsprozess in Kalifornien durchlaufen. Das Gesetz wird zunächst durch politische und finanzielle Ausschüsse gehen, einschließlich des Ausschusses für Datenschutz, wo Änderungen wahrscheinlich sind.
Was sollten Arbeitgeber jetzt tun?
Selbst wenn AB 1018 in dieser Legislaturperiode nicht verabschiedet wird, werden seine Grundsätze voraussichtlich zukünftige KI-Vorschriften beeinflussen. Arbeitgeber sollten proaktiv:
- KI-Tools in der Einstellung und Personalentscheidungen bewerten: Interne Audits durchführen, um zu verstehen, wie KI-Systeme Einstellungen, Beförderungen und Entlassungen beeinflussen.
- Richtlinien zur KI-Governance implementieren: Klare Governance-Rahmen für KI einrichten, einschließlich Protokollen zur Minderung von Vorurteilen und Transparenzmaßnahmen.
- Auf mögliche Compliance-Verpflichtungen vorbereiten: Mit rechtlichen und Compliance-Teams zusammenarbeiten, um die bestehende Nutzung von KI mit den zu erwartenden regulatorischen Anforderungen in Einklang zu bringen.
- Gesetzgeberische Entwicklungen überwachen: Über den Fortschritt von AB 1018 informiert bleiben und auf zukünftige Compliance-Änderungen vorbereitet sein.
