California Introduce Otro Proyecto de Ley sobre Antidiscriminación en IA: Lo que los Empleadores Necesitan Saber
Una nueva propuesta de ley en California busca regular las herramientas de toma de decisiones de inteligencia artificial (IA) en el empleo y otros sectores clave. Sin embargo, ¿sufrirá esta propuesta el mismo destino que los esfuerzos legislativos fallidos del año pasado? Introducida el 20 de febrero por la asambleísta Rebecca Bauer-Kahan, el Proyecto de Ley de la Asamblea 1018 impondrá un estricto control sobre los sistemas de decisión automatizados (ADS) en un intento por prevenir la discriminación en el lugar de trabajo y en otros ámbitos.
AB 1018 establece amplias obligaciones para los desarrolladores y usuarios de IA, incluyendo evaluaciones de desempeño, auditorías de terceros, requisitos de retención de datos y mandatos de transparencia para las decisiones impulsadas por IA que afectan el empleo, la atención médica, la vivienda y otros sectores críticos. Si se aprueba, AB 1018 marcará el intento más completo de California por regular el sesgo en IA, imponiendo cargas significativas de cumplimiento a los empleadores que utilizan herramientas de contratación y gestión de personal impulsadas por IA.
Aspectos Clave del Proyecto de Ley Propuesto
AB 1018 introduce un marco robusto que gobierna las herramientas de toma de decisiones impulsadas por IA. Aquí están los componentes más críticos para los empleadores:
1. Derechos de Opción y Requisitos de Revisión Humana
Los empleadores deben brindar a los empleados y solicitantes la oportunidad de optar por no participar en decisiones impulsadas por ADS en ciertos casos, y deben divulgar si se lleva a cabo una revisión humana antes de finalizar una decisión impulsada por IA. La ley define ampliamente “ADS” como cualquier sistema basado en aprendizaje automático que asiste o reemplaza la toma de decisiones humana y afecta significativamente a los individuos, incluyendo decisiones relacionadas con el empleo.
2. Transparencia y Derechos de Apelación
Los empleadores deben proporcionar a los candidatos y empleados divulgaciones sobre las decisiones impulsadas por IA, permitirles optar por no participar en ciertos casos, y proporcionar un proceso de apelación para resultados adversos.
3. Definición Ampliada de ‘Decisiones Consecuenciales’
El proyecto de ley cubre no solo la contratación y el despido, sino también salarios, beneficios, programación, promociones, evaluaciones de desempeño, acceso a capacitación y decisiones sobre la seguridad en el lugar de trabajo, ampliando las obligaciones de cumplimiento para las funciones de recursos humanos que utilizan IA.
4. Obligaciones para Empleadores que Modifiquen Sistemas de IA
Los empleadores que ajusten una herramienta de IA fuera de su alcance original pueden asumir responsabilidades legales típicamente asignadas a los desarrolladores de IA, aumentando los riesgos de cumplimiento para las empresas que personalizan herramientas de IA.
5. Evaluaciones de Desempeño Obligatorias
Los desarrolladores de IA deben realizar auditorías anuales y divulgar los posibles impactos desiguales de sus sistemas.
6. Auditorías de Terceros para Empleadores
Las empresas que utilizan herramientas de IA en contrataciones, promociones y despidos deben someterse a auditorías independientes si sus sistemas de IA afectan a 6,000 o más individuos en tres años.
7. Reglas Estrictas de Gestión y Retención de Datos
Los empleadores deben retener documentación relacionada con IA sin redactar durante 10 años, incluyendo resultados de auditorías, evaluaciones de desempeño y apelaciones de empleados, con incumplimientos que pueden llevar a sanciones.
8. Oficiales de Cumplimiento y Obligaciones de Revisión Interna
Las empresas que implementan herramientas de toma de decisiones de IA deben designar al menos a un oficial de cumplimiento responsable de supervisar la adhesión a la ley e investigar quejas relacionadas con la IA.
9. Supervisión del Fiscal General y Mandatos de Reporte
Los empleadores pueden ser requeridos a presentar evaluaciones de desempeño sin redactar al Fiscal General de California bajo solicitud, con estos registros exentos de solicitudes de registros públicos para proteger datos sensibles de negocios.
10. Consideraciones de Cumplimiento de la Ley de Privacidad del Consumidor de California (CCPA)
Las empresas sujetas a la CCPA deben cumplir con regulaciones de privacidad relacionadas con la IA, con futuras regulaciones que probablemente expandan las obligaciones de los empleadores sobre la IA y los datos de los empleados.
11. Aplicación y Sanciones
El Fiscal General del estado, el Departamento de Derechos Civiles y el Comisionado de Trabajo pueden imponer sanciones de hasta $25,000 por violación.
Comparación con Otras Regulaciones de IA
AB 1018 sigue los pasos de la ley pionera de IA de Colorado, que impone requisitos antidiscriminación a los desarrolladores y usuarios de IA. Sin embargo, a diferencia de la ley de Colorado, que se centra principalmente en los desarrolladores de IA, la ley de California coloca responsabilidades significativas sobre las empresas que utilizan IA en decisiones de empleo.
Otras jurisdicciones han adoptado enfoques diferentes:
- La Ley de Entrevistas en Video de IA de Illinois regula las evaluaciones de contratación impulsadas por IA, pero es mucho más limitada en alcance.
- La Ley de IA de la UE clasifica los sistemas de IA por nivel de riesgo e impone estrictas obligaciones a las aplicaciones de alto riesgo, como la IA relacionada con el empleo.
- El Proyecto de Ley de IA de Virginia (a la espera de acción por parte del gobernador) se centraría más en la protección del consumidor y la transparencia, sin los amplios mandatos relacionados con el empleo de AB 1018.
Si se aprueba, la ley de California sería uno de los marcos regulatorios de IA más expansivos del país, moldeando futuros esfuerzos legislativos a nivel nacional.
Próximos Pasos: Entendiendo el Proceso Legislativo de California
AB 1018 apenas ha sido introducida, lo que significa que debe navegar por el extenso proceso legislativo de California. Primero, el proyecto pasará por comités de política y fiscal, incluyendo el Comité de Privacidad de la Asamblea, donde es probable que se realicen enmiendas. Si avanza, procederá a la Asamblea completa, al Senado del Estado y, en última instancia, al escritorio del Gobernador. AB 1018 podría llegar al Gobernador Gavin Newsom a mediados de septiembre, siempre que obtenga apoyo suficiente. Él tendría hasta el 12 de octubre para firmar o vetar la legislación.
¿Ganarás Tracción Este Proyecto de Ley?
Los intentos previos de regular el sesgo en IA en California fracasaron debido a la oposición empresarial y preocupaciones sobre los costos de cumplimiento. De hecho, se intentó una legislación similar el año pasado, pero se estancó antes de llegar a una votación final.
Sin embargo, AB 1018 ha sido redactada con la participación de grupos de defensa laboral y de consumidores, lo que podría darle un impulso más fuerte. Se espera que los grupos empresariales, particularmente aquellos en Silicon Valley, presionen por exenciones o modificaciones, lo que hace que su forma final sea incierta.
La postura del Gobernador Newsom sobre la regulación de IA ha sido mixta. Si bien apoya la privacidad del consumidor y la supervisión tecnológica, también ha abogado por políticas que favorezcan la innovación, llevándolo a vetar otra legislación sobre IA el año pasado. Si finalmente firma AB 1018 dependerá de cuánto equilibre la versión final la regulación con las preocupaciones empresariales.
¿Qué Deben Hacer Ahora los Empleadores?
Aunque AB 1018 no pase esta sesión, sus principios fundamentales probablemente influirán en futuras regulaciones sobre IA. Los empleadores deben ser proactivos:
- Evaluar Herramientas de IA en Contratación y Decisiones de Recursos Humanos: Realizar auditorías internas para entender cómo los sistemas de IA impactan las contrataciones, promociones y despidos.
- Implementar Políticas de Gobernanza de IA: Establecer marcos claros de gobernanza de IA, incluyendo protocolos de mitigación de sesgos y medidas de transparencia.
- Prepararse para Potenciales Obligaciones de Cumplimiento: Trabajar con equipos legales y de cumplimiento para alinear el uso existente de IA con los requisitos regulatorios anticipados.
- Monitorear los Desarrollos Legislativos: Mantenerse informado sobre el progreso de AB 1018 y estar preparado para futuros cambios en el cumplimiento.
