Regulaciones Potenciales sobre Empleo de IA en California: Lo que los Empleadores Deben Saber
En un movimiento pionero, California ha finalizado regulaciones innovadoras que abordan directamente el uso de inteligencia artificial (IA) y sistemas de decisión automatizados (ADS)Consejo de Derechos Civiles de California en marzo de 2025, envían un mensaje claro: aunque las herramientas de IA pueden ser valiosas en reclutamiento, contratación y gestión de la fuerza laboral, no deben usarse de maneras que discriminen a los solicitantes o empleados.
Se espera que estas regulaciones entren en vigor más tarde este año, una vez aprobadas por la Oficina de Derecho Administrativo. A continuación, se detallan los aspectos clave que los empleadores en California deben conocer.
1. Propósito y Alcance de las Nuevas Regulaciones
Las regulaciones tienen como objetivo garantizar que el uso creciente de la tecnología en las decisiones laborales cumpla con la Ley de Empleo y Vivienda Justa (FEHA). Esencialmente, las reglas extienden las protecciones tradicionales contra la discriminación a la era digital al:
- Definir cuándo y cómo se cubren los sistemas automatizados bajo la ley laboral de California.
- Prohibir los impactos discriminatorios derivados de los ADS.
- Establecer obligaciones de documentación y notificación para los empleadores que utilizan estas tecnologías.
2. ¿Qué es un Sistema de Decisión Automatizado (ADS)?
Las regulaciones definen un ADS como: “Un proceso computacional que toma una decisión o facilita la toma de decisiones humanas respecto a un beneficio laboral”, incluyendo herramientas que dependen de IA, aprendizaje automático, algoritmos o estadísticas.
Ejemplos de ADS incluyen:
- Filtros de currículos.
- Sistemas automatizados de puntuación de entrevistas que hacen evaluaciones predictivas sobre solicitantes o empleados.
- Software de video que analiza la voz o las expresiones faciales.
- Sistemas que priorizan o clasifican candidatos.
- Sistemas que dirigen anuncios de empleo a ciertos grupos.
Excluidos: Herramientas básicas como procesadores de texto, hojas de cálculo y software de seguridad, siempre que no tomen o influyan en decisiones laborales.
3. Prohibiciones y Requisitos Clave
No Discriminación: Las regulaciones estipulan que, “Es ilegal que un empleador o entidad cubierta utilice un sistema de decisión automatizado o criterios de selección que discriminen a un solicitante o empleado en base a un motivo protegido por la Ley, sujeto a cualquier defensa disponible.”
Áreas de Alto Riesgo Específicas – Comprobaciones de Antecedentes Criminales: Los empleadores no pueden utilizar ADS para filtrar antecedentes penales antes de una oferta condicional. Incluso después de una oferta, deben realizar evaluaciones individualizadas y no pueden depender únicamente de los resultados automatizados.
Deber de Proporcionar Acomodaciones: Si una herramienta de IA puede desventajar a un candidato con una discapacidad o característica protegida, el empleador debe ofrecer una acomodación razonable (por ejemplo, formatos de evaluación alternativos).
Los Proveedores de Terceros Pueden Crear Responsabilidad: Si un proveedor o reclutador utiliza una herramienta ADS en su nombre, usted puede seguir siendo legalmente responsable. Los contratos deben aclarar las responsabilidades de cumplimiento e incluir disposiciones de indemnización.
4. Requisitos de Documentación y Cumplimiento
Los empleadores que utilizan ADS deben:
- Retener datos relevantes, incluidos los resultados de decisiones automatizadas y datos demográficos, durante al menos cuatro años.
- Mantener registros separados de los archivos personales.
- Realizar y documentar pruebas de anti-bias en herramientas de IA.
- Responder adecuadamente a los resultados de las pruebas.
5. Próximos Pasos para los Empleadores
Si las regulaciones son adoptadas en California, los empleadores deben:
- Revisar Todas las Herramientas ADS y de IA en Uso – Realizar una auditoría de las tecnologías utilizadas en reclutamiento, contratación, promociones y disciplinarias.
- Involucrar a Asesores Legales o Expertos en Cumplimiento – Evaluar si las herramientas probablemente tendrán un impacto discriminatorio o violarán la FEHA.
- Solicitar Transparencia a los Proveedores – Pedir información sobre pruebas de sesgo, datos de entrenamiento y lógica del sistema.
- Implementar Políticas de Notificación y Acomodación – Informar claramente a los solicitantes cuándo se utilizarán ADS y cómo pueden solicitar una acomodación.
- Utilizar Supervisión Humana – No depender exclusivamente de la IA para decisiones laborales. Un humano debe revisar y aprobar las decisiones finales.
Si estas regulaciones son adoptadas, California podría unirse a jurisdicciones como Nueva York, Illinois y Colorado en la regulación de la IA en el lugar de trabajo. Mientras el gobierno federal aún desarrolla su enfoque, estados como California podrían comenzar a regular cómo se puede utilizar la IA en las decisiones laborales.
Los empleadores que operan en California deben tratar la IA y la automatización con el mismo cuidado y diligencia que cualquier otra práctica laboral sujeta a las leyes contra la discriminación.
