Auditoría Crítica de la Ley de Contratación de IA en Nueva York: Aumenta el Riesgo para los Empleadores
La auditoría realizada por el Contralor del Estado de Nueva York en diciembre de 2025 evaluó la implementación de la Ley Local 144 por parte del Departamento de Protección al Consumidor y al Trabajador de la Ciudad de Nueva York (DCWP), que regula el uso de herramientas automatizadas de decisión de empleo (AEDTs) en la contratación y promoción. La auditoría concluyó que la aplicación actual de la ley es «ineficaz», citando, entre otras cosas, procesos problemáticos para el manejo de quejas y revisiones de cumplimiento inexactas.
La crítica del Contralor puede intensificar la presión sobre el DCWP para aumentar y mejorar sus actividades de cumplimiento. Los empleadores que utilizan AEDTs pueden enfrentar un enfoque más estricto en la aplicación de la ley y se les anima a tomar medidas proactivas para garantizar que sus programas de cumplimiento puedan soportar un mayor escrutinio.
Visión General de la Ley Local 144
La Ley Local 144 de la Ciudad de Nueva York impone obligaciones de evaluación de sesgos y transparencia a los empleadores y agencias de empleo que utilizan AEDTs para seleccionar candidatos o evaluar empleados para promoción. La ley define un AEDT como cualquier proceso computacional derivado de «aprendizaje automático, modelado estadístico, análisis de datos o inteligencia artificial» que se utiliza para «asistir significativamente o reemplazar la toma de decisiones discrecional en decisiones de empleo». Las reglas del DCWP que implementan la Ley Local 144 explican que un AEDT «asiste significativamente» o «reemplaza» la toma de decisiones discrecional cuando un empleador (1) se basa exclusivamente en la salida de la herramienta, (2) pondera esa salida más que cualquier otro criterio, o (3) la utiliza para anular el juicio humano u otros factores que habían llevado a una conclusión diferente.
Bajo la Ley Local 144, los empleadores que utilizan herramientas que cumplen con la definición de un AEDT deben adherirse a tres obligaciones fundamentales:
- Auditoría de sesgo independiente: Los empleadores deben contratar a un auditor independiente para realizar una auditoría anual de sesgo de la herramienta. La auditoría debe evaluar si la herramienta tiene un impacto dispar potencial en grupos de un sexo, raza o categoría étnica particular mediante el cálculo de tasas de selección y puntuación y sus correspondientes «índices de impacto».
- Transparencia pública: Los empleadores deben «publicar de manera clara y conspicua» un resumen de los resultados de la auditoría de sesgo más reciente en su sitio web, ya sea mantenido por el empleador o por la agencia de empleo.
- Notificaciones a los candidatos: Los empleadores deben proporcionar un aviso claro y oportuno a los candidatos y empleados de Nueva York que se utilizará un AEDT en su evaluación. El aviso debe identificar las calificaciones y características del trabajo que evalúa la herramienta e informar a las personas de su derecho a «optar por no participar» en el uso del AEDT solicitando un proceso de selección alternativo o una adaptación razonable.
Hallazgos Clave de la Auditoría Señalan un Aumento del Riesgo de Aplicación
La auditoría del Contralor, que revisó las actividades del DCWP desde julio de 2023 hasta junio de 2025, concluyó que el sistema de aplicación de la Ley Local 144 es «ineficaz». La auditoría destaca varias deficiencias críticas.
Flujo de quejas defectuoso y aplicación pasiva: La auditoría alegó una falla fundamental en la estrategia de aplicación basada en quejas del DCWP, criticando al DCWP por no tomar medidas proactivas para remediar el sistema. Se encontró que las quejas a menudo no se dirigían correctamente al DCWP y que el DCWP tenía instrucciones poco claras en su sitio web y direcciones insuficientes sobre cómo presentar quejas.
Revisiones de cumplimiento superficiales: La auditoría también criticó la revisión por parte del DCWP de las auditorías de sesgo publicadas por las empresas, señalando que el DCWP revisó 32 de estas auditorías pero solo identificó un problema de incumplimiento. La revisión del Contralor de ese mismo conjunto de auditorías identificó al menos 17 problemas potenciales de incumplimiento.
Falta de utilización de la experiencia disponible: La auditoría afirmó que las revisiones inadecuadas del DCWP se debieron a la falta de uso de procedimientos adecuados.
Implicaciones y Acciones Recomendadas
La auditoría del Contralor señala una expectativa de mayor aplicación, poniendo al DCWP bajo una presión pública sustancial. En su respuesta a la auditoría, el DCWP acordó implementar la mayoría de las recomendaciones del Contralor. Estos compromisos incluyen (1) fortalecer su proceso de manejo de quejas para garantizar que las quejas relacionadas con AEDT se dirijan correctamente, (2) proporcionar capacitación interdepartamental para el personal sobre el manejo y gestión de tales quejas, (3) implementar políticas y procedimientos escritos para promover un manejo preciso y consistente, y (4) mejorar su enfoque de aplicación a través de entrevistas y demostraciones de herramientas AEDT, cuando sea apropiado.
Los empleadores sujetos a la Ley Local 144 pueden esperar una nueva fase de aplicación estricta, que podría incluir investigaciones más frecuentes y mayores sanciones civiles, de hasta $1,500 por violación por día. La auditoría proporciona una hoja de ruta sobre cómo el DCWP puede identificar empresas no cumplidoras. Los empleadores en Nueva York que utilizan herramientas automatizadas para la contratación o promoción deben considerar los siguientes pasos proactivos:
- Realizar un inventario completo de AEDT: Determinar si una herramienta se encuentra bajo la Ley Local 144 es un análisis altamente específico. Se anima a los empleadores a trabajar con abogados para inventariar todo el software de terceros y el interno utilizado en los procesos de contratación y promoción, así como a analizar cómo se pondera y utiliza la salida de cada herramienta en la práctica para evaluar su estado bajo la ley y asesorar sobre riesgos potenciales.
- Lograr y mantener el cumplimiento de la auditoría de sesgo: Las empresas que utilizan un AEDT deben asegurarse de obtener una auditoría de sesgo que cumpla para evitar sanciones significativas.
- Verificar todas las divulgaciones públicas y avisos: Se anima a las empresas a confirmar que el resumen requerido de su auditoría esté «clara y conspicuamente» disponible en el sitio web de la empresa y que se estén proporcionando correctamente y a tiempo sus avisos a los candidatos.
- Documentar los esfuerzos de cumplimiento: En anticipación a un mayor escrutinio por parte de los reguladores, se recomienda a las empresas mantener un registro claro y organizado de su proceso de cumplimiento.
Conclusión
La auditoría del Contralor de la Ley Local 144 resalta la importancia de que los empleadores se preparen para una mayor vigilancia y cumplimiento. Con el aumento de la presión pública y la expectativa de acción, es fundamental que las empresas revisen sus prácticas actuales y tomen medidas proactivas para garantizar que cumplan con los requisitos legales.
