Auditoría crítica de la ley de contratación de IA en Nueva York: mayores riesgos para los empleados
A primera vista
Los empleadores de Nueva York deben proporcionar un aviso claro y oportuno a los candidatos y empleados cuando se utilice una herramienta de decisión automatizada (AEDT) e identificar las calificaciones y características del trabajo que se están evaluando.
Una auditoría reciente del Contralor encontró que la aplicación de la Ley Local 144 por parte del Departamento de Protección al Consumidor y al Trabajador (DCWP) es actualmente ineficaz, citando fallos importantes en la recepción de quejas, revisiones de cumplimiento y uso de la experiencia disponible.
La auditoría reveló deficiencias operativas significativas, incluidas quejas mal dirigidas, revisiones superficiales de auditorías de sesgo publicadas y falta de seguimiento de los procedimientos de aplicación establecidos.
El DCWP se ha comprometido a implementar la mayoría de las recomendaciones del Contralor, señalando un cambio hacia una supervisión más rigurosa y una actividad de aplicación más fuerte.
Los empleadores deben esperar una fase de aplicación más estricta, con un aumento en las investigaciones y el riesgo de multas diarias, y se les anima a realizar inventarios de AEDT, verificar el cumplimiento y fortalecer la documentación.
Descripción general de la Ley Local 144
La Ley Local 144 de Nueva York impone obligaciones de evaluación de sesgo y transparencia a los empleadores y agencias de empleo que utilizan AEDT para filtrar candidatos o evaluar empleados para promociones en la ciudad.
La ley define un AEDT como cualquier proceso computacional derivado de «aprendizaje automático, modelado estadístico, análisis de datos o inteligencia artificial» utilizado para «asistir sustancialmente o reemplazar la toma de decisiones discrecional para decisiones de empleo.»
Bajo la Ley Local 144, los empleadores que utilizan herramientas que cumplen con la definición de un AEDT deben adherirse a tres obligaciones clave:
- Auditoría de sesgo independiente: Los empleadores deben contratar a un auditor independiente para realizar una auditoría anual de sesgo de la herramienta.
- Transparencia pública: Los empleadores deben publicar de manera clara y conspicua un resumen de los resultados de la auditoría de sesgo más reciente en su sitio web.
- Avisos a candidatos: Los empleadores deben proporcionar un aviso claro y oportuno a los candidatos y empleados de Nueva York que se utilizará un AEDT en su evaluación.
Hallazgos clave de la auditoría que indican un riesgo de aplicación elevado
La auditoría del Contralor, que revisó las actividades del DCWP desde julio de 2023 hasta junio de 2025, concluyó que el sistema de aplicación de la Ley Local 144 es «ineficaz». La auditoría destaca varias deficiencias críticas.
Se alegó un colapso fundamental en la estrategia de aplicación basada en quejas del DCWP, criticando al departamento por no tomar medidas proactivas para remediar el sistema.
La auditoría también criticó las revisiones superficiales de auditoría de sesgo publicadas por las empresas, señalando que el DCWP revisó 32 auditorías de este tipo pero solo identificó un problema de incumplimiento.
La falta de utilización de la experiencia disponible también se destacó, ya que el DCWP no utilizó los procedimientos adecuados para realizar revisiones efectivas.
Implicaciones y acciones recomendadas
La auditoría del Contralor señala una expectativa de aplicación más estricta, lo que pone al DCWP bajo una presión pública considerable. En respuesta a la auditoría, el departamento se comprometió a implementar la mayoría de las recomendaciones del Contralor.
Los empleadores sujetos a la Ley Local 144 pueden esperar una nueva fase de aplicación estricta, que incluye investigaciones más frecuentes y mayores sanciones civiles. Se recomienda a los empleadores considerar los siguientes pasos proactivos:
- Realizar un inventario completo de AEDT: Determinar si una herramienta se encuentra bajo la Ley Local 144 es un análisis muy específico.
- Lograr y mantener el cumplimiento de la auditoría de sesgo: Las empresas que utilizan un AEDT deben asegurar una auditoría de sesgo conforme.
- Verificar todas las divulgaciones públicas y avisos: Se debe confirmar que el resumen requerido de su auditoría esté disponible de manera clara y oportuna.
- Documentar los esfuerzos de cumplimiento: En anticipación a una mayor supervisión, las empresas deben mantener un registro claro y organizado de su proceso de cumplimiento.
