Desarrollos en Inteligencia Artificial en Nueva York: Lo que los Empleadores Deben Saber sobre la Legislación Propuesta y Aprobada
En la primera parte de 2025, Nueva York se unió a otros estados, como Colorado, Connecticut, Nueva Jersey y Texas, buscando regular la inteligencia artificial (IA) a nivel estatal. En específico, el 8 de enero de 2025, se introdujeron proyectos de ley enfocados en el uso de herramientas de toma de decisiones basadas en IA tanto en el Senado como en la Asamblea Estatal de Nueva York.
El Proyecto de Ley de IA de Nueva York (Bill S011692) se centra en abordar la discriminación algorítmica regulando y restringiendo el uso de ciertos sistemas de IA, incluidos en el ámbito laboral. Este proyecto de ley permitiría un derecho de acción privada, empoderando a los ciudadanos para presentar demandas contra empresas tecnológicas. Además, la Ley de Protección al Consumidor de IA de Nueva York (Bill A007683) enmendaría la ley de negocios general para prevenir el uso de algoritmos de IA que discriminen a clases protegidas, incluido en el ámbito laboral.
Proyecto de Ley del Senado 1169
El 8 de enero de 2025, la Senadora Estatal de Nueva York, Kristen Gonzalez, introdujo el Proyecto de Ley de IA de Nueva York argumentando que “[u]na creciente cantidad de investigaciones muestra que los sistemas de IA que se implementan sin pruebas adecuadas, supervisión suficiente y salvaguardias robustas pueden dañar a los consumidores y negar a los grupos históricamente desfavorecidos el pleno ejercicio de sus derechos civiles y libertades”.
Este proyecto de ley abarcaría a todos los “consumidores”, definidos como cualquier residente del estado de Nueva York, incluidos empleados y empleadores. El proyecto afirma que “[l]a legislatura debe actuar para garantizar que todos los usos de la IA, especialmente aquellos que afectan decisiones importantes en la vida, estén libres de sesgos dañinos, protejan nuestra privacidad y trabajen para el bien público].”
Una de las características que distingue al Proyecto de Ley de IA de Nueva York de otras leyes estatales propuestas es la inclusión de un derecho de acción privada, permitiendo a los residentes de Nueva York presentar reclamaciones contra empresas tecnológicas por violaciones. También prevé la aplicación por parte del fiscal general del estado y otorga a los consumidores el derecho a optar por no participar en la toma de decisiones automatizada.
Obligaciones de los Desplegadores de IA
Los “desplegadores” de sistemas de IA de alto riesgo deben cumplir con ciertas obligaciones. Esto incluye la obligación de informar al usuario final con claridad y en términos amigables que están utilizando un sistema de IA que toma decisiones significativas, al menos cinco días hábiles antes de su uso. Además, deben permitir que el consumidor tenga suficiente tiempo y oportunidad para optar por no participar en el proceso automatizado y para que un representante humano tome la decisión.
Los desplegadores también deben completar una auditoría antes de utilizar un sistema de IA de alto riesgo, seis meses después de su implementación, y al menos cada 18 meses mientras el sistema esté en uso. Independientemente de los hallazgos finales, todas las auditorías deben ser entregadas al fiscal general.
Si se produce una violación, el fiscal general puede solicitar una orden judicial para prohibir la continuacion de la violación, y el tribunal puede imponer una multa civil de no más de US$20,000 por cada violación.
Proyecto de Ley de la Asamblea 768
El mismo día, el miembro de la Asamblea Estatal de Nueva York, Alex Bores, introdujo la Ley de Protección, que busca prevenir el uso de algoritmos de IA que discriminen a clases protegidas. Esta ley requiere una auditoría de sesgo y gobernanza, que consiste en una evaluación imparcial por un auditor independiente.
A partir del 1 de enero de 2027, cada desplegador de un sistema de decisión de IA de alto riesgo deberá utilizar un cuidado razonable para proteger a los consumidores de cualquier riesgo conocido o previsible de discriminación algorítmica.
Conclusiones para los Empleadores
Los empleadores deben trabajar para cumplir con la legislación existente y prepararse para futuras leyes estatales. Algunas recomendaciones incluyen:
- Evaluar los Sistemas de IA: Identificar cualquier sistema de IA desarrollado o desplegado por la empresa, especialmente aquellos utilizados en decisiones significativas relacionadas con el empleo.
- Revisar las Políticas de Gestión de Datos: Asegurarse de que las políticas de gestión de datos cumplan con los estándares de protección de datos.
- Prepararse para Auditorías: Familiarizarse con los requisitos de auditoría y comenzar a prepararse para auditorías potenciales de sistemas de IA de alto riesgo.
- Desarrollar Procesos Internos: Establecer procesos internos para las divulgaciones de empleados relacionadas con violaciones de sistemas de IA.
- Monitorear la Legislación: Mantenerse informado sobre los proyectos de ley propuestos y revisar continuamente la orientación de las agencias federales.
