La nueva Ley de IA de la UE restringe los sistemas de reconocimiento emocional en los lugares de trabajo
La reciente Ley de Inteligencia Artificial (IA) de la Unión Europea impone restricciones significativas sobre el uso de sistemas de reconocimiento emocional en los entornos laborales. Este marco legal busca proteger la privacidad de los empleados y evitar prácticas discriminatorias que puedan surgir del análisis de datos biométricos.
Prohibiciones clave
La ley prohíbe expresamente el uso de sistemas de IA que inferen emociones a partir de tecleos, posturas corporales o movimientos. Estas tecnologías, que se basan en datos biométricos, no solo están prohibidas durante el proceso de reclutamiento, sino también durante los períodos de prueba.
Ejemplos específicos de prohibiciones incluyen:
- El uso de sistemas de IA para monitorear el tono emocional en equipos de trabajo híbridos a través de videoconferencias.
- La utilización de cámaras en supermercados para rastrear las emociones de los empleados, como la felicidad.
- La aplicación de sistemas de reconocimiento de voz en centros de llamadas para evaluar las emociones de los trabajadores.
Sin embargo, existen excepciones. Estas herramientas pueden ser utilizadas para fines de entrenamiento personal, siempre que los datos no se compartan con el personal de recursos humanos y que no influyan en la evaluación o promoción del empleado.
Abordando los riesgos de privacidad de la IA
La implementación de esta ley responde a preocupaciones sobre la privacidad y el potencial de sesgos en la detección emocional impulsada por la IA. Los sistemas de reconocimiento emocional han suscitado interrogantes éticos debido a la variabilidad de la expresión emocional en diferentes culturas e individuos.
La prohibición busca proteger la dignidad de los trabajadores y prevenir prácticas discriminatorias. Sin embargo, se permiten excepciones para los sistemas de IA utilizados para monitorear estados emocionales con fines médicos o relacionados con la seguridad.
Por ejemplo, la IA podría ser utilizada en entornos de alto riesgo, como fábricas o sitios de construcción, para identificar signos de estrés o agotamiento, siempre que la tecnología esté directamente vinculada al bienestar y la seguridad de los empleados.
Aplicación y futuro de la Ley de IA de la UE
La Ley de Inteligencia Artificial de la UE fue promulgada en agosto de 2024 y será completamente aplicable a partir del 2 de agosto de 2026. La Comisión Europea ha declarado que la ambición es proporcionar certeza legal a quienes ofrecen o despliegan sistemas de inteligencia artificial en el mercado europeo, así como a las autoridades de vigilancia del mercado.
Es importante señalar que las directrices emitidas no son vinculantes, lo que significa que las interpretaciones autoritativas están reservadas para el Tribunal de Justicia de la Unión Europea (TJUE).
