La Unión Europea prohíbe la inteligencia artificial que rastrea emociones bajo nuevas normas de IA
La Unión Europea ha tomado una decisión histórica al prohibir la inteligencia artificial capaz de rastrear las emociones de los empleados a través de cámaras web y sistemas de reconocimiento de voz. Esta medida forma parte de las nuevas directrices sobre IA que entrarán en vigor el 2 de agosto.
El Acta de Inteligencia Artificial
El Acta de Inteligencia Artificial, elaborada el año pasado por la Comisión Europea, representa el primer conjunto integral de normas sobre IA en el mundo, diseñado para proteger a las personas de la discriminación, el acoso y la manipulación basadas en IA.
Las prácticas prohibidas incluyen patrones oscuros habilitados por IA, que están incrustados en servicios diseñados para manipular a los usuarios y llevarlos a realizar compromisos financieros sustanciales. Asimismo, se prohibirán aplicaciones que exploten a los usuarios en función de su edad, discapacidad o situación socioeconómica.
Prohibiciones específicas
Entre las prohibiciones se encuentra el uso de sistemas de reconocimiento facial por parte de las agencias de bienestar social y otros organismos públicos y privados, que no pueden utilizar datos personales no relacionados como el origen y la raza para clasificar socialmente a los individuos. Además, las fuerzas del orden no podrán predecir el comportamiento criminal de las personas únicamente basándose en datos biométricos no verificados.
Los empleadores tampoco podrán utilizar cámaras web y sistemas de reconocimiento de voz para rastrear las emociones de sus empleados, y las cámaras de vigilancia móviles equipadas con tecnologías de reconocimiento facial para fines de aplicación de la ley estarán prohibidas, salvo excepciones limitadas y con estrictas salvaguardias.
Implicaciones y cumplimiento
Los países de la UE deben designar hasta el 2 de agosto a las autoridades de vigilancia del mercado para hacer cumplir estas reglas de IA. Las infracciones a las normas de IA podrían acarrear multas que oscilan entre el 1.5% y el 7% de los ingresos globales totales de las empresas.
El Acta de IA de la UE es más completa que el enfoque de cumplimiento voluntario de Estados Unidos, mientras que el enfoque de China busca mantener la estabilidad social y el control estatal.
Desafíos futuros
Algunos expertos han advertido que el rápido desarrollo de la industria de IA, junto con importantes cambios políticos recientes, podría hacer que las directrices queden obsoletas antes de entrar en vigor. La creciente tensión comercial, impulsada por tarifas impuestas por el presidente de EE. UU., Donald Trump, añade una capa de complejidad a esta situación.
Como señala un especialista en derecho, “la orientación no puede navegar a través del nuevo panorama político”. Sin embargo, las instituciones europeas responsables deberán mantener su posición pro-regulatoria, sin importar las circunstancias futuras.
Lo que queda claro es que la UE ha trazado una línea en la arena y no parece tener intención de retroceder.
