Sistemas de IA Riesgosos: ¿Qué son y qué deben hacer los empleadores afectados?
La regulación de la inteligencia artificial (IA) está evolucionando rápidamente, y uno de los hitos más importantes es la entrada en vigor de la Ley de IA de la UE. Esta es la primera legislación en el mundo que establece obligaciones basadas en el nivel de riesgo asociado con usos particulares de sistemas de IA. Las disposiciones relacionadas con los usos más riesgosos de la IA entraron en vigor el 2 de febrero de 2025, y toda la ley estará en vigor para el 1 de agosto de 2026.
El objetivo de la ley es aumentar la seguridad, la transparencia y la sostenibilidad, además de prevenir prácticas discriminatorias en el uso de IA. Es esencial que los empleadores tomen medidas proactivas para garantizar el cumplimiento de la ley y evitar sanciones significativas.
¿Aplica esto a su negocio?
La Ley de IA aplica a los proveedores de sistemas de IA en el mercado de la UE, independientemente de dónde estén establecidos. También se aplica a los usuarios de sistemas de IA fuera de la UE si los resultados de dichos sistemas se utilizarán en la UE. Por ejemplo, si una empresa utiliza una herramienta de reclutamiento basada en IA en el Reino Unido para reclutar en la UE, estará sujeta a la regulación.
Categorías de Riesgo
La ley clasifica los usos de IA en diversas categorías de riesgo, que van desde riesgo mínimo y riesgo limitado hasta alto riesgo y riesgo inaceptable. Los sistemas de IA de riesgo mínimo permanecerán sin regulación, mientras que los de riesgo limitado tendrán obligaciones ligeras para que los usuarios sepan que están interactuando con IA.
Los sistemas de alto riesgo y riesgo inaceptable estarán sujetos a regulaciones más estrictas, con multas que pueden alcanzar hasta 35 millones de euros o hasta el 7% de la facturación global anual de la empresa.
Sistemas de IA de Alto Riesgo
Los sistemas de IA de alto riesgo incluyen aquellos utilizados para categorizar personas en base a datos biométricos, en educación y capacitación, en el ámbito laboral y para la administración de justicia. Un sistema será clasificado como de alto riesgo solo si representa un riesgo significativo para la salud, la seguridad o los derechos fundamentales.
Los desarrolladores de sistemas de IA de alto riesgo tienen hasta al menos 2027 para implementar un sistema de gestión de riesgos, gobernanza de datos y asegurar que sus sistemas cumplan con la ley.
Sistemas de IA de Riesgo Inaceptable
Desde el 2 de febrero de 2025, la ley prohíbe los sistemas de IA de riesgo inaceptable. Entre estos se incluyen sistemas que puntúan socialmente a las personas o que reconocen emociones en el lugar de trabajo o en instituciones educativas.
¿Qué deben hacer los empleadores?
Si su negocio se encuentra dentro del alcance de la ley, se deben tomar acciones inmediatas:
- Auditorías: Realice una auditoría de los sistemas de IA utilizados para identificar aquellos que caen en las categorías de riesgo inaceptable o alto riesgo.
- Políticas: Implemente políticas de gobernanza de IA que definan cómo los empleados deben utilizar la IA de forma responsable.
- Capacitación: Proporcione capacitación sobre el uso de IA para ayudar a los empleados a comprender los desafíos y oportunidades que presenta.
- Cumplimiento de proveedores: Asegúrese de que los proveedores de IA cumplan con la ley y revise los contratos de proveedores para garantizar que la responsabilidad recae en ellos.
Tomar acciones positivas para garantizar el cumplimiento de la ley no solo ayuda a evitar multas significativas, sino que también promueve una cultura laboral centrada en las personas.
