Reglamento de la UE sobre Prácticas de IA Peligrosas
El 6 de febrero de 2025, los reguladores de la Unión Europea (UE) anunciaron la prohibición de ocho prácticas de inteligencia artificial (IA) consideradas peligrosas bajo su nueva Ley de IA. Esta normativa busca evitar abusos en el uso de esta tecnología emergente mientras se fomenta la innovación en Europa, un continente que enfrenta el desafío de mantenerse al día con Estados Unidos y China en el campo de la IA.
Objetivos de la Nueva Ley
La ley, considerada como la regulación de IA más completa del mundo, adopta un enfoque basado en el riesgo. Si un sistema se clasifica como de alto riesgo, la empresa deberá cumplir con una serie de obligaciones más estrictas antes de recibir autorización para operar en la UE. Estas regulaciones entraron en vigor esta semana, aunque los 27 estados miembros de la UE tienen hasta agosto para designar un regulador que las haga cumplir.
Prácticas Prohibidas
A continuación, se detallan las ocho prácticas que se prohíben según la nueva normativa:
- Identificación en tiempo real de personas en espacios públicos: Se prohíbe el uso de sistemas de IA equipados con cámaras para la identificación biométrica en tiempo real con fines de aplicación de la ley, salvo en casos excepcionales como la prevención de ataques terroristas.
- Clasificación social basada en datos personales no relacionados con el riesgo: La ley impide usar IA para evaluar la probabilidad de que una persona incumpla un préstamo o cometa fraude social basándose en datos personales irrelevantes, como el origen o el comportamiento en redes sociales.
- Evaluación del riesgo criminal solo con datos biométricos: No se puede predecir el riesgo de comportamiento criminal basándose únicamente en características faciales sin considerar hechos verificables relacionados.
- Creación de bases de datos de reconocimiento facial a partir de imágenes en línea: Se prohíben las herramientas que extraen imágenes faciales de Internet y CCTV para crear grandes bases de datos, lo que equivaldría a vigilancia estatal.
- Detección de emociones en el lugar de trabajo y en instituciones educativas: Las organizaciones no pueden usar sistemas de IA para detectar emociones a través de webcams o sistemas de reconocimiento de voz.
- Manipulación del comportamiento usando IA: Se prohíbe la integración de sistemas de IA engañosos o subliminales en el diseño de interfaces para inducir a los usuarios a realizar compras.
- Explotación de vulnerabilidades relacionadas con la edad o discapacidad: Se prohíben los juguetes o sistemas de IA destinados a niños, ancianos o personas vulnerables que fomenten comportamientos potencialmente dañinos.
- Inferencia de opiniones políticas u orientación sexual mediante datos biométricos: No se permitirán sistemas que intenten inferir las opiniones políticas o la orientación sexual de una persona a partir del análisis de su rostro.
Consecuencias de la Violación de Normas
Las empresas que infrinjan estas normas se enfrentan a multas de hasta el siete por ciento de sus ingresos anuales globales o multas de hasta 35 millones de euros (aproximadamente 164 millones de RM), lo que sea más alto.
Con estas regulaciones, la UE busca no solo proteger a los ciudadanos de los riesgos asociados con la IA, sino también establecer un marco claro para su desarrollo responsable.
