Directrices de la Comisión Europea sobre Prácticas de IA Prohibidas bajo la Ley de IA de la UE
El 4 de febrero de 2025, la Comisión Europea (CE) emitió un borrador de directrices que aclaran las prácticas de IA que están prohibidas bajo la Ley de Inteligencia Artificial (IA) de la Unión Europea (UE). A pesar de ser no vinculantes, estas directrices ofrecen aclaraciones valiosas y ejemplos prácticos para ayudar a las empresas a navegar sus obligaciones bajo la Ley de IA. La CE ha aprobado el borrador, pero aún se espera su adopción formal en el corto plazo.
Antecedentes
El 2 de febrero de 2025, las disposiciones de la Ley de IA sobre prácticas de IA prohibidas entraron en vigor, junto con otras disposiciones sobre alfabetización en IA. El Artículo 5 de la Ley de IA prohíbe ciertas prácticas de IA que se consideran de riesgo inaceptable, tales como sistemas de IA que manipulan o explotan a individuos, realizan puntuaciones sociales o inferen emociones de las personas en el lugar de trabajo o en la educación. La prohibición se aplica tanto a las empresas que ofrecen dichos sistemas de IA como a aquellas que los utilizan.
Prácticas de IA Prohibidas
A continuación, se presenta un resumen de las principales prohibiciones bajo la Ley de IA, según lo interpretado por las directrices:
- Puntuación Social: La Ley de IA prohíbe ofrecer o utilizar sistemas de IA que evalúen los comportamientos sociales de los individuos para determinar su tratamiento en un contexto no relacionado. Por ejemplo, sistemas de IA utilizados para recomendar el precio de una prima de seguro podrían considerarse puntuación social si la evaluación se basa en características personales no relacionadas.
- Manipulación y Explotación: La Ley de IA prohíbe el uso de sistemas de IA que utilicen técnicas subliminales o exploten vulnerabilidades individuales para influir en su comportamiento y causar daño. Por ejemplo, el uso de IA en juegos para fomentar un juego excesivo explotando las vulnerabilidades de los niños se considera prohibido.
- Reconocimiento Facial e Identificación Biométrica: La Ley de IA prohíbe la práctica de construir bases de datos de reconocimiento facial mediante la captura no dirigida de imágenes de internet o de CCTV. Las directrices aclaran que esta prohibición no se aplica a la captura de datos que no sean imágenes faciales.
- Reconocimiento de Emociones en Lugares de Trabajo e Instituciones Educativas: El uso de IA para reconocer emociones en entornos laborales y educativos está generalmente prohibido. Ejemplos incluyen el uso de sistemas de reconocimiento de emociones durante el proceso de contratación o en instituciones educativas.
- Categorización Biométrica: La categorización de individuos basada en atributos sensibles como raza u opiniones políticas utilizando datos biométricos está prohibida. Por ejemplo, las directrices indican que es prohibido ofrecer sistemas de IA que categoricen a las personas en base a tales atributos.
Responsabilidades para Proveedores de IA
Las directrices estipulan que los proveedores de sistemas de IA son responsables de no lanzar un sistema que sea «razonablemente probable» que se utilice para un propósito prohibido, así como de adoptar salvaguardias para prevenir el uso indebido razonablemente previsible. Esto implica anticipar los posibles usos de sus sistemas de IA y implementar salvaguardias adecuadas.
Próximos Pasos
Las empresas que participen en prácticas de IA prohibidas pueden enfrentar multas significativas, que pueden alcanzar hasta 35 millones de euros o el siete por ciento de su facturación anual global, lo que sea mayor. Se espera que las primeras acciones de ejecución comiencen en la segunda mitad de 2025, a medida que los países de la UE finalicen sus regímenes de ejecución. Las empresas que ofrezcan o utilicen IA en la UE deben revisar sus sistemas de IA y términos en función de estas directrices y abordar cualquier brecha de cumplimiento en la primera mitad de 2025.
