Publicación de Directrices de la Comisión Europea sobre las Prácticas de IA Prohibidas bajo la Ley de IA
El 28 de abril de 2025, la Comisión Europea presentó un conjunto de directrices que abordan las prácticas de inteligencia artificial (IA) prohibidas según la Ley de IA (Reglamento (UE) 2024/1689). Este documento constituye un paso importante hacia la regulación de la IA en la Unión Europea, buscando proteger los derechos fundamentales y promover la innovación.
Antecedentes
Desde el 2 de febrero de 2025, las disposiciones generales de la Ley de IA han entrado en vigor, así como las reglas sobre prácticas de IA prohibidas. El Artículo 5 de la Ley prohíbe prácticas que podrían comprometer derechos fundamentales, tales como:
- Técnicas manipulativas o engañosas.
- Raspado de datos faciales no dirigido.
- Sistemas explotadores que apuntan a grupos vulnerables.
- Categorización biométrica y reconocimiento emocional en contextos sensibles.
Directrices sobre Prácticas de IA Prohibidas
La Comisión ha publicado un documento detallado de 135 páginas que define las prácticas de IA inaceptables debido a sus riesgos. El objetivo de este documento es proporcionar a las empresas claridad sobre cómo se interpretan y definen las prácticas de IA prohibidas. Las áreas clave incluyen:
- Interpretación de las prohibiciones, equilibrando la protección de derechos fundamentales con la innovación.
- Alcance de la Ley de IA, incluyendo exclusiones relevantes.
- Alcance material y personal del Artículo 5, abarcando prácticas relacionadas con la comercialización y uso de sistemas de IA.
Prácticas Prohibidas Específicas
Las prácticas prohibidas están claramente delineadas en el Artículo 5(1) de la Ley de IA, y se examinan metódicamente para aclarar su aplicación. Las prohibiciones incluyen:
- Manipulación y engaño dañinos: Sistemas que distorsionan el comportamiento causando daño significativo.
- Explotación de vulnerabilidades: Aprovechar situaciones vulnerables, como la edad o discapacidad, para distorsionar el comportamiento.
- Scoring social: Evaluar individuos basándose en comportamientos sociales, llevando a tratamientos desfavorables.
- Evaluación de riesgo de delitos: Predecir delitos basándose exclusivamente en rasgos de personalidad.
- Raspado no dirigido para reconocimiento facial: Creación de bases de datos de reconocimiento facial mediante la recolección indiscriminada de imágenes.
- Reconocimiento emocional: Inferir emociones en entornos laborales o educativos, salvo por razones médicas o de seguridad.
- Categorización biométrica: Clasificar individuos basándose en datos biométricos para inferir atributos personales.
- Identificación biométrica remota: Uso de identificación biométrica en espacios públicos para la aplicación de la ley, salvo en circunstancias específicas.
Exclusiones de la Ley de IA
El Artículo 2 de la Ley de IA establece exclusiones generales, como las IA liberadas bajo licencias de código abierto. Sin embargo, esta excepción no se aplica si los sistemas de IA son comercializados como de alto riesgo o están sujetos a las obligaciones de transparencia.
¿Qué sigue?
Las empresas deben evaluar minuciosamente, caso por caso, si una aplicación de IA específica se considera prohibida según el Artículo 5. Tanto los proveedores como los desplegadores tienen responsabilidades distintas basadas en su control sobre el diseño, desarrollo y uso del sistema. La implementación de medidas preventivas y de mitigación es esencial para garantizar el cumplimiento de la Ley de IA.
A pesar de ser directrices no vinculantes, la interpretación y ejemplos proporcionados por la Comisión son herramientas útiles para la evaluación y cumplimiento de la Ley de IA.
