CUESTIONES DEL CJEU SOBRE LA LEY DE IA RELACIONADAS CON LA TOMA DE DECISIONES AUTOMATIZADAS
El Corte de Justicia de la Unión Europea (CJEU) ha recibido una solicitud de aclaración sobre la toma de decisiones automatizadas (ADM) en el contexto de la nueva Ley de Inteligencia Artificial (IA). Esta petición surge tras un caso presentado por el Tribunal de Distrito de Sofía en Bulgaria el 25 de noviembre de 2024, donde se cuestionan varios aspectos legales relacionados con la ADM.
Contexto del Caso
El caso, identificado como C-806/24, involucra a una empresa de telecomunicaciones que reclama a un consumidor por la falta de pago de sus facturas. El consumidor argumenta que el método utilizado por la empresa para calcular automáticamente las tarifas constituye un sistema de ADM sujeto al Artículo 86(1) de la Ley de IA. Además, plantea interrogantes sobre la transparencia, la revisión humana y la equidad del sistema de ADM.
El tribunal búlgaro ha solicitado al CJEU clarificación sobre 17 cuestiones de derecho, citando la Ley de IA, la Directiva de Cláusulas Abusivas y la Directiva de Derechos de los Consumidores.
Cuestiones Planteadas
Las preguntas formuladas por el tribunal se agrupan en tres categorías principales:
- Derecho a la información: Preguntas sobre el derecho del consumidor a ser informado y a solicitar una revisión de las decisiones tomadas por ADM.
- Equidad en la compensación: Interrogantes sobre la justicia de cobrar una tarifa de compensación cuando el contrato ha finalizado, bajo la legislación de protección al consumidor.
- Costo de los procedimientos judiciales: Pregunta sobre si un consumidor puede ser obligado a asumir parte de los costos del proceso judicial por falta de pago, si el comerciante no explicó claramente la ADM, pero luego lo hace durante el juicio.
Interpretación del Artículo 86(1)
El primer grupo de preguntas se centra en la interpretación del Artículo 86(1) de la Ley de IA, que establece que cualquier individuo sujeto a una decisión basada en un sistema de IA de alto riesgo tiene derecho a obtener del desplegador de IA “explicaciones claras y significativas del papel del sistema de IA en el procedimiento de toma de decisiones y los elementos principales de la decisión tomada”.
Entre las preguntas formuladas por el tribunal, se destacan las siguientes:
- ¿Debe interpretarse el Artículo 86(1) de manera que el comerciante informe al consumidor sobre cómo se toma la decisión utilizando ADM?
- ¿Tiene el tribunal el poder de requerir al comerciante que proporcione los datos de «caja negra», el código fuente y el algoritmo relacionados con la forma en que se toman las decisiones basadas en un sistema de ADM?
- ¿Tiene el consumidor el derecho, según el Artículo 86(1), de exigir al comerciante una explicación o el algoritmo relacionado con el proceso de toma de decisiones?
- ¿El consumidor tiene derecho a solicitar una revisión humana de las decisiones basadas en ADM, y esa revisión debe ser realizada por un juez en procedimientos judiciales reales?
Observaciones Finales
Es relevante destacar que, aunque la Ley de IA entró en vigor en agosto de 2024, el Artículo 86(1) no será aplicable hasta el 2 de agosto de 2026, con un fallo esperado para mediados de 2026.
Este caso subraya la creciente importancia de la regulación en torno a la IA y la necesidad de garantizar que los sistemas de ADM operen de manera transparente y justa para los consumidores.
