¿El AI Act Asigna Adecuadamente Responsabilidades a lo Largo de la Cadena de Valor para Sistemas de Alto Riesgo?
La Unión Europea ha adoptado el AI Act para regular los sistemas de inteligencia artificial (IA) de alto riesgo, asignando responsabilidades a actores designados a lo largo de la cadena de valor de estos sistemas. En este artículo, analizamos la asignación de estas responsabilidades y argumentamos que, aunque el enfoque lineal del Acta promueve la cumplimiento y la responsabilidad en cada etapa del diseño, desarrollo y despliegue de los sistemas, también presenta limitaciones notables que podrían poner en riesgo a los individuos.
Introducción
En 2024, la Unión Europea promulgó el AI Act para fomentar la adopción de una IA centrada en el ser humano y confiable, al mismo tiempo que salvaguarda la salud, la seguridad y los derechos fundamentales de las personas. El Acta adopta un enfoque basado en el riesgo que categoriza los sistemas de IA como de riesgo inaceptable, alto, limitado y bajo, además de disposiciones específicas para modelos de IA de propósito general.
Este artículo se centra en los sistemas de IA de alto riesgo y examina si el AI Act asigna adecuadamente responsabilidades a lo largo del ciclo de vida de los sistemas. Comenzamos desglosando la definición de sistemas de IA de alto riesgo e identificando a los actores clave en cada etapa de la cadena de valor.
Análisis de la Asignación de Responsabilidades
El Artículo 6 del AI Act establece que un sistema de IA se clasifica como de alto riesgo en dos situaciones: (1) cuando se utiliza como componente de seguridad de un producto, o un producto cubierto por las leyes de la UE en el Anexo I del Acta y requiere una evaluación de conformidad por parte de un tercero (por ejemplo, dispositivos médicos in vitro, ascensores, juguetes, etc.); o (2) el sistema se menciona en el Anexo III (principalmente relacionado con preocupaciones sobre derechos fundamentales).
Sin embargo, el párrafo 3 del Artículo 6 proporciona una excepción a esta categorización. Aclara que un sistema de IA mencionado en el Anexo III no se considera de alto riesgo cuando está destinado a: (a) realizar una tarea procedural estrecha; (b) mejorar el resultado de una actividad humana previamente completada; (c) detectar patrones de toma de decisiones o desviaciones, y no está destinado a influir en la evaluación humana previamente completada sin una revisión humana adecuada; o (d) realizar una tarea preparatoria de la evaluación relevante para los casos de uso bajo el Anexo III.
Un sistema de IA queda exento cuando no representa un riesgo significativo de daño a la salud, seguridad o derechos fundamentales de las personas. En ese caso, los proveedores de los sistemas deben documentar su evaluación antes de que el sistema se comercialice o entre en servicio, y registrarse junto con el sistema en una nueva base de datos de la UE.
Conclusión
Si bien el AI Act establece un marco regulatorio que busca la transparencia y la responsabilidad, es necesario realizar un refinamiento adicional para abordar mejor la complejidad, opacidad y autonomía únicas de los sistemas de IA. Estas características introducen problemas de responsabilidad que el Acta no aborda completamente. Es fundamental ajustar esta flexibilidad para garantizar una mejor protección de la salud, la seguridad y los derechos fundamentales de los individuos.
