Guía de la Comisión Europea sobre la Definición de Sistemas de IA
La Comisión Europea ha emitido unas esperadas y completas directrices sobre la definición de los sistemas de IA, tal como se establece en el Reglamento (UE) 2024/1689 (Ley de IA). Con estas directrices prácticas, la Comisión busca ayudar a proveedores, desplegadores, importadores y distribuidores de sistemas de IA a determinar si un sistema constituye un sistema de IA en el sentido de la Ley de IA, facilitando así la aplicación y el cumplimiento efectivo de esa Ley. La definición de los sistemas de IA entró en vigor el 2 de febrero de 2025.
Elementos clave de la definición de sistema de IA
Debido a la naturaleza diversa de los sistemas de IA, las directrices no pueden proporcionar una lista exhaustiva. Cada sistema debe ser evaluado en función de sus características específicas.
La Ley de IA sigue un enfoque basado en el ciclo de vida y define un sistema de IA como lo siguiente: (1) un sistema basado en máquinas (2) diseñado para operar con diferentes niveles de autonomía (3) que puede exhibir adaptabilidad después de la implementación (4) y, para objetivos explícitos o implícitos, (5) infiera de la entrada que recibe cómo generar salidas, (6) tales como predicciones, contenido, recomendaciones o decisiones (7) que pueden influenciar entornos físicos o virtuales.
Esta definición de siete puntos cubre dos fases principales: la pre-implementación (fase de construcción) y la post-implementación (fase de uso). No todos los siete elementos deben estar presentes en ambas fases; algunos pueden aparecer solo en una etapa.
Resumen conciso de cada uno de los siete puntos
1. Sistema basado en máquinas
Los sistemas de IA son basados en máquinas, lo que significa que se desarrollan y funcionan en máquinas y dependen de componentes de hardware y software para operar. El hardware incluye unidades de procesamiento, memoria, dispositivos de almacenamiento e interfaces de red, mientras que el software consiste en código de computadora, sistemas operativos y aplicaciones que permiten el procesamiento de datos y la ejecución de tareas.
2. Autonomía
La autonomía de un sistema de IA se refiere a su capacidad para operar con diferentes niveles de independencia de la intervención humana. Los sistemas de IA varían desde aquellos que operan con plena intervención humana hasta los completamente autónomos, con muchos en un punto intermedio. Un sistema que procesa entradas proporcionadas manualmente para generar una salida de manera independiente sigue calificando como con algún grado de independencia de acción.
El nivel de autonomía del sistema de IA es crucial para los proveedores al determinar el riesgo del sistema de IA y las obligaciones de cumplimiento y al implementar salvaguardias para la implementación de la IA.
3. Adaptabilidad
La adaptabilidad, que no es un requisito mandatorio de la definición de sistema de IA, se refiere a la capacidad de un sistema de IA para exhibir capabilidades de auto-aprendizaje después de la implementación, permitiendo que su comportamiento cambie con el tiempo y produzca resultados diferentes para las mismas entradas.
4. Objetivos del sistema de IA
Los sistemas de IA están diseñados para operar con base en objetivos explícitos o implícitos que guían su funcionalidad. Los objetivos explícitos son metas claramente definidas directamente codificadas por los desarrolladores, mientras que los objetivos implícitos emergen del comportamiento del sistema, datos de entrenamiento o interacciones con su entorno.
5. Inferencia para generar salidas utilizando técnicas de IA
Una característica clave de un sistema de IA es su capacidad de inferir cómo generar salidas a partir de la entrada que recibe, distinguiéndolo de software tradicional. El proceso de inferencia permite a los sistemas de IA producir predicciones, contenido, recomendaciones o decisiones que influyen en entornos físicos y virtuales.
6. Salidas que pueden influenciar entornos físicos o virtuales
Una característica clave de los sistemas de IA es su capacidad para generar salidas que pueden influir en entornos físicos o virtuales. Estas salidas caen en cuatro categorías: predicciones, generación de contenido, recomendaciones y decisiones, cada una variando en el nivel de intervención humana.
7. Interacción con el entorno
Las salidas de los sistemas de IA impactan activamente en entornos físicos y virtuales, influenciando objetos tangibles como robots y espacios digitales como flujos de datos y ecosistemas de software.
Sistemas fuera del alcance de la definición de sistema de IA
La definición de sistema de IA no cubre sistemas que se basan en reglas definidas únicamente por personas naturales para ejecutar automáticamente operaciones. Estos sistemas pueden incluir lo siguiente:
- Sistemas para mejorar la optimización matemática porque no trascienden el ‘procesamiento de datos básico’.
- Sistemas de procesamiento de datos básicos porque siguen instrucciones o reglas explícitas predefinidas.
- Sistemas basados en heurísticas clásicas, que son técnicas de resolución de problemas que dependen de métodos basados en la experiencia.
- Sistemas de predicción simple porque su rendimiento puede lograrse a través de una regla de aprendizaje estadístico básico.
Para obtener asesoramiento sobre cómo navegar estas regulaciones y asegurar que sus sistemas de IA cumplan con los estándares requeridos, es recomendable contactar a expertos en el área.
