Acta de IA de la UE: Primeras Normas sobre Sistemas de IA Prohibidos y Alfabetización en IA
Fecha de Creación: 4 de marzo de 2025
El Acta de Inteligencia Artificial de la Unión Europea, el primer marco legal integral sobre IA en el mundo, entró en vigor el 1 de agosto de 2024. Este acta establece plazos de cumplimiento escalonados para las diversas áreas que regula.
Situación Actual
Con la primera fecha de cumplimiento del Acta, que fue el 2 de febrero de 2025, la UE aplica ahora la categoría de riesgo prohibido, prohibiendo eficazmente el uso de sistemas de IA que se consideren de “riesgo inaceptable”. Además, las Normas de Alfabetización en IA también se volvieron aplicables en esta fecha.
Desarrollo Futuro
En los próximos años, hay más plazos de cumplimiento, junto con la emisión de pautas adicionales por parte de la Comisión Europea para cumplir con el Acta de IA. La Comisión también ha emitido el Segundo Borrador del Código de Práctica para IA de Propósito General para proporcionar claridad y apoyo en el cumplimiento consistente de los modelos de IA de propósito general.
El Acta de IA tiene como objetivo garantizar que los sistemas de IA que se coloquen en el mercado europeo y se usen en la UE sean seguros y respeten los derechos fundamentales y los valores de la UE. Incluye un conjunto de reglas basadas en riesgos para desarrolladores y desplegadores aplicables a diferentes casos de uso de IA.
Primera Fecha de Cumplimiento
A partir del 2 de febrero de 2025, las siguientes disposiciones entraron en vigor:
- Sistemas de IA Prohibidos: La aplicación de la categoría de riesgo prohibido del Acta de IA prohíbe el uso de sistemas de IA considerados de “riesgo inaceptable”. Estos incluyen herramientas que realizan calificaciones sociales, manipulan o explotan a individuos, inferen las emociones de las personas en entornos laborales o educativos, y el uso de identificación biométrica en tiempo real en espacios públicos.
- Normas de Alfabetización en IA: Estas normas requieren que todos los proveedores y desplegadores de sistemas de IA aseguren que su personal tenga un nivel suficiente de comprensión sobre IA, incluyendo sus oportunidades y riesgos, para utilizar los sistemas de IA de manera efectiva y responsable.
Guía: Borrador del Código de Práctica para IA de Propósito General
La Comisión Europea ha emitido un Segundo Borrador del Código de Práctica para IA de Propósito General para desarrolladores de modelos de IA de propósito general. Este código, desarrollado con partes interesadas de la industria, busca proporcionar claridad sobre los requisitos de cumplimiento para la aplicación efectiva del Acta de IA en toda la UE.
Riesgos de No Cumplimiento / Aplicación
Las prohibiciones y obligaciones del Acta de IA se aplican a las empresas que ofrecen o utilizan sistemas de IA. Los infractores enfrentan sanciones significativas que pueden alcanzar hasta 35 millones de euros o el 7% de su facturación anual global.
Próximas Fechas de Cumplimiento
La próxima fecha de cumplimiento importante es el 2 de agosto de 2025, cuando los Estados miembros de la UE deberán designar autoridades nacionales responsables de la aplicación del Acta de IA. En esta fecha también entrarán en vigor las reglas sobre sanciones, gobernanza y confidencialidad.
Pasos Inmediatos a Seguir
Las empresas deben evaluar si y cómo se aplica el Acta de IA a sus sistemas de IA mediante:
- Identificación y documentación de todos los sistemas de IA que desarrolla o despliega una empresa y sus casos de uso previstos;
- Clasificación de todos los sistemas de IA según la categoría de riesgo y los requisitos de cumplimiento;
- Realización de un análisis de brechas de cumplimiento y riesgos para identificar y abordar problemas o desafíos de cumplimiento;
- Desarrollo e implementación de una estrategia de IA y un programa de gobernanza, que incluya un programa de capacitación en alfabetización en IA para el personal.
Conclusiones Clave
1. Con la fecha de cumplimiento del 2 de febrero de 2025 sobre sistemas de IA prohibidos y normas de alfabetización en IA, las empresas deben actuar ahora para evaluar si y cómo se aplica el Acta de IA a sus sistemas de IA.
2. Con la tecnología y los marcos regulatorios evolucionando rápidamente, las empresas deben realizar auditorías regulares para revisar y actualizar sus programas internos de gobernanza, riesgo y cumplimiento para los sistemas de IA.
3. El incumplimiento del Acta de IA puede resultar en sanciones significativas, incluyendo hasta 35 millones de euros o el 7% de la facturación anual global de la empresa.
