Acta de la IA de la UE: Prohibiciones y Reglas de Alfabetización en IA
Con la aprobación de la primera fecha límite de cumplimiento del Acta de la IA de la UE el 2 de febrero de 2025, los reguladores de la UE han prohibido oficialmente ciertas aplicaciones de IA de alto riesgo. Las empresas que desarrollan o despliegan sistemas de IA ahora deben implementar medidas para garantizar que el personal que opera estos sistemas posea un nivel suficiente de alfabetización en IA.
Prácticas de IA Prohibidas
El Artículo 5 del Acta de la IA de la UE prohíbe las aplicaciones de IA que representan riesgos inaceptables para los derechos fundamentales y los valores centrales de la Unión. Específicamente, la ley prohíbe la venta («colocación en el mercado»), el despliegue («puesta en servicio») o el uso de cualquier sistema de IA que:
- Utilice técnicas subliminales, manipulativas o deceptivas que distorsionen el comportamiento de una persona o afecten su toma de decisiones;
- Exploite las vulnerabilidades de una persona o grupo de personas basadas en su edad, discapacidad o estatus socioeconómico;
- Evalúe a individuos o grupos basados en su comportamiento social o rasgos de personalidad con un puntaje social que lleve a un tratamiento perjudicial o injusto;
- Evalúe o prediga el riesgo de que una persona cometa un delito basándose únicamente en la perfilación o la evaluación de su comportamiento;
- Cree o amplíe bases de datos de reconocimiento facial mediante la recolección no dirigida de imágenes faciales de internet o CCTV;
- Infiera las emociones de un individuo en el trabajo o en una institución educativa;
- Utilice la categorización biométrica para asignar a individuos basándose en sus datos biométricos;
- Recolecte datos biométricos en tiempo real en espacios públicos para fines de aplicación de la ley.
Las prohibiciones incluyen una exención específica para el uso de sistemas de IA diseñados para inferir emociones en el lugar de trabajo o en entornos educativos, pero solo con fines médicos o de seguridad.
Alfabetización en IA
Las disposiciones de alfabetización en IA bajo el Artículo 4 del Acta de la IA de la UE también entraron en vigor el 2 de febrero de 2025. Según estas nuevas obligaciones, los proveedores y desplegadores de sistemas de IA deben asegurar un nivel «suficiente» de alfabetización en IA entre su personal. La alfabetización en IA se define como las habilidades, conocimientos y comprensión necesarios para tomar decisiones informadas sobre el despliegue de sistemas de IA y ser conscientes de las oportunidades, riesgos y posibles daños que estos sistemas pueden causar.
Próximos Pasos
El primer paso será evaluar y documentar si su negocio está utilizando aplicaciones de IA prohibidas bajo el Artículo 5 del Acta de la IA de la UE. Si es así, la siguiente prioridad es involucrar a las partes interesadas clave, comenzar a eliminar los sistemas de IA aplicables y, en última instancia, discontinuar su uso. A lo largo de este proceso, se recomienda establecer procedimientos para identificar futuras iniciativas de IA que puedan intersectar con la prohibición, implementar capacitación para empleados y coordinar con proveedores de servicios para mantener un enfoque consistente hacia la adherencia regulatoria.
Aunque las prohibiciones específicas no se apliquen a los casos de uso de IA de su organización, los requisitos de alfabetización en IA cubren un rango mucho más amplio de actividades relacionadas con la IA. Si aún no están en marcha, esta es una oportunidad para colaborar con equipos internos para desarrollar materiales de educación sobre IA, programas de capacitación y salvaguardias contra el uso indebido.
