Cumplimiento de la IA: Un Recordatorio Rápido
La inteligencia artificial (IA) está remodelando la sociedad moderna, permitiendo la automatización y modificación de actividades humanas rutinarias, lo que a su vez mejora la eficiencia y productividad. Sin embargo, como cualquier desarrollo tecnológico, la IA presenta tanto beneficios como riesgos. Las preocupaciones incluyen sesgos potenciales, intrusiones en la privacidad y dilemas éticos.
Según el Informe de Índice de Inteligencia Artificial 2024, una encuesta de Ipsos en 2023 reveló que el 66% de los encuestados anticipa que la IA cambiará significativamente sus vidas en el futuro cercano, mientras que el 54% cree que sus beneficios superan sus desventajas. Sin embargo, el sentimiento público es mixto: el 52% expresó sentirse nervioso acerca de los productos y servicios de IA, con un aumento del 13% desde 2022. A nivel mundial, las preocupaciones más significativas giran en torno a la mala utilización de la IA para propósitos dañinos (49%), su impacto en el empleo (49%) y las posibles violaciones de privacidad (45%).
Regulaciones Globales
Las autoridades de todo el mundo están intentando mantenerse al día con el rápido desarrollo de la IA y mitigar los riesgos y preocupaciones públicas asociadas a través de regulaciones. Un ejemplo destacado es la Ley de IA de la UE, que constituye el primer marco legal enfocado en la IA para el desarrollo, despliegue y uso de sistemas de IA y modelos de IA de propósito general. Esta ley entró en vigor el 1 de agosto de 2024, con el primer conjunto de reglas impactantes tomando efecto el 2 de febrero de 2025, que se centran en (1) sistemas de IA prohibidos y (2) obligaciones de alfabetización en IA.
Sistemas de IA Prohibidos
Según la Ley de IA de la UE, ciertos sistemas de IA están prohibidos debido a su riesgo inaceptable para los derechos fundamentales. Estos incluyen sistemas de IA que:
- Usan técnicas subliminales, manipulativas o engañosas que distorsionan el comportamiento y afectan la toma de decisiones, causando daño significativo;
- Explotan vulnerabilidades relacionadas con la edad, discapacidad o estatus socioeconómico para distorsionar el comportamiento, llevando a un daño;
- Proporcionan categorías biométricas para inferir o deducir el estatus en grupos sensibles;
- Proporcionan puntuaciones sociales que resultan en un tratamiento injusto o perjudicial basado en el comportamiento o rasgos personales;
- Proporcionan evaluaciones de riesgo criminal basadas en perfiles o rasgos de personalidad;
- Crean bases de datos de reconocimiento facial mediante raspado masivo de internet o grabaciones de CCTV;
- Proporcionan reconocimiento de emociones en el lugar de trabajo o en educación;
- Realizan identificación biométrica remota en tiempo real en espacios públicos para propósitos de aplicación de la ley.
Estas prohibiciones vienen con ciertos calificativos, así como exenciones relacionadas con la seguridad y la aplicación. Para asegurar la aplicación consistente y uniforme de la Ley de IA de la UE en este aspecto, en febrero de 2025, la Comisión Europea publicó dos borradores de directrices: (1) Directrices sobre la definición de sistemas de IA y (2) Directrices sobre prácticas de IA prohibidas.
Alfabetización en IA y Cumplimiento
La alfabetización en IA es otro aspecto crucial de la Ley de IA de la UE que forma parte de un marco de gobernanza. Esto significa que los empleadores deben asegurar que sus empleados involucrados en el despliegue de IA comprendan cómo funcionan estos sistemas, los riesgos asociados y cualquier desafío potencial que presenten.
El Artículo 4 de la Ley de IA de la UE exige que los proveedores y desplegadores de sistemas de IA tomen medidas para garantizar que su personal asociado posea suficiente alfabetización en IA, «teniendo en cuenta su conocimiento técnico, experiencia, educación y formación, y el contexto en el que se van a utilizar los sistemas de IA, considerando a las personas o grupos de personas sobre los cuales se van a utilizar los sistemas de IA». El objetivo de esta obligación es fomentar una cultura de uso responsable de la IA, apoyando el cumplimiento y la innovación.
Este documento sirve como un breve recordatorio de la necesidad de cumplir con los requisitos regulatorios.
