El Acta de IA de la UE No Solo Apunta a las Grandes Tecnologías, También Vincula a los Gobiernos
Una vez considerados solo reguladores, las instituciones públicas ahora son propietarias de riesgos de los sistemas de IA.
Cuando se habla del Acta de IA de la UE, a menudo se piensa en los gigantes de Silicon Valley y las startups europeas luchando por cumplir. Sin embargo, hay otro actor menos discutido en el centro de atención: el estado mismo.
En 2020, el sistema SyRI de los Países Bajos, un algoritmo diseñado para detectar fraude en la asistencia social, fue anulado en los tribunales por violar derechos humanos. Según el Acta de IA de la UE, las entidades públicas que utilizan tales sistemas también enfrentarán estrictas obligaciones.
Los gobiernos europeos no solo son reguladores bajo el Acta de IA, también son proveedores y desplegadores de sistemas de IA. Ministerios, municipios, agencias de aplicación de la ley e instituciones públicas ahora enfrentarán las mismas obligaciones que las empresas privadas al utilizar IA. En raras ocasiones, también pueden actuar como importadores si adquieren IA directamente del exterior de la UE, pero esto es la excepción más que la regla.
Y sí: la Acta de IA también se aplica a ellos, excepto en las áreas de seguridad nacional y uso militar, que están fuera del alcance de la regulación.
1. Los Gobiernos Son Más Que Solo Reguladores
Los gobiernos europeos desempeñan un doble papel: supervisan el cumplimiento de la IA en toda la sociedad y despliegan sistemas de IA ellos mismos.
Esto no es teórico. Las entidades públicas ya utilizan IA para:
- Control de fronteras y migración (por ejemplo, perfilado de riesgos en las fronteras de Schengen)
- Detección de fraude en la seguridad social (por ejemplo, puntuación de riesgos de beneficiarios)
- Advertencia predictiva de crisis (por ejemplo, pronósticos estratégicos de conflictos)
Bajo el Acta de IA, muchos de estos caen en la categoría de «alto riesgo», lo que significa que deben cumplir requisitos estrictos sobre transparencia, gestión de riesgos, documentación y supervisión humana. Las autoridades públicas no reciben una exención general.
El mensaje es claro: los gobiernos también son propietarios de riesgos y serán responsables.
Aun el uso de chatbots en la comunicación con los ciudadanos se encuentra bajo el Acta de IA. La mayoría son de «riesgo limitado», pero si un chatbot se utiliza en contextos de alto riesgo como el acceso a beneficios públicos, migración o educación, puede clasificarse como de alto riesgo.
2. Obligaciones Clave para las Instituciones Públicas
Si una agencia pública desarrolla, despliega o compra un sistema de IA, debe entender sus responsabilidades bajo la ley. Estas obligaciones dependen de la categoría de riesgo.
Si el Sistema de IA es de Alto Riesgo
Esto incluye muchos casos de uso del sector público, como control de fronteras, educación, detección de fraude en la asistencia social y selección de empleo.
- Clasificación de riesgo: Determinar si el sistema es de alto riesgo. Si el organismo público es el proveedor, debe registrar el sistema en la base de datos de IA de la UE y someterse a una evaluación de conformidad.
- Transparencia e información ciudadana: Informar a las personas cuando las decisiones son automatizadas, especialmente si esas decisiones afectan sus derechos (por ejemplo, elegibilidad para beneficios, aprobaciones de visa).
- Gobernanza y documentación: Implementar un sistema de gestión de riesgos, asegurar datos de entrenamiento de calidad y sin sesgos, garantizar supervisión humana, habilitar registro, mantenimiento de documentos e informes de incidentes.
- Responsabilidades de adquisición: Si se adquiere el sistema externamente, asegurar que el proveedor cumpla con la Acta de IA y que los contratos aborden cumplimiento, responsabilidad y actualizaciones.
Si el Sistema de IA es de Riesgo Limitado
Estos son sistemas que no toman decisiones de alto riesgo pero aún interactúan con los ciudadanos, como la mayoría de los chatbots o contenido generado por IA.
- Obligaciones de transparencia únicamente: Los ciudadanos deben ser informados que están interactuando con IA, por ejemplo, mediante un aviso como «Esta conversación está siendo manejada por un sistema de IA». Contenido generado por IA debe ser claramente etiquetado como tal.
3. Desafíos para el Sector Público
Si bien la Acta de IA proporciona reglas claras, la implementación no será fácil, especialmente para las instituciones públicas.
- Sistemas heredados: Muchas agencias dependen de IT obsoleta que dificulta la integración y el monitoreo de IA.
- Descentralización: En sistemas federales como Alemania, las responsabilidades están distribuidas a través de múltiples niveles. ¿Quién asegura el cumplimiento en cada nivel?
- Recursos limitados: El cumplimiento requiere experiencia, documentación, prueba y monitoreo, que muchas municipalidades o agencias carecen.
- Dependencia de proveedores: Muchos sistemas de IA son desarrollados externamente. Si un sistema no cumple con las normas, la responsabilidad suele ser poco clara.
4. ¿Qué Viene Después?
A pesar de su ambición, la Acta de IA deja algunas preguntas críticas sin respuesta:
- ¿Serán abrumados los pequeños y medianos organismos públicos? La mayoría no tiene un oficial de ética de IA o equipo de cumplimiento.
- ¿Cómo funcionará la aplicación para las instituciones públicas? ¿Auditarán los reguladores nacionales a los ministerios, y qué sucederá si fallan?
- ¿El miedo a las sanciones inhibirá la innovación? Las agencias podrían evitar el uso de IA por completo para escapar del riesgo.
- ¿Dónde están los recursos? Sin financiamiento y capacitación, muchos organismos del sector público tendrán problemas para cumplir con los requisitos, incluso con las mejores intenciones.
Conclusión: El Estado Debe Predicar con el Ejemplo
Durante años, el sector público ha fomentado la IA ética y responsable en la sociedad. Ahora, con el Acta de IA de la UE, los gobiernos deben predicar con el ejemplo.
Las instituciones públicas ahora tienen la oportunidad de liderar con el ejemplo. Si no lo hacen, arriesgan socavar tanto el cumplimiento como la confianza pública.
El Acta pondrá a prueba si los gobiernos pueden practicar lo que predican. Si tienen éxito, Europa podría establecer el estándar global para la IA pública confiable. Si fallan, no solo se estancará la innovación, sino que también se erosionará la confianza en la democracia misma.
