Un nuevo mundo: ¿Estamos listos para ceder el poder a la IA?
Los algoritmos han participado durante mucho tiempo en la gobernanza. Determinan qué anuncios de empleo llegan a los ciudadanos, qué declaraciones de impuestos son auditadas, qué casos de bienestar son priorizados e incluso cómo se programan las rutas de patrullaje policial.
Gran parte de esto ha ocurrido de manera silenciosa, bajo el lema de “apoyo a la decisión”, en lugar de como una toma de decisiones abierta.
Desarrollos recientes en Albania y Japón
Lo que hace que los desarrollos recientes en Albania y Japón sean distintivos es que los sistemas ya no son una infraestructura oculta. El gobierno de Albania ha encargado formalmente a su asistente digital Diella gestionar los procesos de adquisiciones, y el pequeño partido Path to Rebirth de Japón ha declarado que nombrará una IA como su líder.
Ninguno de estos casos representa la transferencia total de autoridad a las máquinas. Diella sigue siendo una herramienta de flujo de trabajo supervisada, y el partido japonés no tiene escaños en la legislatura nacional y aún debe designar un representante humano para los trámites oficiales.
Aun así, estos movimientos son significativos. Trasladan la toma de decisiones algorítmica de una función de telón de fondo a un rol institucional públicamente reconocido.
Gobernanza algorítmica
La gobernanza algorítmica, entendida ampliamente, no es nueva. Durante décadas, gobiernos y empresas han utilizado fórmulas de puntuación, modelos de riesgo y árboles de decisión para dirigir resultados.
Lo que es distintivo hoy en día es la discusión sobre sistemas de IA que aprenden de los datos, se adaptan con el tiempo y operan a gran escala. Estos sistemas hacen más que ejecutar reglas fijas; generan patrones, clasifican alternativas y, a veces, proponen acciones que no fueron previstas por sus diseñadores.
Esto los hace poderosos, pero también más difíciles de escrutar.
El sueño de la objetividad
Desde Leibniz hasta Condorcet, los pensadores de la Ilustración imaginaron reemplazar la disputa con el cálculo. Leibniz incluso propuso un “cálculo universal” a través del cual los adversarios podrían resolver desacuerdos simplemente declarando calculemus (“calculemos”).
La gobernanza algorítmica contemporánea parece dar vida a este proyecto, prometiendo decisiones purgadas de capricho y prejuicio, entregadas con la regularidad de una llamada de función.
Sin embargo, esta promesa de administración imparcial también genera temor a un control asfixiante.
La novedad de la gobernanza por IA
Lo novedoso en este momento no es la aspiración de racionalizar la gobernanza, sino las propiedades de las herramientas que se están desplegando. A diferencia de los sistemas basados en reglas de décadas anteriores, la IA contemporánea opera mediante inferencia estadística en lugar de lógica explícita. Produce resultados no aplicando reglas transparentes, sino mapeando correlaciones complejas en los datos.
Esto permite flexibilidad y adaptación, donde los sistemas pueden actualizarse a medida que llegan nuevos datos. Sin embargo, también introduce opacidad. Los responsables políticos pueden encontrar difícil explicar por qué se hizo una recomendación dada o reconstruir la cadena de razonamiento detrás de un resultado.
Estudios de caso
Los sistemas algorítmicos difieren de las tecnologías administrativas anteriores en tres formas importantes. Son adaptativos, dependen de la inferencia probabilística en lugar de reglas fijas y operan a una escala que puede afectar millones de casos simultáneamente.
Estos cambios permiten a los gobiernos dirigir recursos con una precisión sin precedentes y anticipar problemas antes de que escalen. También amplifican el impacto de los errores, incrustan sesgos de maneras que pueden ser difíciles de detectar y complican la supervisión.
En lugar de descartar estos desarrollos como trucos de publicidad o temerlos como heraldos del dominio de las máquinas, deberíamos considerar los experimentos de Albania y Japón como estudios de caso tempranos.
Ofrecen una oportunidad para diseñar las normas, prácticas de auditoría y marcos legales que gobernarán la toma de decisiones algorítmica antes de que se convierta en algo profundamente arraigado.
