Um Novo Mundo Corajoso: Estamos Prontos para Entregar o Poder à IA?
Os algoritmos há muito tempo participam da governança. Eles determinam quais anúncios de emprego chegam aos cidadãos, quais declarações de impostos são sinalizadas para auditoria, quais casos de assistência social são priorizados e até como as rotas de patrulha da polícia são programadas.
Grande parte disso ocorreu discretamente, sob a bandeira de “suporte à decisão”, em vez de como uma tomada de decisão explícita.
Desenvolvimentos Recentes
O que torna os recentes desenvolvimentos na Albânia e no Japão distintos é que os sistemas não são mais uma infraestrutura escondida. O governo da Albânia encarregou formalmente seu assistente digital Diella de gerenciar processos de aquisição, e o pequeno partido Caminho para a Renascença do Japão declarou que nomeará uma IA como seu líder.
Nenhum desses casos representa a transferência total de autoridade para as máquinas. Diella continua sendo uma ferramenta de fluxo de trabalho supervisionado, e o partido japonês não possui assentos na legislatura nacional, devendo ainda designar um representante humano para os registros oficiais.
Mesmo assim, esses movimentos são significativos. Eles deslocam a tomada de decisão algorítmica de uma função de fundo para um papel institucional reconhecido publicamente.
Governança Algorítmica
A governança algorítmica, entendida de forma ampla, não é nova. Por décadas, governos e empresas usaram fórmulas de pontuação, modelos de risco e árvores de decisão para direcionar resultados.
O que é distinto hoje é a discussão sobre sistemas de IA que aprendem com dados, se adaptam ao longo do tempo e operam em escala.
Esses sistemas fazem mais do que executar regras fixas. Eles geram padrões, classificam alternativas e, às vezes, propõem ações que não foram previstas por seus projetistas.
O Sonho da Objetividade
Desde Leibniz até Condorcet, pensadores do Iluminismo imaginaram substituir disputas por cálculos. Leibniz até propôs um “cálculo universal” pelo qual os adversários poderiam resolver desavenças apenas declarando calculemus (“vamos calcular”).
A governança algorítmica contemporânea parece trazer esse projeto à vida. Ela promete decisões despojadas de capricho e preconceito, entregues com a regularidade de uma chamada de função.
Desafios da Governança Moderna
A governança moderna sempre lutou com a tensão entre ordem e autonomia, entre a promessa de uma administração imparcial e o medo de um controle sufocante. O sociólogo Max Weber descreveu o estado moderno ideal como governado por regras em vez de caprichos pessoais, caracterizado por procedimentos formais, registros escritos e supervisão hierárquica.
Sistemas algorítmicos são uma extensão lógica desse projeto. Eles prometem consistência ao remover a discrição nos níveis mais baixos e impor uniformidade.
Contudo, eles também tornam a “jaula de ferro” de Weber mais apertada. Nesse sentido, existe uma continuidade histórica onde a governança algorítmica não é uma ruptura, mas uma intensificação da racionalização.
A era da cibernética, emergindo na década de 1940, reframingou a governança como um problema de controle de feedback. A ideia de Norbert Wiener era que sistemas biológicos, mecânicos ou sociais poderiam ser regulados ao perceber seu estado, compará-lo a um objetivo e aplicar correções.
Governança por IA
O que é novo neste momento não é a aspiração de racionalizar a governança, mas as propriedades das ferramentas agora implantadas. Diferente dos sistemas baseados em regras das décadas anteriores, a IA contemporânea opera com inferência estatística em vez de lógica explícita.
Isso permite flexibilidade e adaptação, onde os sistemas podem se atualizar conforme novos dados chegam.
No entanto, isso também introduz opacidade. Os formuladores de políticas podem achar difícil explicar por que uma determinada recomendação foi feita ou reconstruir a cadeia de raciocínio por trás de um resultado.
Além disso, a governança algorítmica de hoje não apenas aperta a jaula de Weber; ela arrisca substituir barras visíveis por invisíveis.
Estudos de Caso Iniciais
Os sistemas algorítmicos diferem das tecnologias administrativas anteriores de três maneiras importantes: são adaptativos, dependem de inferência probabilística em vez de regras fixas e operam em uma escala que pode afetar milhões de casos simultaneamente.
Essas propriedades permitem que os governos direcionem recursos com precisão sem precedentes e antecipem problemas antes que eles escalem.
No entanto, também amplificam o impacto de erros, incorporam preconceitos de maneiras que podem ser difíceis de detectar e tornam a supervisão mais complexa.
Em vez de descartar esses desenvolvimentos como truques publicitários ou temê-los como prenúncios do domínio das máquinas, devemos tratar as experiências da Albânia e do Japão como estudos de caso iniciais.
Essas experiências oferecem uma oportunidade para projetar as normas, práticas de auditoria e estruturas legais que governarão a tomada de decisão algorítmica antes que ela se torne profundamente enraizada.
