Lex Algorithmi, Lex Imperfecta? Os Limites da Tradução Legal na Lei de IA da UE
A relação entre tecnologia e direito sempre foi complexa, mas a ascensão da inteligência artificial (IA) e, em particular, dos sistemas de tomada de decisão algorítmica, introduz uma nova camada de complexidade. Esses sistemas são sociotécnicos; eles não apenas processam dados, mas também codificam normas sociais, suposições políticas, regras institucionais e, por vezes, até mesmo preconceitos involuntários. Assim, quando o direito tenta intervir, não está apenas regulando códigos, mas navegando por valores, estruturas e sistemas de poder.
A Lacuna Tradutória
Ao ler a Lei de IA da UE ou estruturas mais amplas como os Princípios de IA da OCDE ou as diretrizes de Ética da IA da UNESCO, é fácil se impressionar com a ambição. Palavras como transparência, justiça, responsabilidade e não manipulação aparecem com frequência. Mas o que exatamente essas palavras significam quando engenheiros se sentam para construir um modelo, ou quando reguladores precisam decidir se uma ferramenta de IA ultrapassa uma linha legal?
A ideia de translatio iuris torna-se central aqui. Ideais éticos elevados devem ser convertidos em mecanismos operacionais, técnicos e legalmente aplicáveis. A dificuldade está no fato de que os sistemas de IA não apenas realizam ações; eles estruturam decisões. Eles filtram, recomendam, classificam e preveem. Ao fazer isso, eles remodelam os próprios contextos que as leis pretendem regular.
Do Ex Ante ao Ex Post
O direito não é apenas sobre conteúdo, mas também sobre tempo. Sistemas jurídicos frequentemente regulam por meio de uma mistura de requisitos ex ante (antes do fato) e ex post (depois do fato). Essa estrutura é especialmente importante na governança da IA, onde os riscos podem ser probabilísticos, opacos ou visíveis apenas após a implementação. A Lei de IA da UE segue essa arquitetura regulatória clássica.
A. Requisitos Ex Ante
Esses requisitos são preventivos por natureza. A ideia é antecipar danos antes que ocorram, incorporando salvaguardas no processo de design, desenvolvimento e implementação. Isso inclui:
- classificação de riscos sob o Título III da Lei;
- governança de dados (Art. 10);
- obrigações de transparência (Art. 13);
- mecanismos de supervisão humana (Art. 14);
- avaliações de conformidade e marcação CE (Art. 19–20).
Essas obrigações atuam como filtros, garantindo que apenas sistemas que atendam a limiares pré-definidos entrem no mercado. Elas refletem o princípio de lex specialis — regras direcionadas que substituem regras mais gerais (lex generalis) em contextos de alto risco.
B. Mecanismos Ex Post
Uma vez que um sistema está operacional, outro conjunto de mecanismos entra em ação — auditorias, monitoramento de desempenho no mundo real, manuseio de reclamações e ações de execução. Esses mecanismos são projetados para:
- Detectar danos ou violações legais que foram perdidas durante o desenvolvimento;
- Permitir reparação e correção (por exemplo, os poderes de execução do Artigo 71);
- Atualizar classificações de risco com base no uso real e na deriva do contexto.
Contudo, como observam os estudiosos da responsabilidade algorítmica, a regulação ex post enfrenta dificuldades quando a trilha de decisão é não linear ou probabilística. Mesmo que um usuário seja prejudicado por uma decisão de IA, rastrear a causa ou a parte responsável pode ser extremamente difícil.
Governando na Era da Deriva Algorítmica
À medida que os legisladores tentam canalizar tecnologias em rápida evolução em categorias estáveis, estamos testemunhando algo mais dinâmico do que uma simples atualização regulatória. O que está em jogo é a capacidade dos sistemas legais de permanecerem inteligíveis e autoritários em um cenário definido por fluidez, abstração e delegação.
Isso não se trata apenas de regulação, mas de epistemologia. Sistemas de IA borram as linhas entre ação e delegação, entre ator e ferramenta. Eles produzem decisões que são, em teoria, rastreáveis, mas na prática muitas vezes são complexas, opacas ou emergentes demais para uma atribuição fácil.
Conclusão
À medida que os sistemas jurídicos tentam se adaptar à natureza dinâmica da IA, a necessidade de uma governança reflexiva torna-se mais evidente. Isso implica regras que não apenas sejam aplicáveis, mas também contestáveis. Mecanismos que facilitem a contestação, explicação ou adaptação de decisões ao longo do tempo são essenciais para garantir que a regulação da IA seja eficaz e responsiva às realidades em evolução.
