Como os Sistemas de IA Ameaçam Erodir o Estado de Direito
Os sistemas de inteligência artificial (IA) estão criando danos sociais inéditos que comprometem a independência judicial, manipulam a formação da opinião política e erodem o estado de direito através da opacidade algorítmica e da insuficiência de salvaguardas legais.
Questões Prementes
Uma pergunta essencial a ser feita é se os danos sociais causados por sistemas de IA estão sendo adequadamente abordados dentro das categorias e legislações legais existentes. Este estudo se concentra nos riscos e danos relacionados ao estado de direito, destacando três questões principais.
Convenção-Quadro do Conselho da Europa sobre IA
A Convenção-Quadro sobre IA, Direitos Humanos, Democracia e Estado de Direito, concluída em 5 de setembro de 2024, busca proteger não apenas os direitos humanos, mas também os processos democráticos e o estado de direito no contexto da IA. O Artigo 4 trata dos direitos humanos, enquanto o Artigo 5(1) aborda a obrigação dos estados de adotar medidas para garantir que os sistemas de IA não sejam usados para minar a integridade dos processos democráticos.
Legitimidade e Não-Arbitrariedade na Implementação de Sistemas de IA
Os tribunais já abordaram as preocupações prementes por quadros legislativos robustos e salvaguardas fortes. O Tribunal Europeu dos Direitos Humanos e a Corte de Apelação da Inglaterra encontraram o uso de tecnologias de reconhecimento facial não apenas como violação dos direitos humanos, mas também como base de estruturas legais fundamentalmente deficientes.
Opacidade Algorítmica e Supervisão Judicial
A opacidade algorítmica inibe o acesso à justiça e o direito a um remédio efetivo. A capacidade dos tribunais de exercer a supervisão judicial, um requisito fundamental do estado de direito, também está em jogo. Sistemas de IA desenvolvidos de forma privada e utilizados no setor público são protegidos de escrutínio devido a restrições impostas por contratos e propriedade intelectual.
Capacidade dos Indivíduos de Formar Opiniões Livresmente
O Artigo 5(2) da Convenção-Quadro vincula concretamente a capacidade de um indivíduo de formar opiniões livremente aos processos democráticos. Este artigo destaca a formação de opiniões políticas como um aspecto da autonomia individual e enfatiza as implicações da manipulação de opiniões políticas em larga escala.
Técnicas manipulativas, como a disseminação de conteúdo enganoso, são um exemplo dos danos sociais que surgem do uso de sistemas de recomendação ou publicidade. A eficácia das medidas que plataformas como X e TikTok tomam para mitigar campanhas de desinformação está sob escrutínio.
Consequências da Manipulação em Processos Eleitorais
As eleições presidenciais canceladas na Romênia e a recomendação de conteúdo político por plataformas para usuários não-partidários são exemplos dos riscos nos processos eleitorais. Os efeitos negativos nos processos eleitorais são riscos sistêmicos que provedores de plataformas online devem identificar e analisar.
Incompatibilidade com a Lei Internacional de Direitos Humanos
Alguns sistemas de IA que afetam a capacidade dos indivíduos de formar opiniões livremente podem ser incompatíveis com a lei internacional de direitos humanos e o estado de direito. O Artigo 16(4) da Convenção é criticado por deixar muita discrição aos estados para avaliar a necessidade de proibir sistemas de IA.
Por outro lado, o Artigo 5 do Ato de IA da UE proíbe sistemas de IA que manipulam e exploram vulnerabilidades humanas, embora ainda estejamos longe de definir claramente quando esses critérios são atendidos.
