O CJEU Recebe Questões sobre a Lei de IA Relacionadas à Tomada de Decisões Automatizadas
No dia 25 de novembro de 2024, o Tribunal Distrital de Sofia, na Bulgária, fez um pedido de decisão preliminar ao CJEU sobre as disposições relacionadas à tomada de decisões automatizadas (ADM)) conforme estabelecido na Lei de IA. O caso [C-806/24] refere-se a uma reclamação feita por uma empresa de telecomunicações contra um consumidor que não pagou suas contas.
O consumidor argumenta que o método da empresa de telecomunicações para calcular automaticamente as taxas constitui um sistema de ADM sujeito ao Artigo 86(1) da Lei de IA, levantando questões sobre a transparência, revisão humana e aspectos de justiça do sistema de ADM. O tribunal búlgaro solicita ao CJEU esclarecimentos sobre 17 questões legais, citando a Lei de IA, a Diretiva sobre Cláusulas Abusivas e a Diretiva de Direitos dos Consumidores.
Questões Apresentadas pelo Tribunal Búlgaro
De forma ampla, o tribunal búlgaro levanta três conjuntos de questões para consideração do CJEU:
- Questões relacionadas ao direito do consumidor de ser informado e de solicitar revisão de decisões tomadas por ADM;
- Questões sobre a justiça de cobrar uma taxa de compensação quando o contrato foi encerrado, sob a lei de proteção ao consumidor;
- Uma questão sobre se um consumidor pode ser obrigado a arcar com parte dos custos do processo judicial com base na falta de pagamento de valores devidos sob o contrato, se o comerciante não explicou a ADM de maneira clara e compreensível, mas posteriormente fornece a explicação durante os procedimentos judiciais.
Interpretação do Artigo 86(1) da Lei de IA
O primeiro conjunto de questões centra-se na interpretação do Artigo 86(1) da Lei de IA. Esta disposição estabelece que qualquer indivíduo que esteja sujeito a uma decisão que (1) é baseada na saída de um sistema de IA de alto risco e (2) produz efeitos legais ou afeta significativamente essa pessoa, tem o direito de obter do implantador de IA “explicações claras e significativas sobre o papel do sistema de IA no procedimento de tomada de decisão e os principais elementos da decisão tomada”.
O tribunal búlgaro questiona, entre outras coisas, o seguinte sobre o Artigo 86(1) da Lei de IA, lido em conjunto com outras leis da UE:
- O Artigo 86(1) deve ser interpretado como significando que o comerciante deve informar o consumidor sobre como a decisão usando ADM é feita (aqui, em relação a qual algoritmo calcula as faturas geradas automaticamente e quais elementos e parâmetros são alimentados nele)?
- O tribunal tem o poder de exigir que o comerciante forneça os dados da caixa-preta, código-fonte e o algoritmo relacionados à forma como as decisões são tomadas com base em um sistema de ADM?
- O consumidor tem o direito, sob o Artigo 86(1), de exigir do comerciante uma explicação ou o algoritmo relacionado ao processo de tomada de decisão?
- O consumidor tem o direito de solicitar revisão humana das decisões baseadas em ADM – e essa revisão humana precisa ser realizada por um juiz em procedimentos judiciais reais?
É interessante notar que, embora a Lei de IA tenha entrado em vigor em agosto de 2024, o Artigo 86(1) da Lei de IA não se aplica até 2 de agosto de 2026. Um julgamento é esperado para meados de 2026.
Este caso destaca a crescente necessidade de regulamentação e supervisão em torno da tecnologia de IA, especialmente em relação aos direitos dos consumidores e à transparência nas decisões automatizadas. O futuro da legislação de IA na UE pode ter um impacto significativo sobre como as empresas operam e interagem com seus clientes.
