Diretrizes de Definição de Sistemas de IA Falham em Fornecer Clareza
As diretrizes publicadas pela Comissão Europeia sobre a definição de um sistema de inteligência artificial (IA) falham em fornecer clareza.
As Diretrizes publicadas pela Comissão Europeia visam ajudar desenvolvedores, usuários, pessoas afetadas e órgãos responsáveis a interpretar a definição. A regulamentação de IA da UE, conhecida como AI Act, define um sistema de IA como:
“um sistema baseado em máquina que é projetado para operar com diferentes níveis de autonomia e que pode apresentar adaptabilidade após a implantação, e que, para objetivos explícitos ou implícitos, infere, a partir da entrada que recebe, como gerar saídas, como previsões, conteúdo, recomendações ou decisões que podem influenciar ambientes físicos ou virtuais;”
Questões Identificadas nas Diretrizes
Identificamos três questões principais em como as diretrizes interpretam essa definição.
1. A Regressão Logística Está Dentro do Escopo da Definição
O parágrafo 42 explica que “sistemas para melhorar a otimização matemática” estão fora do escopo. Neste contexto, a regressão linear ou logística são mencionadas como métodos exemplares. Fora desse contexto, esses métodos estariam dentro do escopo da lei.
Isso fica claro ao ler o parágrafo 45, que faz a distinção entre “otimizar o funcionamento dos sistemas” e “ajustes em seus modelos de tomada de decisão”. O último permanece dentro do escopo do AI Act, que cobre aplicações, incluindo áreas de alto risco, como avaliar “a elegibilidade de pessoas naturais para benefícios e serviços públicos essenciais” que envolvem a tomada de decisão sobre pessoas. O uso da regressão logística em tais aplicações implicaria fazer “ajustes em seus modelos de tomada de decisão”.
Assim, a regressão logística está dentro do escopo do AI Act.
2. Contradição entre um Recital e as Diretrizes
Na tentativa de distinguir entre sistemas de IA e “sistemas de software tradicionais ou abordagens de programação mais simples”, as diretrizes contribuem para mais confusão.
O Recital 12 do AI Act afirma: “Uma característica chave dos sistemas de IA é sua capacidade de inferir” e a “capacidade de um sistema de IA de inferir transcende o processamento básico de dados ao permitir aprendizado, raciocínio ou modelagem.” Qualquer uma das características é suficiente para transcender o “processamento básico de dados”.
No entanto, as diretrizes contradizem o Recital: “Embora esses modelos [métodos de otimização] tenham a capacidade de inferir, eles não transcendem o ‘processamento básico de dados’.”
3. Raciocínio Estranho
A razão fornecida é bizarra: “Uma indicação de que um sistema não transcende o processamento básico de dados poderia ser que ele foi utilizado de maneira consolidada por muitos anos.” Como há quanto tempo um sistema tem sido usado deveria ser irrelevante aqui.
Este não é o único caso onde explicações estranhas são usadas para colocar técnicas de IA fora do escopo. Outra justificativa é a performance (ênfase adicionada):
“Todos os sistemas baseados em máquinas cuja performance pode ser alcançada por uma regra de aprendizado estatístico básico, embora tecnicamente possam ser classificados como baseando-se em abordagens de aprendizado de máquina, caem fora do escopo da definição de sistema de IA, devido à sua performance.”
Essas diretrizes falham em fornecer clareza e, em vez disso, acrescentam à confusão.
Felizmente, essas diretrizes não são legalmente vinculativas. Esperamos que os reguladores e órgãos responsáveis pelos direitos fundamentais usem um raciocínio sólido ao interpretar a definição de sistemas de IA.
