Definição de Sistemas de IA pela Comissão Europeia
A Comissão Europeia publicou diretrizes que esclarecem a definição de sistemas de IA sob a Lei de IA, analisando cada componente da definição e especificando quais sistemas devem estar fora do escopo. Embora não sejam vinculativas, essas diretrizes são uma ferramenta útil para as empresas avaliarem se estão dentro do escopo da Lei de IA.
A Comissão aprovou essas diretrizes, mas ainda não as adotou formalmente.
Como a Lei de IA define Sistemas de IA?
O Artigo 3(1) da Lei de IA define sistemas de IA como: “sistema de IA significa um sistema baseado em máquina projetado para operar com diferentes níveis de autonomia e que pode exibir adaptabilidade após a implantação, e que, para objetivos explícitos ou implícitos, infere, a partir da entrada que recebe, como gerar saídas, como previsões, conteúdo, recomendações ou decisões que podem influenciar ambientes físicos ou virtuais.” O Recital 12 da Lei de IA fornece orientações interpretativas não vinculativas sobre a definição de um sistema de IA, que as diretrizes da Comissão da UE apoiam ainda mais.
A Comissão Europeia identifica e esclarece os seguintes sete componentes da definição de um sistema de IA sob a Lei de IA:
1. Sistemas de IA são sistemas baseados em máquina.
As diretrizes esclarecem que o termo “baseado em máquina” refere-se à integração de componentes de hardware e software que permitem que esses sistemas funcionem, sublinhando que os sistemas devem ser impulsionados computacionalmente e baseados em operações de máquina.
2. Sistemas de IA devem ter algum grau de autonomia.
O Recital 12 da Lei de IA especifica que os sistemas de IA devem ter “algum grau de independência nas ações da intervenção humana”. A Comissão Europeia elabora que a noção de um sistema de IA exclui sistemas projetados para operar apenas com total envolvimento humano manual.
3. Sistemas de IA podem se adaptar após a implantação.
A definição de um sistema de IA indica que um sistema pode exibir adaptabilidade após a implantação. As diretrizes deixam claro que a capacidade de adaptação não é um requisito obrigatório para que um sistema constitua um sistema de IA regulado pela Lei de IA.
4. Sistemas de IA são projetados para operar de acordo com objetivos.
As diretrizes especificam que os objetivos do sistema podem ser explícitos (ou seja, metas claramente declaradas que o desenvolvedor codifica diretamente no sistema) ou implícitos (ou seja, metas que não são explicitamente declaradas, mas podem ser deduzidas do comportamento do sistema).
5. Sistemas de IA devem ser capazes de inferir saídas.
Este é um elemento-chave da definição de “sistemas de IA”. O Recital 12 da Lei de IA afirma que a definição visa distinguir sistemas de IA de sistemas de software tradicionais mais simples e não deve abranger sistemas baseados em regras definidas apenas por pessoas para executar operações automaticamente.
A Comissão Europeia esclarece como avaliar a capacidade de inferir saídas e o que deve ser considerado um sistema de IA capaz de inferir saídas. Sistemas que não inferem saídas ou que têm capacidade limitada para analisar padrões não são considerados sistemas de IA sob a Lei de IA.
6. Saídas do sistema de IA devem ser capazes de influenciar ambientes físicos ou virtuais.
A Comissão Europeia descreve os quatro tipos de saídas listados na definição de um sistema de IA (previsões, criação de conteúdo, recomendações e decisões). Ela especifica que os sistemas de IA podem gerar saídas mais sofisticadas do que outros sistemas.
7. Sistemas de IA devem ser capazes de interagir com o ambiente.
Isso significa que os sistemas de IA são ativos, não passivos. A menção de “ambientes físicos ou virtuais” indica que um sistema de IA pode influenciar objetos tangíveis, como um braço robótico, e ambientes virtuais, como espaços digitais e fluxos de dados.
Próximos Passos
Como parte da avaliação de se e como a Lei de IA pode se aplicar a seus produtos e operações, as organizações devem avaliar os sistemas de IA que desenvolvem e/ou utilizam de acordo com a definição de sistema de IA na Lei e nas diretrizes.
Essa avaliação, especialmente sobre a capacidade de inferência, deve ser realizada por equipes legais e técnicas.
