Literacia em IA sob a Lei de IA: Uma Avaliação de Seu Escopo
A literacia em Inteligência Artificial (IA) é um conceito central sob a Lei de IA, sendo um requisito fundamental para provedores e implementadores de sistemas de IA. Este artigo analisa o Artigo 4 da Lei de IA, que estabelece medidas específicas para garantir um nível adequado de literacia em IA entre os funcionários e outras pessoas que operam e utilizam sistemas de IA.
Responsabilidades de Literacia em IA
Conforme estipulado no Artigo 4, os provedores e implementadores devem implementar treinamentos para garantir que os funcionários possuam um entendimento razoável sobre os sistemas de IA utilizados na organização. Além disso, devem ter conhecimento geral sobre os benefícios e riscos associados à IA.
Distinção entre Literacia em IA e Supervisão Humana
É crucial diferenciar entre as regras de literacia em IA e os requisitos de supervisão humana. O Artigo 26(2) exige que a supervisão humana de sistemas de IA de alto risco seja realizada por indivíduos com a competência e treinamento necessários. Enquanto a literacia em IA requer um conhecimento mais geral, a supervisão humana exige uma compreensão profunda e especializada do sistema em questão.
Escopo do Artigo 4 da Lei de IA
A literacia em IA é uma obrigação sui generis dentro da Lei de IA, integrada no Capítulo I – Disposições Gerais, o que pode gerar desafios na interpretação do escopo das obrigações. A leitura isolada do Artigo 4 pode sugerir que as obrigações de literacia em IA se aplicam a todos os sistemas que se enquadram na definição de sistema de IA, conforme o Artigo 3(1).
Implicações da Definição de Literacia em IA
A definição de literacia em IA no Artigo 3(56) envolve as habilidades, conhecimentos e compreensões necessárias para a implementação informada de sistemas de IA. Provedores e implementadores de sistemas que não se enquadram nas categorias mencionadas não estão sujeitos a obrigações relacionadas a esses sistemas, o que limita a aplicabilidade do Artigo 4.
Enforcement e Desafios na Implementação
A aplicação do Artigo 4 levanta questões significativas, uma vez que o Artigo 99(3-5) não estabelece multas para a violação das obrigações de literacia em IA. Isso sugere um cenário peculiar onde as obrigações são criadas sem penalidades associadas, o que pode comprometer a eficácia da implementação.
Identificação de Sistemas de IA como Passo Preliminar
Embora as obrigações de literacia em IA não se apliquem a sistemas fora das categorias de risco, é aconselhável que provedores e implementadores realizem uma avaliação dos sistemas de IA sob sua responsabilidade. Essa avaliação ajudará a determinar se estão sujeitos às obrigações de literacia em IA.
A GDPR como Fonte Alternativa de Obrigações de Literacia
Para provedores e implementadores que atuam como controladores de dados sob a GDPR, a não aplicabilidade do Artigo 4 da Lei de IA não exclui as obrigações de literacia e treinamento que podem surgir de outros instrumentos legais da UE. A formação adequada dos funcionários é crucial para garantir a conformidade com as obrigações de responsabilidade do controlador.
