Carta Aberta Conjunta sobre a Rejeição da Proposta de Minar a Transparência na Lei de IA
O CDT Europe, juntamente com 60 organizações, assinou uma carta aberta pedindo a rejeição da proposta que visa eliminar a salvaguarda de transparência do Artigo 49(2) da Lei de IA para sistemas de IA de alto risco, conforme proposto no recente Pacote de IA.
Crítica à Proposta
Uma lacuna criticada na Lei de IA permite que fornecedores cujos sistemas se enquadram nos casos de uso designados como apresentando um risco significativo optem por não serem categorizados como de alto risco e, portanto, não cumpram as obrigações conectadas, com base em critérios amplos. Uma salvaguarda crucial para evitar essa limitação prejudicial é a exigência de que os fornecedores de sistemas de IA que se isentam da categoria de alto risco ainda se registrem em um banco de dados da UE, permitindo supervisão e fiscalização sobre a possível exploração da lacuna. Essa salvaguarda está agora ameaçada.
Importância da Salvaguarda de Transparência
A salvaguarda de transparência assegura que os fornecedores de sistemas de IA não possam contornar as obrigações centrais da Lei de IA e que sejam responsabilizados quando tentam fazê-lo. Como já mencionado em um breve anterior sobre a proposta do Pacote de IA, a falta de divulgação da autoavaliação de um desenvolvedor de IA permite que sistemas de IA potencialmente perigosos proliferem sem serem vistos e sem restrições, impedindo reguladores e usuários de formarem uma opinião ou avaliação informada sobre os sistemas de IA que podem querer investigar ou evitar.
Consequências da Eliminação da Obrigação de Transparência
Remover a obrigação de transparência acarretará um custo humano significativo em troca de uma economia trivial para os desenvolvedores de IA: isso minará drasticamente a aplicabilidade da Lei de IA e aumentará os riscos para a saúde, segurança e direitos fundamentais.
Leia a carta completa.
