Desregulamentação da Transparência em IA: Um Perigo para a Europa
Nos últimos tempos, houve uma mudança de paradigma em Bruxelas. O União Europeia, reconhecendo sua reputação como um atrasado tecnológico, está agora buscando uma simplificação regulatória em um esforço para modernizar suas políticas. No entanto, essa apressada busca por simplificação pode comprometer princípios fundamentais.
A Necessidade de Transparência
A nova legislação da UE sobre inteligência artificial (IA) propõe que os desenvolvedores de modelos de IA de propósito geral (GPAI) apresentem um resumo público “suficientemente detalhado” dos dados utilizados para o treinamento. Essa exigência visa promover a transparência na utilização de dados, um dos insumos mais preciosos da IA, e deveria ser uma oportunidade para avançar nesse aspecto.
Entretanto, se a Agência de IA da UE ceder à pressão da indústria para diluir os detalhes exigidos, essa transparência poderá se transformar em um mero cumprimento de formalidades, oferecendo pouco valor prático. Essa abordagem seria não apenas imprudente, mas também míope.
Quem Tem Medo da Transparência?
Do ponto de vista dos direitos fundamentais, a transparência não pode ser considerada um ‘adicional’ opcional. Ela é crucial para o exercício de direitos, responsabiliza as empresas de tecnologia, informa o debate público e permite a supervisão dessa tecnologia emergente sem interferir em seu desenvolvimento.
Economicamente, o medo da transparência é mal orientado. Normas robustas de transparência não são barreiras à inovação socialmente benéfica; pelo contrário, elas promovem a difusão da inovação e impulsionam a competição de maneira confiável e sustentável. O sucesso do software de código aberto é uma prova de que a abertura, e não o segredo, fomenta o avanço tecnológico.
Os Argumentos Fracos Contra a Transparência
Os desenvolvedores de IA têm oferecido pouca clareza sobre quais informações específicas deveriam ser protegidas como segredo comercial, apesar dos critérios bem definidos na legislação de segredos comerciais da UE. Há argumentos razoáveis de que muitas das informações que deveriam ser incluídas nas documentações não atendem a esses critérios.
A estratégia de fortalecer a competitividade das empresas de IA da UE com base no segredo comercial é equivocada. Confiar em segredos comerciais para isolar informações sobre dados de treinamento pode desencorajar o uso de conjuntos de dados diversificados e de alta qualidade, resultando em aplicações de IA tendenciosas e menos confiáveis.
Além disso, os argumentos de segurança contra a transparência carecem de especificidade. Embora possam existir circunstâncias especiais onde a divulgação de certas informações possa introduzir riscos, sem uma explicação clara, é difícil levar essas preocupações a sério.
O Caminho a Seguir
A atual pressão da UE por uma regulação simplificada não pode ser uma maneira de minar o espírito do que foi acordado em um processo democrático. O desejo de simplificar as regras para os negócios não deve comprometer os valores centrais da UE, que incluem tanto a transparência quanto a inovação tecnológica socialmente benéfica.
Em vez de permitir que interesses da indústria, especialmente das grandes empresas de tecnologia, diluam a transparência, a UE deve tratá-la como uma ferramenta para fomentar um mercado digital aberto e competitivo que beneficie tanto as empresas privadas quanto o interesse público.
Não há necessidade de trocar transparência por competitividade. O verdadeiro risco é que, em sua pressa para simplificar, a UE acabe por reduzir as regras para aqueles que já estão à frente no jogo.
