‘A lacuna de confiança é real’: especialistas aconselham o governo a corrigir o rumo sobre IA
Os parlamentares federais estão enfrentando desafios sobre como regular a inteligência artificial (IA), considerando suas ameaças aos empregos canadenses, à segurança cibernética e à soberania de dados, além de seu potencial econômico.
O Comitê Permanente da Indústria e Tecnologia iniciou um estudo — a pedido de um partido político — para examinar como a IA deve ser regulamentada, com várias considerações importantes em jogo.
Questões em Debate
Entre os tópicos discutidos estão: o desafio científico de garantir que os modelos de IA sejam honestos; a questão física e legal da soberania de dados; a questão política do multilateralismo em IA; e o debate imediato sobre a criação de um comitê dedicado à IA para monitorar a tecnologia em rápida evolução.
A sugestão de criar um comitê governamental de IA foi bem recebida por muitos especialistas, mas a posição mais consistente foi que o governo federal falhou em realizar consultas públicas adequadas sobre a IA e precisa corrigir seu curso.
Consultas Públicas e Confiança
Os especialistas enfatizam que o desenvolvimento de políticas até agora sofreu com a falta de uma consulta genuína e ampla. “A lacuna de confiança é real e precisa ser fechada”, disse um professor em uma audiência.
Um estudo recente revelou que, apesar de 50% dos canadenses aprovarem ou aceitarem o uso da IA, quase 80% expressaram preocupações sobre possíveis resultados negativos. Além disso, 75% acreditam que a regulamentação da IA é necessária.
Um relatório do ministério canadense de IA que utilizou IA para classificar respostas foi criticado por parecer mais como “o que queríamos que você pensasse que ouvimos”.
Propostas para Melhorar as Consultas
Os especialistas recomendaram que o governo utilize assembleias de cidadãos para obter feedback da população, já que serão os mais afetados pelas decisões governamentais e da indústria sobre a IA.
Além disso, foi destacado que a IA não é apenas mais uma lei e política que requer a consulta padrão de partes interessadas, mas que precisa de um processo de consulta fundamentalmente diferente devido à sua natureza abrangente e impacto em todos os aspectos da vida.
Soberania de Dados e Privacidade
Outro ponto de discussão foi garantir a soberania canadense sobre os próprios dados. A criação de leis de privacidade robustas foi considerada a solução, em vez de simplesmente garantir a propriedade e operação canadense das empresas.
As empresas menores, totalmente canadenses, não possuem a segurança e sofisticação necessárias para fornecer esses serviços em grande escala. Quando as empresas crescem o suficiente para oferecer esses serviços, já terão conexões com estados estrangeiros e estarão sujeitas a leis estrangeiras.
Desafios da IA Autônoma
A IA autônoma foi amplamente discutida nas reuniões. Especialistas explicaram que as AIs que estão “atualmente na vanguarda” não são confiáveis e não podem garantir seu comportamento conforme o esperado.
Uma dose saudável de ceticismo é necessária, especialmente considerando que o escritório do comissário de privacidade já investiga casos de uso não consensual de dados pessoais de canadenses para treinar modelos de linguagem de IA.
Propostas para o Futuro
O estudo sobre regulamentação da IA foi proposto por um partido político e, ao longo de duas reuniões, ouviu cerca de uma dúzia de especialistas de diferentes áreas. A necessidade de um multilateralismo em IA foi enfatizada, com a sugestão de que o Canadá trabalhe para criar diretrizes de IA com “potências médias” que compartilhem preocupações e valores semelhantes.
O país precisa ser um líder em IA segura e competente para garantir que esteja na mesa de negociações e não na lista de descartáveis, e “nossas chances seriam muito melhores se fizéssemos isso em parceria com potências médias que compartilham nossos valores”.
