Risco da Inteligência Artificial nas Eleições: Um Estudo Abrangente
Um documento interno preparado para o comissário das eleições do Canadá classifica o uso da inteligência artificial (IA) como um risco alto para a campanha eleitoral em andamento. Este aviso foi emitido aproximadamente um mês antes do início da campanha, destacando a necessidade de atenção às ferramentas baseadas em IA que podem violar as regras eleitorais.
Preocupações com a IA nas Eleições
O documento menciona que a próxima eleição provavelmente gerará reclamações relacionadas ao uso de ferramentas de IA que podem constituir uma violação da Lei das Eleições do Canadá. Apesar de a legislação não proibir especificamente o uso de IA, bots ou deepfakes, certas disposições podem ser aplicáveis se essas ferramentas forem usadas de maneira contrária às normas estabelecidas.
Entre as possíveis violações estão a disseminação de desinformação, a publicação de informações falsas sobre o processo eleitoral e a imitação de oficiais eleitorais. Michael Litchfield, diretor de um laboratório de risco e regulação de IA, enfatiza que a identificação de quem utiliza IA para infringir as regras eleitorais é complexa, tornando difícil responsabilizar os infratores.
Exemplos de Deepfakes e Desinformação
O briefing também destaca preocupações específicas sobre o uso de deepfakes, que são vídeos ou áudios falsificados de forma hiper-realista. Embora não tenha havido incidentes de deepfakes utilizados em eleições federais canadenses, exemplos de seu uso no exterior, como um vídeo da Kamala Harris durante as eleições presidenciais de 2024 nos EUA, são citados como potenciais precursores do que pode ocorrer no Canadá.
O documento observa um aumento na publicidade de serviços personalizados de deepfake na dark web, sugerindo que a utilização dessa tecnologia para fins maliciosos pode aumentar. A disseminação de deepfakes pode ter um impacto significativo dependendo de sua circulação, reforçando a necessidade de vigilância durante o período eleitoral.
Auto-regulação e Desafios Legais
A abordagem de auto-regulação adotada pelo Canadá em relação à IA tem gerado debates sobre sua eficácia. Embora algumas ferramentas de geração de imagem de IA possuam políticas contra desinformação eleitoral, a implementação dessas regras é frequentemente insuficiente para impedir a criação de conteúdos enganadores. O projeto de lei C-27, que visava regular o uso da IA, nunca chegou a ser aprovado, deixando um vácuo regulatório que pode ser explorado por atores maliciosos.
Riscos de Atores Maliciosos
Relatórios recentes da Agência de Segurança das Comunicações do Canadá indicam que atores hostis, incluindo países como China, Rússia e Irã, estão buscando utilizar IA para campanhas de desinformação ou operações de hacking. Esses atores podem gerar desinformação para semear divisão entre os canadenses e promover narrativas favoráveis a seus interesses.
Aumento da Desconfiança nas Informações
O uso de IA para a disseminação de desinformação está levando a um aumento na evitação de notícias, resultando em uma desconfiança crescente em relação a qualquer conteúdo encontrado online. Fenwick McKelvey, professor assistente de política de tecnologia da informação e comunicação, observa que a presença de IA está mudando nosso ambiente de mídia de maneiras que não conseguimos antecipar completamente.
Além disso, a utilização de IA para fins benignos pode alterar a forma como as campanhas são conduzidas, como evidenciado por um exemplo em que o ex-presidente dos EUA, Donald Trump, postou uma imagem gerada por IA que o mostrava ao lado da bandeira canadense.
Conclusão
Com a crescente complexidade da tecnologia, as eleições canadenses enfrentam um novo conjunto de desafios. O uso irresponsável de ferramentas de IA pode não apenas violar as regras eleitorais, mas também distorcer a percepção pública sobre o que é real e o que não é. As autoridades eleitorais devem permanecer vigilantes e proativas na aplicação das leis existentes e na adaptação a novas realidades tecnológicas.
