Editora Sob Pressão Após Descoberta de Citações Falsas em Guia de Ética da IA
Uma das maiores editoras acadêmicas do mundo está comercializando um livro sobre ética da pesquisa em inteligência artificial que parece estar repleto de citações falsas, incluindo referências a periódicos inexistentes.
A publicação tem sido alvo de críticas recentemente por aceitar trabalhos fraudulentos produzidos por IA, que passaram por um processo de revisão por pares projetado para garantir altos padrões.
Um livro recentemente publicado pela editora inclui dezenas de citações aparentemente inventadas, um sinal típico de material gerado por IA. O livro — Aspectos Sociais, Éticos e Legais da IA Generativa — é anunciado como uma revisão autoritária dos dilemas éticos impostos pela tecnologia e está à venda por £125. Pelo menos dois capítulos incluem notas de rodapé com publicações científicas que parecem fabricadas.
Em um capítulo, 8 das 10 citações não puderam ser verificadas, sugerindo que 80% podem ter sido fabricadas. Há crescente preocupação na academia sobre citações e trabalhos de pesquisa inteiros gerados por ferramentas de IA que imitam trabalhos acadêmicos genuínos.
Outro título tecnológico foi retirado após a descoberta de várias referências fictícias. No livro analisado, uma citação menciona um artigo publicado no “Harvard AI Journal”, mas a Harvard Business Review declarou que não existe tal periódico.
Um especialista em detecção de trabalhos acadêmicos falsificados analisou dois capítulos e constatou que pelo menos 11 das 21 citações no primeiro capítulo não puderam ser associadas a artigos acadêmicos conhecidos. A análise indicou também que 8 das 10 citações no capítulo 4 eram inverificáveis.
Essa situação configura má conduta em pesquisa, caracterizada como falsificação e fabricação de referências. O especialista observa que o aumento das citações “alucinatórias” geradas por IA está se tornando uma preocupação crescente na literatura acadêmica.
Embora seja difícil determinar se as citações são geradas por IA, elas certamente são incorretas, e a maneira mais simples de fabricá-las é através de IA. A editora declarou que leva a sério quaisquer preocupações sobre a integridade de seu conteúdo publicado e que uma equipe especializada está investigando o caso como prioridade.
Implicações e Riscos
Quando estudos são frágeis ou falsos, não podemos construir nada robusto sobre eles. A situação atual levanta graves questões sobre a confiança na pesquisa acadêmica, especialmente em um campo tão sensível quanto a ética da inteligência artificial.
Conclusão
As descobertas sobre citações falsas destacam a necessidade urgente de supervisão mais rigorosa na publicação acadêmica, principalmente com o aumento do uso de ferramentas de IA na pesquisa. A integridade acadêmica deve ser protegida para garantir que o conhecimento construído seja confiável e valioso.
