Editor sob fogo após descobertas de citações ‘falsas’ em guia de ética de IA
Um dos maiores editores acadêmicos do mundo está vendendo um livro sobre a ética da pesquisa em inteligência artificial que parece estar repleto de citações falsas, incluindo referências a periódicos que não existem.
A publicação acadêmica tem sido recentemente alvo de críticas por aceitar trabalhos fraudulentos produzidos com o uso de IA, que passaram por um processo de revisão por pares destinado a garantir altos padrões.
Recentemente, foi descoberto que um livro publicado por um grande editor contém dezenas de citações que parecem ter sido inventadas, um sinal comum de material gerado por IA. O livro, intitulado “Aspectos Sociais, Éticos e Legais da IA Generativa”, é anunciado como uma revisão autoritária dos dilemas éticos impostos pela tecnologia e está à venda por £125. Em pelo menos dois capítulos, notas de rodapé citam publicações científicas que parecem ter sido fabricadas.
Análise das citações
Em um dos capítulos, 8 das 10 citações não puderam ser verificadas, sugerindo que 80% podem ter sido fabricadas. Há uma crescente preocupação na academia sobre citações e até mesmo artigos inteiros sendo gerados por ferramentas de IA que tentam imitar trabalhos acadêmicos genuínos.
Uma análise foi realizada por um especialista em detectar artigos acadêmicos falsos, que utilizou uma ferramenta projetada para identificar referências fabricadas. Ele descobriu que pelo menos 11 das 21 citações no primeiro capítulo não puderam ser associadas a artigos acadêmicos conhecidos. A análise também sugeriu que 8 das 10 citações no capítulo 4 eram inverificáveis.
“Isso é má conduta em pesquisa: falsificação e fabricação de referências”, afirmou o especialista. “Os pesquisadores constroem conhecimento confiando em pesquisas previamente publicadas. Quando esses estudos são frágeis ou podres, não podemos construir nada robusto sobre isso.”
Implicações e riscos
Outro estudo chegou a conclusões semelhantes, encontrando várias referências errôneas, incompatíveis ou totalmente inventadas no livro de ética em IA. Em alguns casos, detalhes de diferentes artigos genuínos pareciam ter sido combinados. Outros seis capítulos pareceram ser precisos, cada um escrito por diferentes conjuntos de autores.
Embora seja difícil determinar com certeza se as citações utilizadas foram geradas por IA, elas são, no mínimo, errôneas e provavelmente fabricadas. A maneira mais simples de fabricar citações é usar IA.
Resposta do editor
Um dos vice-presidentes de uma editora afirmou que eles levam a sério qualquer preocupação sobre a integridade de seu conteúdo publicado. A equipe de integridade de pesquisa está investigando esse caso como uma prioridade. A equipe trabalha com editores e usa ferramentas especializadas para manter seus padrões e detectar problemas de integridade antes da publicação. No entanto, um pequeno número de casos pode passar despercebido.
Conclusão
A situação levanta questões sérias sobre a integridade da pesquisa acadêmica e o impacto das ferramentas de IA na produção de literatura científica. É essencial que os editores e a academia como um todo abordem esses problemas para preservar a confiança na pesquisa e nos processos de publicação.
