Editor sob fogo após descobertas de citações falsas em guia de ética da IA
Um dos maiores editores acadêmicos do mundo está comercializando um livro sobre a ética da pesquisa em inteligência artificial que parece estar repleto de citações falsas, incluindo referências a periódicos que não existem.
A publicação acadêmica tem sido criticada recentemente por aceitar artigos fraudulentos produzidos por IA, que conseguiram passar por um processo de revisão por pares projetado para garantir altos padrões.
Foi descoberto que um livro publicado recentemente por um grande editor inclui dezenas de citações que parecem ter sido inventadas — um sinal frequentemente associado a material gerado por IA.
O livro em questão
O livro — Aspectos Sociais, Éticos e Legais da IA Generativa — é anunciado como uma revisão autoritativa dos dilemas éticos apresentados pela tecnologia e está à venda por £125. Pelo menos dois capítulos incluem notas de rodapé que citam publicações científicas que parecem ter sido inventadas.
Em um dos capítulos, 8 das 10 citações não puderam ser verificadas, sugerindo que 80% podem ter sido fabricadas.
Preocupações acadêmicas
Há uma crescente preocupação dentro da academia sobre citações e até mesmo artigos de pesquisa inteiros sendo gerados por ferramentas de IA que tentam imitar trabalhos acadêmicos genuínos.
Em abril, o editor retirou outro título de tecnologia após ter sido encontrado com várias referências fictícias.
Um especialista em detecção de artigos acadêmicos falsos analisou dois capítulos usando uma ferramenta projetada para identificar referências fabricadas e encontrou que pelo menos 11 das 21 citações no primeiro capítulo não puderam ser correspondidas a artigos acadêmicos conhecidos.
Esse especialista afirmou que isso é uma má conduta em pesquisa: falsificação e fabricação de referências. Ele observa que há um aumento constante nas citações “alucidadas” por IA na literatura acadêmica.
Implicações e riscos
Os pesquisadores constroem conhecimento com base em pesquisas publicadas anteriormente. Quando esses estudos são frágeis ou podres, não podemos construir nada robusto sobre eles.
Uma revisão separada encontrou numerosas referências errôneas, incompatíveis ou completamente inventadas no livro de ética da IA. Em alguns casos, detalhes de diferentes artigos genuínos pareciam ter sido combinados. Seis capítulos pareciam estar precisos, mas cada capítulo foi escrito por um conjunto diferente de autores.
Resposta do editor
Um vice-presidente de uma editora afirmou que leva a sério quaisquer preocupações sobre a integridade do conteúdo publicado. A equipe especializada em integridade da pesquisa está investigando este caso como uma prioridade.
Ele acrescentou que a equipe de integridade trabalha com editores e utiliza ferramentas de detecção especializadas para manter os padrões e identificar quaisquer problemas de integridade antes do tempo. No entanto, um pequeno número pode, no entanto, passar despercebido.
