Editore sotto accusa dopo la scoperta di citazioni ‘fake’ in una guida all’etica dell’IA
Uno dei più grandi editori accademici al mondo sta vendendo un libro sull’etica della ricerca sull’intelligenza artificiale che sembra essere pieno di citazioni inventate, inclusi riferimenti a riviste che non esistono.
La pubblicazione accademica è stata recentemente oggetto di critiche per aver accettato articoli fraudolenti prodotti utilizzando l’IA, che hanno superato un processo di revisione paritaria progettato per garantire alti standard.
È emerso che un libro recentemente pubblicato include dozzine di citazioni che sembrano essere state inventate, un chiaro segnale di materiale generato da IA. Il libro, pubblicato da un importante editore, è promosso come una revisione autorevole dei dilemmi etici posti dalla tecnologia e ha un prezzo di vendita di 125 sterline.
Problemi di citazione
Almeno due capitoli includono note a piè di pagina che citano pubblicazioni scientifiche apparentemente inventate. In un capitolo, otto delle dieci citazioni non potevano essere verificate, suggerendo che l’80% potrebbe essere stato fabbricato.
C’è crescente preoccupazione all’interno dell’accademia riguardo alle citazioni e persino a interi articoli di ricerca generati da strumenti di IA che tentano di imitare il lavoro accademico genuino.
Un’analisi di due capitoli ha rivelato che almeno undici delle ventuno citazioni nel primo capitolo non potevano essere associate a documenti accademici noti. L’analisi ha anche suggerito che otto delle dieci citazioni nel quarto capitolo erano irrintracciabili.
Conseguenze e rischi
Questa situazione è vista come un illecito scientifico: falsificazione e fabbricazione di riferimenti. Gli esperti avvertono che i ricercatori costruiscono la conoscenza facendo affidamento su ricerche precedentemente pubblicate e che, quando questi studi sono fragili o corrotti, non possiamo costruire nulla di robusto su di essi.
Un’altra revisione ha raggiunto conclusioni simili, trovando numerosi riferimenti errati, non corrispondenti o completamente inventati nel libro sull’etica dell’IA. In alcuni casi, i dettagli di diversi articoli genuini apparivano combinati.
Conclusione
Un portavoce dell’editore ha affermato che prendono seriamente qualsiasi preoccupazione riguardo all’integrità dei contenuti pubblicati. Hanno avviato un’indagine prioritaria su questo caso e operano con un team di integrità della ricerca specializzato per mantenere i loro standard e individuare qualsiasi problema di integrità prima della pubblicazione.
