Un editore sotto accusa dopo la scoperta di citazioni “fittizie” in una guida all’etica dell’IA
Uno dei più grandi editori accademici del mondo sta vendendo un libro sull’etica della ricerca nell’intelligenza artificiale che appare essere pieno di citazioni false, inclusi riferimenti a riviste che non esistono.
Critiche all’editoria accademica
L’editoria accademica è stata recentemente oggetto di critiche per aver accettato articoli fraudolenti prodotti mediante IA, che sono riusciti a superare un processo di revisione tra pari progettato per garantire elevati standard.
È stato scoperto che un libro recentemente pubblicato da un grande editore include dozzine di citazioni che sembrano essere state inventate, un segno spesso indicativo di materiale generato da IA.
Il libro, intitolato Aspetti sociali, etici e legali dell’IA generativa, è pubblicizzato come una revisione autorevole dei dilemmi etici posti dalla tecnologia ed è in vendita per £125. Almeno due capitoli contengono note a piè di pagina che citano pubblicazioni scientifiche che sembrano essere state inventate.
Scoperte sulle citazioni
In un capitolo, l’80% delle citazioni non poteva essere verificato, suggerendo che 8 delle 10 citazioni potrebbero essere state fabricate. Cresce la preoccupazione all’interno del mondo accademico riguardo a citazioni e persino interi articoli di ricerca generati da strumenti di IA che tentano di mimare lavori accademici genuini.
In un’analisi, un professore associato ha utilizzato uno strumento progettato per identificare riferimenti falsificati e ha scoperto che almeno 11 delle 21 citazioni nel primo capitolo non potevano essere abbinate a lavori accademici noti. Anche nel quarto capitolo, 8 delle 10 citazioni risultavano non tracciabili.
Conseguenze e preoccupazioni
Questo comportamento è considerato misfatto di ricerca: falsificazione e fabbricazione di riferimenti. Si osserva un aumento costante delle citazioni “hallucinated” generate da IA nella letteratura accademica.
Un’altra revisione ha confermato conclusioni simili, trovando numerosi riferimenti errati, non corrispondenti o completamente inventati nel libro sull’etica dell’IA. In alcuni casi, i dettagli di diversi articoli genuini sembravano essere stati combinati.
Risposta dell’editore
Un rappresentante dell’editore ha dichiarato che prendono seriamente qualsiasi preoccupazione riguardo all’integrità dei contenuti pubblicati. Un team specializzato sta indagando su questo caso come priorità.
Hanno aggiunto che il team di integrità collabora con gli editori e utilizza strumenti di rilevamento specialistici per mantenere gli standard e catturare eventuali problemi di integrità in anticipo. Tuttavia, un numero ridotto potrebbe sfuggire al controllo.
Conclusioni
La scoperta di citazioni false in un’opera accademica evidenzia le sfide crescenti legate all’affidabilità delle pubblicazioni accademiche nell’era dell’IA. La comunità accademica deve affrontare la questione della validità dei riferimenti e della qualità della ricerca per mantenere la fiducia nelle pubblicazioni scientifiche.
