Editore sotto accusa dopo la scoperta di citazioni “false” in una guida all’etica dell’IA
Uno dei maggiori editori accademici al mondo sta vendendo un libro sull’etica della ricerca nell’intelligenza artificiale che sembra essere pieno di citazioni false, comprese quelle relative a riviste che non esistono.
La pubblicazione accademica è stata recentemente oggetto di critiche per aver accettato articoli fraudolenti prodotti con l’IA, che sono riusciti a superare un processo di revisione paritaria progettato per garantire standard elevati.
Recentemente, un libro pubblicato da un grande editore tedesco-britannico contiene decine di citazioni che sembrano essere state inventate, un segno spesso di materiale generato dall’IA.
Un’analisi delle citazioni
Il libro, intitolato Aspetti sociali, etici e legali dell’IA generativa, è pubblicizzato come una revisione autorevole dei dilemmi etici posti dalla tecnologia ed è in vendita per £125. Almeno due capitoli includono note a piè di pagina che citano pubblicazioni scientifiche che sembrano essere state inventate.
In un capitolo, l’80% delle citazioni non è stato verificato, suggerendo che 8 delle 10 citazioni potrebbero essere state fabbricate.
La preoccupazione all’interno della comunità accademica riguardo alle citazioni e persino a interi articoli di ricerca generati da strumenti di IA che cercano di imitare il lavoro accademico genuino è in crescita.
Richiami a precedenti problemi di integrità
Un’altra opera tecnologica è stata ritirata dopo che è stato scoperto che conteneva numerosi riferimenti fittizi. Un esperto ha analizzato due capitoli utilizzando uno strumento progettato per identificare riferimenti fabbricati, trovando che almeno 11 delle 21 citazioni nel primo capitolo non potevano essere associate a articoli accademici noti.
Questo comportamento è considerato una violazione della ricerca: falsificazione e fabbricazione di riferimenti. Gli accademici costruiscono conoscenza facendo riferimento a ricerche precedentemente pubblicate, e quando questi studi sono fragili o falsi, non possiamo costruire nulla di solido sopra di essi.
Conclusioni e dichiarazioni ufficiali
Un revisore ha trovato numerosi riferimenti errati, non corrispondenti o completamente inventati nel libro sull’etica dell’IA. Sebbene sia difficile determinare se le citazioni siano generate da IA, sono sicuramente errate e probabilmente fabbricate.
La direzione editoriale dell’editore ha dichiarato che prende sul serio qualsiasi preoccupazione riguardante l’integrità dei contenuti pubblicati e che una squadra di integrità sta indagando su questo caso come priorità.
