Un éditeur sous le feu des critiques après la découverte de citations « faux » dans un guide d’éthique de l’IA
Un des plus grands éditeurs académiques au monde commercialise un livre sur l’éthique de la recherche en intelligence artificielle qui semble être truffé de citations inventées, y compris des références à des revues qui n’existent pas.
La publication académique a récemment fait l’objet de critiques pour avoir accepté des articles frauduleux produits à l’aide de l’IA, qui ont réussi à passer par un processus d’évaluation par les pairs censé garantir des normes élevées.
Des enquêtes ont révélé qu’un livre récemment publié comprend des dizaines de citations qui semblent avoir été inventées, un signe souvent associé à du matériel généré par l’IA. Le livre, intitulé Aspects sociaux, éthiques et juridiques de l’IA générative, est présenté comme un examen autoritaire des dilemmes éthiques posés par la technologie et est vendu à 125 £. Au moins deux chapitres contiennent des notes de bas de page qui citent des publications scientifiques qui semblent avoir été fabriquées.
Analyse des citations
Dans un chapitre, 8 des 10 citations n’ont pas pu être vérifiées, suggérant que 80 % pourraient être falsifiées. Il y a une préoccupation croissante au sein du monde académique concernant les citations et même des articles de recherche entiers générés par des outils d’IA qui tentent d’imiter un travail académique authentique.
Un professeur associé en informatique a analysé deux chapitres à l’aide d’un outil conçu pour identifier les références fabriquées. L’analyse a révélé qu’au moins 11 des 21 citations dans le premier chapitre ne pouvaient pas être liées à des articles académiques connus. De plus, 8 des 10 citations dans le chapitre 4 étaient introuvables.
Conséquences et risques
Cette situation est qualifiée de mauvaise conduite en recherche : falsification et fabrication de références. Les chercheurs s’appuient sur des travaux publiés précédemment pour bâtir leurs connaissances. Lorsque ces études sont fragiles ou altérées, il devient impossible de construire des bases solides.
Un autre examen a abouti à des conclusions similaires, trouvant de nombreuses références erronées, mal assorties ou totalement inventées dans le livre sur l’éthique de l’IA. Dans certains cas, les détails de différents articles authentiques semblent avoir été combinés. En revanche, six chapitres ont semblé être exacts, chaque chapitre étant rédigé par un ensemble d’auteurs différent.
Réaction de l’éditeur
Un responsable de l’éditeur a déclaré que les préoccupations concernant l’intégrité de leur contenu publié étaient prises très au sérieux. Une équipe spécialisée dans l’intégrité de la recherche enquête sur ce cas en priorité. Bien que l’équipe travaille avec des éditeurs et utilise des outils de détection spécialisés pour maintenir leurs normes, un petit nombre d’articles peuvent néanmoins passer à travers les mailles du filet.
Conclusion
La question des citations et de l’intégrité académique prend une ampleur considérable avec l’essor des outils d’IA, soulevant des enjeux éthiques majeurs dans le domaine de la recherche. Il est crucial d’assurer la véracité des sources pour maintenir la confiance dans la recherche académique.
