Éditeur sous le feu des critiques après la découverte de citations fictives dans un guide d’éthique de l’IA
Un des plus grands éditeurs académiques au monde commercialise un livre sur l’éthique de la recherche en intelligence artificielle qui semble être truffé de citations fausses, y compris des références à des revues qui n’existent pas.
Le secteur de l’édition académique a récemment été critiqué pour avoir accepté des articles frauduleux produits à l’aide de l’IA, qui ont réussi à passer par un processus de révision par les pairs censé garantir des normes élevées.
Des analyses ont révélé qu’un livre récemment publié par un grand groupe d’édition contenait des dizaines de citations qui semblent avoir été inventées, un signe courant de matériel généré par IA. Le livre, intitulé Aspects sociaux, éthiques et juridiques de l’IA générative, est annoncé comme une revue autoritaire des dilemmes éthiques posés par cette technologie.
Citations fabriquées
Au moins deux chapitres du livre comprennent des notes de bas de page qui citent des publications scientifiques apparemment fictives. Dans un chapitre, 8 des 10 citations ne pouvaient pas être vérifiées, suggérant que 80 % pouvaient avoir été fabriquées.
Il y a une inquiétude croissante au sein du milieu académique concernant des citations et même des articles de recherche entiers générés par des outils d’IA qui tentent d’imiter des travaux académiques authentiques.
Conclusions des experts
Des experts en détection de faux articles académiques ont analysé les chapitres en utilisant des outils conçus pour identifier des références fabriquées. Ils ont découvert qu’au moins 11 des 21 citations dans le premier chapitre ne pouvaient pas être associées à des articles académiques connus. L’analyse a également indiqué que 8 des 10 citations dans un autre chapitre étaient introuvables.
Ces cas de falsification et de fabrication de références sont considérés comme des manquements à l’éthique de la recherche. Les chercheurs s’appuient sur des recherches précédemment publiées pour construire des connaissances, et lorsque ces études sont fragiles ou fausses, il devient impossible de bâtir des travaux solides.
Réactions de l’éditeur
Un représentant de l’éditeur a déclaré qu’ils prenaient très au sérieux toute préoccupation concernant l’intégrité de leur contenu publié. Une équipe spécialisée en intégrité de la recherche enquête sur ce cas en priorité. Bien que l’équipe utilise des outils d’expertise pour maintenir leurs standards, il est possible que quelques cas échappent à leur vigilance.
Conclusion
Ce scandale souligne les défis croissants auxquels est confrontée l’édition académique à l’ère de l’intelligence artificielle. La propagation de références et d’articles de recherche générés par IA soulève des questions sérieuses sur la fiabilité et l’intégrité des publications académiques.
