Éditeur sous pression après la découverte de « fausses » citations dans un guide d’éthique de l’IA
Un des plus grands éditeurs académiques au monde commercialise un ouvrage sur l’éthique de la recherche en intelligence artificielle, qui semble être truffé de citations fictives, y compris des références à des revues qui n’existent pas.
Le secteur de l’édition académique fait récemment l’objet de critiques pour avoir accepté des articles frauduleux produits par des outils d’IA, qui ont réussi à passer un processus de révision par les pairs censé garantir des normes élevées.
Analyse du livre
Un livre récemment publié par un éditeur majeur inclut des dizaines de citations qui semblent avoir été inventées, un signe fréquent de matériel généré par l’IA. Cet ouvrage, intitulé Aspects sociaux, éthiques et juridiques de l’IA générative, est présenté comme un examen autoritaire des dilemmes éthiques posés par cette technologie.
Au moins deux chapitres contiennent des notes de bas de page qui citent des publications scientifiques apparemment fictives. Dans un chapitre, 8 des 10 citations n’ont pas pu être vérifiées, suggérant que 80 % pourraient avoir été fabriquées.
Préoccupations croissantes
Les inquiétudes au sein du milieu académique grandissent face aux citations et même à des articles de recherche entiers générés par des outils d’IA tentant d’imiter des travaux académiques authentiques. Une analyse a révélé que plusieurs références dans le livre sur l’éthique de l’IA étaient erronées, mal assorties ou complètement inventées.
Un expert en détection de faux articles académiques a constaté que 11 des 21 citations d’un chapitre ne pouvaient pas être associées à des articles académiques connus. Une autre étude a atteint des conclusions similaires, notant que les citations utilisées étaient au mieux erronées, probablement fabriquées, et que la manière la plus simple de les créer était via l’IA.
Réaction de l’éditeur
Un responsable de l’éditeur a déclaré que toute préoccupation concernant l’intégrité du contenu publié est prise très au sérieux. Une équipe spécialisée en intégrité de la recherche est en train d’examiner ce cas en priorité. Bien que l’équipe utilise des outils de détection spécialisés pour maintenir des normes élevées, un petit nombre de problèmes peuvent, cependant, passer inaperçus.
Conclusion
Ce cas soulève des questions cruciales sur la validité des références dans la recherche académique et met en lumière les défis posés par l’utilisation croissante de l’IA dans la rédaction de documents scientifiques.
