Editor en la mira tras encontrar citas ‘falsas’ en guía de ética de IA
Uno de los mayores editores académicos del mundo está vendiendo un libro sobre la ética de la investigación en inteligencia artificial que parece estar plagado de citas falsas, incluidas referencias a revistas que no existen.
La publicación académica ha sido objeto de críticas recientemente por aceptar trabajos fraudulentos producidos mediante IA, que han superado un proceso de revisión por pares diseñado para garantizar altos estándares.
Se ha descubierto que un libro publicado recientemente incluye docenas de citas que parecen haber sido inventadas, lo que indica la posibilidad de que el material haya sido generado por IA.
Detalles del libro
El libro, titulado Aspectos Sociales, Éticos y Legales de la IA Generativa, se publicita como una revisión autorizada de los dilemas éticos que plantea la tecnología y está a la venta por £125. Al menos dos capítulos incluyen notas al pie que citan publicaciones científicas que parecen haber sido inventadas. En un capítulo, 8 de las 10 citas no pudieron ser verificadas, lo que sugiere que el 80% podría haber sido fabricado.
Hay una creciente preocupación en el ámbito académico sobre las citas e incluso sobre la generación de artículos de investigación enteros por herramientas de IA que intentan imitar el trabajo académico genuino.
Investigaciones sobre las citas
Un profesor asociado de informática analizó dos capítulos utilizando herramientas diseñadas para identificar referencias fabricadas. Encontró que al menos 11 de 21 citas en el primer capítulo no podían ser emparejadas con trabajos académicos conocidos. El análisis también sugiere que 8 de las 10 citas en el capítulo 4 eran inhallables.
Este tipo de conducta se considera falta de integridad en la investigación: falsificación y fabricación de referencias. Se ha observado un aumento constante en las citas ‘alucinadas’ por IA en la literatura académica.
Una revisión separada llegó a conclusiones similares, encontrando numerosas referencias erróneas, desajustadas o completamente inventadas en el libro de ética de IA. En algunos casos, se observaron combinaciones de detalles de diferentes trabajos genuinos.
Implicaciones y riesgos
Si las investigaciones se basan en estudios frágiles o falsos, no se puede construir un conocimiento robusto sobre ellos. Esto plantea serios riesgos para la comunidad académica y la validez de la investigación.
El vicepresidente de libros de ciencias aplicadas del editor ha afirmado que están tomando en serio cualquier preocupación sobre la integridad de su contenido publicado y que su equipo de integridad está investigando el caso como una prioridad.
Conclusión
La aparición de citas falsas en obras académicas es un problema creciente que podría afectar la credibilidad de la investigación en inteligencia artificial y otros campos. La comunidad académica debe ser proactiva en la identificación y prevención de este tipo de fraude para mantener la calidad y la confiabilidad de la literatura científica.
