Editorial bajo fuego tras encontrar citas ‘falsas’ en guía de ética de IA
Uno de los mayores editores académicos del mundo está vendiendo un libro sobre la ética de la investigación en inteligencia artificial que parece estar plagado de citas falsas, incluyendo referencias a revistas que no existen.
Críticas a la publicación académica
La publicación académica ha sido objeto de críticas recientes por aceptar artículos fraudulentos producidos mediante IA, los cuales han superado un proceso de revisión por pares diseñado para garantizar altos estándares. Se ha encontrado que un libro publicado recientemente incluye docenas de citas que parecen haber sido inventadas, lo que indica un posible uso de material generado por IA.
Detalles del libro en cuestión
El libro, titulado Aspectos Sociales, Éticos y Legales de la IA Generativa, se publicita como una revisión autorizada de los dilemas éticos que plantea esta tecnología y se vende por £125. Al menos dos capítulos incluyen notas al pie que citan publicaciones científicas que parecen haber sido fabricadas. En uno de los capítulos, 8 de las 10 citas no pudieron ser verificadas, sugiriendo que el 80 por ciento podrían haber sido falsificadas.
Preocupaciones en la academia
Hay una creciente preocupación dentro de la academia sobre las citas y hasta incluso artículos de investigación completos generados por herramientas de IA que intentan imitar trabajos académicos genuinos. En un análisis de dos capítulos utilizando una herramienta diseñada para identificar referencias fabricadas, se encontró que al menos 11 de 21 citas en el primer capítulo no pudieron ser vinculadas a trabajos académicos conocidos.
Implicaciones de la falsificación de citas
Esto se considera una falta de integridad en la investigación: falsificación y fabricación de referencias. La confianza en la investigación se ve comprometida si estas fuentes son frágiles o inexistentes, lo que dificulta la construcción de un conocimiento sólido. Los estudios recientes también han concluido que muchas de las referencias en el libro son erróneas, desajustadas o completamente inventadas.
Respuesta del editor
El vicepresidente de un grupo editorial ha declarado que se toman muy en serio las preocupaciones sobre la integridad del contenido publicado y que un equipo de investigación de integridad está investigando el caso como prioridad. Este equipo trabaja con editores y utiliza herramientas de detección especializadas para mantener altos estándares y detectar problemas de integridad antes de la publicación, aunque algunos pueden pasar desapercibidos.
Conclusión
La aparición de citas generadas por IA en la literatura académica plantea serios riesgos para la validez y la confianza en la investigación científica. Es fundamental que los editores y académicos mantengan una vigilancia constante sobre la calidad de las publicaciones para asegurar la integridad de la investigación.
