Editorial bajo fuego tras hallar citas falsas en guía de ética de IA
Uno de los mayores editores académicos del mundo está vendiendo un libro sobre la ética de la investigación en inteligencia artificial que parece estar plagado de citas falsas, incluidas referencias a revistas que no existen.
La publicación académica ha sido objeto de críticas recientemente por aceptar trabajos fraudulentos producidos mediante IA, que han superado un proceso de revisión por pares diseñado para garantizar altos estándares.
Un análisis reveló que un libro publicado por un importante editor incluye docenas de citas que parecen haber sido inventadas, un indicador frecuente de material generado por IA. El libro, titulado Aspectos Sociales, Éticos y Legales de la IA Generativa, se presenta como una revisión autorizada de los dilemas éticos que plantea la tecnología y se vende por £125. Al menos dos capítulos incluyen notas a pie de página que citan publicaciones científicas que parecen haber sido fabricadas.
Problemas detectados
En un capítulo, 8 de las 10 citas no pudieron ser verificadas, lo que sugiere que el 80% podría haber sido fabricado. Existe una creciente preocupación dentro de la academia sobre citas e incluso trabajos de investigación completos generados por herramientas de IA que intentan imitar trabajo académico genuino.
Un análisis identificó que al menos 11 de 21 citas en el primer capítulo no coincidían con documentos académicos conocidos. También se sugirió que 8 de las 10 citas en el capítulo 4 eran indetectables.
Consecuencias y reacciones
Este tipo de prácticas se considera mala conducta investigativa: falsificación y fabricación de referencias. Los investigadores construyen conocimiento confiando en investigaciones previamente publicadas; cuando estos estudios son frágiles o falsos, no se puede construir nada sólido sobre ellos.
Un revisor independiente llegó a conclusiones similares, encontrando numerosas referencias erróneas, desajustadas o completamente inventadas en el libro de ética de IA. En algunos casos, los detalles de diferentes documentos genuinos parecían haberse combinado. Sin embargo, otros seis capítulos parecían ser precisos.
Un representante del editor afirmó que toman muy en serio cualquier preocupación sobre la integridad de su contenido publicado y que están investigando este caso como prioridad. Aseguraron que su equipo de integridad trabaja con editores y utiliza herramientas especializadas para mantener los estándares y detectar problemas de integridad antes de la publicación.
Conclusión
El descubrimiento de citas ficticias en publicaciones académicas resalta un problema creciente en la intersección de la tecnología y la ética. Es esencial que las editoriales mantengan la integridad de sus publicaciones para asegurar la confianza en la investigación y en la validez de los conocimientos académicos.
