Verlag unter Beschuss nach Entdeckung von falschen Zitaten im Leitfaden zur KI-Ethik
Ein führender akademischer Verlag hat ein Buch über die Ethik der künstlichen Intelligenz veröffentlicht, das offenbar mit falschen Zitaten durchsetzt ist, darunter Verweise auf nicht existierende Fachzeitschriften.
Der Verlag steht in letzter Zeit verstärkt in der Kritik, da betrügerische Arbeiten akzeptiert wurden, die mit KI erstellt wurden und dennoch den Peer-Review-Prozess durchlaufen haben, der eigentlich hohe Qualitätsstandards garantieren soll.
Fälschungen in der Literatur
Ein kürzlich erschienenes Buch des deutsch-britischen Verlags enthält Dutzende von erfundenen Zitaten – ein häufiges Zeichen für KI-generierte Inhalte. Das Buch mit dem Titel Soziale, ethische und rechtliche Aspekte von generativer KI wird als autoritativer Überblick über die ethischen Dilemmata der Technologie beworben und ist für 125 £ erhältlich. Mindestens zwei Kapitel enthalten Fußnoten, die auf wissenschaftliche Publikationen verweisen, die offenbar erfunden sind.
In einem Kapitel konnten 8 von 10 Zitaten nicht verifiziert werden, was darauf hindeutet, dass 80 Prozent davon möglicherweise gefälscht sind.
Wachsende Bedenken in der Akademie
Innerhalb der akademischen Gemeinschaft gibt es zunehmende Bedenken bezüglich Zitationen und kompletter Forschungsarbeiten, die von KI-Tools generiert werden und echte wissenschaftliche Arbeiten nachahmen. Im April zog der Verlag einen weiteren Titel zurück, nachdem zahlreiche fiktive Referenzen darin entdeckt wurden.
Ein Experte analysierte zwei Kapitel mit einem Tool zur Erkennung gefälschter Referenzen und fand heraus, dass mindestens 11 von 21 Zitaten im ersten Kapitel nicht mit bekannten akademischen Arbeiten übereinstimmten.
Forschungsethik in der Krise
Experten kamen zu dem Schluss, dass es sich um Forschungsschwindel handelt: die Fälschung und Erfindung von Referenzen. Diese Problematik untergräbt die Grundlage wissenschaftlichen Wissens, da falsche Studien eine robuste Wissensbasis unmöglich machen.
Ein separater Bericht stellte zahlreiche fehlerhafte oder vollständig erfundene Referenzen in dem Buch fest. In einigen Fällen wurden Details echter Arbeiten vermischt, sechs Kapitel erschienen jedoch korrekt.
Antwort des Verlags
Ein Vertreter des Verlags erklärte, dass alle Bedenken hinsichtlich der Integrität der veröffentlichten Inhalte ernst genommen werden und ein spezialisiertes Team die Angelegenheit prioritär untersuche. Es wurde ergänzt, dass eine geringe Anzahl von Problemen möglicherweise durchrutschen könne.
Diese Vorfälle unterstreichen die Herausforderungen der Veröffentlichung von Forschungsergebnissen im Zeitalter der KI und werfen Fragen zur Vertrauenswürdigkeit akademischer Literatur auf.
