Verlag in der Kritik nach Entdeckung falscher Zitationen im Leitfaden zur KI-Ethik
Ein führender akademischer Verlag verkauft ein Buch über die Ethik der Künstlichen Intelligenz, das offenbar zahlreiche falsche Zitationen aufweist, darunter Verweise auf nicht existierende Fachzeitschriften.
Kritik am akademischen Verlagswesen
In letzter Zeit ist das akademische Verlagswesen in die Kritik geraten, weil es betrügerische Arbeiten akzeptiert hat, die mithilfe von KI erstellt wurden und den Peer-Review-Prozess durchlaufen haben, der eigentlich hohe Standards garantieren soll.
Jüngste Recherchen ergaben, dass ein von einem renommierten Verlag veröffentlichtes Buch Dutzende von Zitationen enthält, die erfunden sein könnten – ein häufiges Zeichen für KI-generiertes Material.
Details zum Buch
Das Buch mit dem Titel Soziale, ethische und rechtliche Aspekte von generativer KI wird als autoritativer Überblick über die ethischen Dilemmata der Technologie beworben und kostet £125. In mindestens zwei Kapiteln verweisen Fußnoten auf wissenschaftliche Publikationen, die offenbar erfunden sind.
In einem Kapitel konnten 8 von 10 Zitationen nicht verifiziert werden, was darauf hindeutet, dass 80 Prozent möglicherweise gefälscht sind.
Wachsende Besorgnis über KI-generierte Zitationen
Innerhalb der akademischen Gemeinschaft gibt es zunehmende Bedenken hinsichtlich Zitationen und sogar ganzer Forschungsarbeiten, die von KI-Tools generiert wurden, um echte wissenschaftliche Arbeiten zu imitieren.
Ein Experte für die Erkennung gefälschter akademischer Arbeiten analysierte zwei Kapitel mit einem Tool, das zur Identifizierung gefälschter Referenzen entwickelt wurde. Dabei zeigte sich, dass mindestens 11 von 21 Zitationen im ersten Kapitel nicht mit bekannten akademischen Arbeiten übereinstimmen.
Forschungsfehler und deren Auswirkungen
Diese Art von Forschung ist als Missbrauch zu betrachten: Fälschung und Fabrication von Referenzen. Ein weiterer Forscher, der die Zunahme gefälschter, KI-generierter Zitationen untersucht hat, entdeckte zahlreiche fehlerhafte, nicht übereinstimmende oder völlig erfundene Referenzen in dem Buch zur KI-Ethik.
In einigen Fällen schienen Details verschiedener echter Arbeiten kombiniert worden zu sein, während andere Kapitel genau wirkten. Jedes Kapitel wurde von einem anderen Autorenteam verfasst.
Reaktion des Verlags
Ein Vertreter des Verlags erklärte, dass alle Bedenken hinsichtlich der Integrität ihrer veröffentlichten Inhalte ernst genommen werden. Das Team für Forschungsintegrität des Verlags untersucht diesen Fall prioritär.
Es wurde betont, dass das Team eng mit Editoren zusammenarbeitet und spezielle Expertise sowie Erkennungstools nutzt, um die Standards zu wahren und Integritätsprobleme frühzeitig zu erkennen. Allerdings könnten einige Fälle dennoch durchrutschen.
Fazit
Die Entdeckung falscher Zitationen in einem renommierten Buch über KI-Ethik wirft ernste Fragen zur Integrität und Qualität akademischer Publikationen auf. Angesichts der wachsenden Rolle von KI in der Forschung ist eine kritische Überprüfung der verwendeten Zitationen unerlässlich, um die Glaubwürdigkeit der akademischen Literatur zu gewährleisten.
