Verlag in der Kritik nach Entdeckung von „falschen“ Zitaten in einem KI-Ethischen Leitfaden
Ein führender akademischer Verlag verkauft ein Buch über die Ethik der Forschung zu künstlicher Intelligenz, das offenbar mit gefälschten Zitaten durchsetzt ist, darunter Verweise auf nicht existierende Fachzeitschriften.
Die akademische Veröffentlichung steht zunehmend in der Kritik, da sie betrügerische Arbeiten akzeptiert, die mithilfe von KI erstellt wurden und den Peer-Review-Prozess durchlaufen haben, der hohe Standards garantieren soll.
Eine Untersuchung ergab, dass das kürzlich veröffentlichte Buch zahlreiche erfundene Zitate enthält, was oft ein Zeichen für von KI generiertes Material ist. Das Buch mit dem Titel Soziale, Ethische und Rechtliche Aspekte von Generativer KI wird als autoritative Übersicht über die ethischen Dilemmata der Technologie beworben und kostet 125 £.
Mindestens zwei Kapitel enthalten Fußnoten, die auf wissenschaftliche Veröffentlichungen verweisen, die offenbar erfunden wurden. In einem Kapitel konnten 8 von 10 Zitaten nicht verifiziert werden, was darauf hindeutet, dass 80 Prozent möglicherweise gefälscht sind.
Wachsende Besorgnis in der Akademia
In der Wissenschaft gibt es wachsende Bedenken hinsichtlich der Integrität von Zitaten und sogar ganzer Forschungsarbeiten, die durch KI-Tools generiert werden, die versuchen, echte wissenschaftliche Arbeiten zu imitieren.
Im April zog der Verlag einen anderen Titel zurück, nachdem festgestellt wurde, dass er zahlreiche fiktive Referenzen enthielt. In dem aktuellen Buch konnte ein Zitat auf eine angebliche Veröffentlichung in einer nicht existierenden Fachzeitschrift zurückgeführt werden.
Ein Experte für die Erkennung gefälschter akademischer Arbeiten analysierte zwei Kapitel und fand heraus, dass viele Zitate nicht mit bekannten wissenschaftlichen Arbeiten übereinstimmten. Dies deutet auf einen besorgniserregenden Trend hin, bei dem „halluzinierte“ Zitate in der akademischen Literatur zunehmen.
Implikationen und Risiken
Der Einsatz gefälschter Zitate stellt ein ernsthaftes Forschungsfehlverhalten dar, da solche Fälschungen die Grundlage der wissenschaftlichen Arbeit untergraben. Wenn Forscher auf fehlerhafte oder gefälschte Studien vertrauen, gefährdet dies die Schaffung robuster wissenschaftlicher Erkenntnisse.
Schlussfolgerung
Die Integrität wissenschaftlicher Veröffentlichungen ist von größter Bedeutung, und Verlage müssen sicherstellen, dass ihre Inhalte den hohen Standards entsprechen. Der Verlag hat angekündigt, die Bedenken ernst zu nehmen und die Angelegenheit zu untersuchen, um die Qualität und Glaubwürdigkeit seiner Publikationen zu wahren.
