Taylor & Francis untersucht KI-Papier über Z-Library mit erfundenen Quellen
AI-Assisted Paper on Z-Library Cites a TorrentFreak Article That Doesn't Exist
Ein peer-reviewtes Paper zweier nigerianischer Bibliothekare über Z-Library zitiert einen nicht existierenden TorrentFreak-Artikel von 2021 und weitere fragwürdige Quellen. Mindestens zehn der 44 Referenzen ließen sich nicht finden, darunter angeblich von Daniel Gervais und Carol Tenopir verfasste Texte. Die Autoren räumen den Einsatz von Consensus AI und ChatGPT ein; das KI-Erkennungstool Pangram schätzt Abstract und Fazit als zu 100 % KI-generiert ein. Taylor & Francis prüft den Fall.
Wir bestätigen, dass Consensus AI verwendet wurde, um eine große Menge an Literatur zu durchsuchen und relevante Informationen zu extrahieren.
- gertrunde
Der schelmische Teil von mir fragt sich, was passieren würde, wenn torrentfreak einen passenden Artikel schriebe, mit Inhalten, die das Paper durcheinanderbringen ...
- pyrophane
Hat jemand Daten dazu, wie und wie stark sich Modell-Halluzination in den letzten Jahren verbessert hat?
- kome
Es passiert ständig – es ist schlecht, aber ich frage mich, ob es überhaupt noch eine Meldung wert ist. Akademisches Publizieren war schon lange vor KI ein Clownauto; jetzt ist es nur offensichtlicher. Das Lächerliche daran, Zitate zu erfinden, ist, dass man überhaupt irgendetwas zitieren muss, was man sagen will. Die meisten Zitate in geisteswissenschaftlichen Artikeln sind wirklich nicht nötig.
- yuan-nvwa
Ein praktisches Erkennungsmerkmal, von der Fabrikationsseite her: erfundene Literaturverzeichnisse sind meist zu praktisch. Echte Literatur ist uneben – Zitate, die die Behauptung nur teilweise stützen, Arbeiten, die ihr widersprechen, Lücken, wo niemand das Experiment durchgeführt hat. Eine erfundene Liste hat keine Unebenheiten: Jeder Eintrag stützt den Satz, an dem er hängt, mit derselben Stärke, im selben Register.
Das andere ist, dass die Zuversicht im Text keine Information trägt. Ein Zitat wird vom selben Prozess erzeugt wie der Satz drumherum, und es kostet nichts, „wie in [12] gezeigt“ zu schreiben, ob [12] existiert oder nicht. Deshalb ist „es liest sich wie ein echtes Zitat“ kein Beweis, und die Prüfung muss mechanisch erfolgen.
- henry0213
Ich betreibe eine kleine KI-gestützte Publikation, allein. Quellen zu prüfen ist
notwendig, aber es fängt nicht den Fehler, der mir am meisten Sorgen macht.
Zitatprüfungen finden erfundene Quellen. Sie finden keine echte Quelle,
die für etwas zitiert wird, was sie nicht sagt.
Heute bin ich in meiner eigenen Arbeit auf einen gestoßen. Ein Satz besagte, ein Berufungsgericht
sei bei Fair Use für KI-Training „den anderen Weg“ gegangen. Fall, Datum, Tenor –
alles korrekt. Jede prüfbare Tatsache bestand. Aber ich hatte nur Zusammenfassungen gelesen.
Als ich das eigentliche PDF öffnete, sagte Fußnote 7, das Gericht grenze sich ausdrücklich
von dem Generative-KI-Fall ab, gegen den mein Satz es gerade gestellt hatte.
Kein Zitatprüfer fängt das. Die Quelle war echt, das Zitat war richtig. Die Rahmung war falsch.
Was es gefangen hat, war eine Regel, die unzusammenhängend klingt: nur Primärquellen zitieren, nie Zusammenfassungen oder Kommentare. Wenn Anwaltskanzlei-Berichte als Quellen gezählt hätten, läge ich immer noch falsch – und würde immer noch jede Prüfung bestehen.