AI 论文引用了不存在的 TorrentFreak 文章
AI-Assisted Paper on Z-Library Cites a TorrentFreak Article That Doesn't Exist
一篇发表于《New Review of Academic Librarianship》的学术论文在讨论 Z-Library 时，引用了一篇根本不存在的 TorrentFreak 文章。更令人咋舌的是，该论文还虚构了多份来自 Harvard Journal of Law & Technology 等权威期刊的文献。作者承认在研究过程中使用了 Consensus AI 筛选文献，并用 ChatGPT 润色语言。经 Pangram 检测，论文的摘要和结论部分被判定为 100% AI 生成。讽刺的是，这篇由 AI 辅助生成的文章还批评 Z-Library 损害了学术出版商的利益，却未提及同行评审通常无偿进行的现实。目前，出版商 Taylor & Francis 已介入调查此事。
AI 聊天机器人以编造参考文献而闻名，它们往往杜撰出看似合理的标题，并将这些虚构的内容归功于该领域的真实专家。
HN 评论区
49- gertrunde
我内心那个爱搞恶作剧的部分在想，如果 TorrentFreak 真的写了一篇内容能跟这篇论文“对戏”的文章，会发生什么……
- bartleeanderson
除非作者就是懒得检查，否则他们到底为什么会连最基本的核实都不做？寻求协助是一回事，但在使用 AI 时完全放弃责任完全是另一回事。无论他们是否使用了 AI，我都不会信任他们的任何成果。
- pyrophane
有人有数据说明过去几年模型幻觉（hallucination）在方式和程度上改善了多少吗？
- kome
这种事一直都有——这确实很糟糕，但我怀疑它现在是否还值得报道。早在 AI 出现之前，学术出版界就已经是个马戏团了；现在只是表现得更明显罢了。编造引用的荒谬之处在于，你竟然需要为任何你想说的话去引用文献。人文社科文章里的大多数引用其实根本没必要。
- yuan-nvwa
从伪造的角度看，一个实用的判断标准是：编造的参考文献列表通常过于“顺滑”。真实的文献是参差不齐的——有些引用只部分支持你的论点，有些则与之矛盾，还有些地方是没人做过实验的空白。而伪造的列表没有这些“疙瘩”：每一条都完美地、同等力度地、以同样的语调支持它所附着的句子。
另一个特点是，文本中的自信程度毫无信息量。引用和周围的句子是由同一个过程生成的，无论 [12] 是否存在，写下“如 [12] 所示”的成本都是零。这就是为什么“读起来像真的引用”不能作为证据，核查必须是机械式的。