别把功劳归给 LLM,责任要自己扛
Don't credit the LLM
最近我发现身边同事有个怪习惯:每用 LLM 完成一项工作,就急着声明是工具写的。有人问 Feature X 的工单数,回答是“根据 LLM 工具显示”;发文档或拉取请求时,也总强调“这是 LLM 写的单元测试”。这就像飞行员在滑行时广播自己的航电软件版本一样多余。我起初以为只是新鲜感,但细想之下,这种声明背后或许藏着四种心态:怕被当成冒牌货、借工具光环抬高自己、偷懒未审核,或是为了迎合公司强制使用 AI 的指令。作者认为,工具无法承担问责,因此也不该分走功劳。真正的价值创造者,无论成果是卓越还是失败,都应独自承担全部责任。
如果创造出了深刻或非凡的东西,就完全归功于自己;如果偏离目标或产出一堆垃圾,也要全权负责并从中改进。
HN 评论区
26- NitpickLawyer
> 我为什么需要知道这个?
在一个完美的世界里,这样的免责声明有助于任何阅读输出内容的人建立预期。我们每个人的体验不同,接受程度也不同。知道某物使用了生成内容,可以帮助人们选择接受、略读或仔细审查。
问题在于,我们看到了很多反弹,往往出于意识形态原因,或者一些过时的技术原因,所以人们诚实披露的动机变少了,而隐藏使用的动机却多了一大堆。
- chias
给 LLM 署名(我同意这很荒谬)和披露使用了 LLM,这两者是有区别的,我认为后者很重要。作者似乎混淆了这两点。
只要读者在掌握这一信息后可能会对结果产生不同看法,披露就是恰当的。例如,“这项关于烟草非成瘾性的研究,由烟草行业资助”。
此外,不引用 LLM 就是抄袭。也许学术界以外的人对抄袭有着狭隘的理解,比如无法理解一个人怎么可能抄袭自己。向持有这种观点的人解释引用 LLM 贡献的重要性,是很困难的。
- minimaxir
> 1. 你相信功归其主。使用 LLM 感觉像是在作弊,所以披露它让你觉得自己不像是在冒充天才,毕竟你产出了了不起的东西。
“作弊”在这里不是个合适的词。给 LLM 署名是为了让所有相关方获得准确信息,以便用于后续的决策(例如,如果因为 LLM 的特性导致了意外情况)。
- grayclhn
这有点荒谬——如果我引用了百科全书(或任何东西)的一大段内容,我会注明出处。如果我使用 LLM 撰写论文或报告的一部分,那部分就不是我写的(即使我编辑了它或重写了它,等等),所以我最好以与论文中呈现其输出方式最一致的方式来给 LLM 署名。
- yuliyp
LLM 不是我。它能做更多“工作”,但它没有我的思维模型和经验。我的同事大致了解我的专业领域。如果我说“我认为 X 正在发生”,他们会假设这是应用了我的专业知识得出的结论,并据此做出反应。如果我说“[LLM] 认为 X 正在发生”,他们的反应会不同,而我希望他们有不同的反应。就像我可能会说“我怀疑 X 正在发生,因为 Y