为何几乎不该用 AI 撰写实质性内容
Almost Never Use AI to Write Anything Substantive
我强烈建议几乎不要使用 AI 撰写任何实质性内容，无论是博客、研究报告还是小说。即使你提供详细的要点或后续进行编辑，AI 写作依然存在致命缺陷。首先，写作过程本身就是思考过程，AI 的介入让你逃避了必要的深度思考；其次，AI 生成的文本往往在不易察觉的地方模糊不清或存在微妙错误，且极具误导性；最后，未标注地使用 AI 写作是不礼貌且欺骗性的。虽然 AI 在转录、数据分析或润色方面很有用，但将核心写作任务交给它，会削弱我们形成准确信念的能力。
关于某件事的写作，哪怕是你非常熟悉的事情，通常也会让你意识到自己并没有想象中那么了解它。
HN 评论区
142- patrickmay
摘自原文（TFA）："Eric Schwitzgebel 写道……阅读时点头附和与真正创造性地生成文本之间存在巨大的认知差异。原因有二：首先，一旦文字落在纸上，人们很容易被动地接受那些大致可用的措辞，而不是像在从头撰写散文时那样费力、主动地推敲选词。其次，正如我上面提到的，我怀疑即使是专家，人类也无法准确感知所有影响选词的因素——即他们正在敏锐捕捉的一切。你会用稍有不同的方式来表达，即使你不知道这一点，或者不知道原因，所发送和接收的信号也会不同。"
这是我见过的对“为何仅仅审阅和校对远不如从头撰写有价值”最精准的阐述。过去两周，我花了大量时间审阅并改进一份由 LLM 生成的工作文档。考虑到参与的人数以及最终投入的精力，我坚信如果手动撰写，速度会更快，产出的质量也会更高。措辞的准确性至关重要。
- jameshart
用 AI 来写那些你希望别人为你写、供你阅读的东西：‘给我总结一下关于这个主题的研究’；‘根据这份数据写一份报告，帮我做决策’；‘把这份会议记录转成它本该发出的那封邮件’。
不要用 AI 来写那些你要交付给他人消费的内容。
- numitus
这不过是又一次卢德主义（Luddism）罢了。抱歉说得直白，但没人关心你的校对，因为你的文章大概率最终会被另一个 AI 阅读。你的老板也不在乎什么对你更方便。如果你为公司创造了 X 量的价值，而你的同事创造了 3X，你很快就会发现自己被扫地出门。这就像说你不喜欢谷歌搜索，反而喜欢一整天泡在图书馆里翻阅文章和书籍。LLM 是极其强大的工具，当下每个人的任务都是学习如何利用其优势、规避其缺陷来最大化生产力，而不是劝人不用 AI。魔瓶里的精灵已经放出来了，世界将永远改变。
- rectang
与其让 AI 为你撰写实质性内容，不如让它来批评你的写作。然后由你自己判断哪些建议该采纳，哪些该忽略。
LLM 总是会给出一份完整的重写稿——别用。它总是做得太多，而说服它收敛一点则是一场没完没了的拉锯战。
- foobarbecue
如果目标是沟通，还有人会用 LLM 来写作，这让我感到不可思议。
LLM 写作会基于你的提示词添加你没写的内容，从而埋没你的本意，让读者更难理解你的信息。
直接发布提示词要有效得多。
当然，如果你只是想凑字数，或者为了满足某种狗屁工作的需求，那它确实很棒。
- alas44
‘AI 写作在难以察觉的方面模糊且错误’
这一点让我深有体会。在工作中，我浪费了大量时间重读和修正 AI 生成的文章，那些文章本意是‘总结’一份集体白皮书，但其中的微妙之处和细微差别以隐蔽的方式消失了，从而损害了我原本想要阐述的观点和论据。
- vanschelven
我不禁觉得，这里的某些论点同样适用于编写代码，而不仅仅是其他实质性写作。
编写代码就是思考，AI 生成的代码往往在难以察觉的方面模糊且错误，而（人类）代码阅读者最终要为这些付出代价。
不过，对于代码而言，成本效益分析的结果可能还是会有所不同……
- polotics
如果我可以提出一个更广泛的规则，我认为这篇文章只是其中的一个特例：
永远只使用 AI 来迫使自己更努力、更深入地思考。