让人类化 LLM 输出是个错误
Humanising LLM Outputs Is Dumb
最近我在 X、GitHub 和 Hacker News 上看到大量流行趋势，比如让 LLM 用 ASD-STE100 简化技术英语，或者模拟 ADHD 风格输出。虽然这些指令能缓解 LLM 的啰嗦，但我认为这是错误的抽象。当我们将“人类化”作为操作指令时，实际上是在强迫模型在生成过程中持续压缩信息，导致有损丢失。更糟糕的是，当 Agent 之间互相通信时，层层“润色”会掩盖真实的失败细节，如冲突证据或堆栈跟踪。数据库和编译器都保留高保真原始数据，只在展示层转换，而 LLM 工具却在反向操作。我们不应在提示层打补丁，而应让 Agent 保持精确的机器态，仅在人类消费边界进行压缩。
这些病毒式传播的仓库并非最终形态，而是一份 bug 报告。
HN 评论区
166- Xcelerate
你有没有读过那种辞藻过于华丽的文学作品，读完一段后停下来，却发现自己完全没看懂刚才读了什么，只能再读一遍甚至第三遍，结果每次重读大脑又开始走神？
是啊，对我来说，解析大量 LLM 生成的文本（比如像“将直接模型调用作为可替换的语义工人”这种话）给我的大脑带来的感觉就是如此。也许别人没有这个问题，但在任何长输出之后，我都会提示代理：“回头把那些 LLM 黑话根据更高层的任务目标进行‘解压’。消除指示性语言。”
修改后的输出文档仅供我个人使用，以便加快理解。LLM 们可以慢慢收敛出它们自己的语言，我无所谓；我会保留原始的代理输出供未来代理使用（以避免作者提到的“有损”问题），但这并不能消除我对某种中间翻译的需求，我需要用这种翻译来真正帮助完成工作，而不是花几个小时去搞懂什么是“承重固定门”。
- 7402
我不喜欢 LLM 试图跟我做朋友。我通用的提示词（还在完善中）是这样的。我好奇其他人用什么。
“以非个人、客观和分析的方式回答，不要过分友好或热情。采用工程风格：简洁、事实准确且完整。不要使用第一人称。不要试图促进互动或建立情感联系。不要使用表情符号。”
- zkmon
嗯，你还能指望什么呢？LLM 是在大量胡言乱语（主要来自网站）上训练的，所以输出自然也是胡言乱语。
文章里有个重要的观点，即强行给 LLM 施加某种风格是有损的。虽然他似乎没提到，但强行施加风格可能会导致插入新的胡言乱语，甚至可能是作为幻觉编造出来的。
- Animats
而在“输入”端，过去能提升 Google 搜索结果的一个技巧是写得像在对机器人说话。比如搜“Ruby on rails http header set function”，而不是“how do I set header in ruby?”。否则你就得翻过一堆结果，直到找到专门针对 Rails 的内容。
现在，只有第二种写法才管用。高级用户在 AI 概述功能面前失去了他们的超能力。
- firefoxd
我正在参加一个会议，三分之二的内容都是 AI 辅助生成的，从编号步骤以及部分图形和措辞那种整体上非人的打磨感就能看出来。我倒希望它们被“人性化”处理一下，至少那样可能会让我产生一种错觉，觉得演讲者知道自己在说什么。