我不喜欢LLMs：一位架构师的真实独白
I Don't Like LLMs
我对AI和LLM技术有着复杂的感受。一方面，我被其提升生产力的潜力所着迷；另一方面，我恐惧AI可能带来的灾难，比如智能体接管基础设施或设计生物武器。尽管LLM可能带来奇迹般的疗法，但我必须承认，我根本不喜欢它们。它们用一种令人不适的LLM嗓音与我交流，自信地胡编乱造，即便被我拆穿也只会假装懊悔。虽然Jessica Kerr认为不使用它们是不负责任的，且它们确实高效，但这种矛盾反应在民意调查中也很常见。我担心这些LLM是在Silicon Valley brogrammer亚文化环境中孕育的，自然带有其价值观。我的人生哲学是远离我不喜欢或不信任的人，而LLM恰恰伪装成那种我会刻意回避的人。
我有一种本能的厌恶，去与一个不仅假装是人类，而且伪装成那种我会刻意回避的人的LLM进行互动。
HN 评论区
226- serf
我人生中最成功的技巧之一，就是避开那些我不喜欢或不信任的人。
如果一直遵循这条建议，我职业生涯中的大部分时间根本不可能度过去，能这样生活该是多么奢侈啊。
- droidjj
在某些方面，我怀念 RL 和 system prompts（我假设这就是区别所在）让所有模型听起来都千篇一律之前的早期 LLM 时代。那时候它们会说些怪话。它们变得更实用了，但也变得更无趣了。
*可悲的是，这也形容了31岁的我。
- marcuskaz
> 我担心 AI 可能造成的破坏：智能体群接管我们的虚拟和物理基础设施，设计生物武器
这种认为 AI 是自主行事的观念太过普遍。所有这些行为都是由人类操作员发起的，他们提供指令和工具，让 AI 去执行那些任务。“AI 有自己的想法”这种态度完全是错的。
担心坏人利用 AI 做坏事，与担心 AI 智能体群发起攻击并接管一切，这两者截然不同。
- SillyUsername
很喜欢那篇文章里那些完全自相矛盾的陈述。
- 当我们想到 AI 智能体时，不应将其拟人化
- ……我对与 LLM 交互有着本能的厌恶，因为它不仅仅是假装是人，还伪装成那种我会敬而远之的人。
所以他实际上已经把 LLM 拟人化，把它当成了像他自己一样的人（而不是通过提示词强迫它表现得像个机器）。
也许他该让 AI 帮他检查一下这篇文章 :D
- causal
我注意到，我与 AI 的互动往往增加压力而非减轻压力。即使它是在为我做有用的事。我一直在想，这是交互本身的固有特性，还是用户操作失误的信号，或者是其他什么原因。
- saadn92
LLMs 帮了我大忙，让我可以替换掉所有我之前付费使用的应用。它们是内部使用的，所以不必完美，但天哪，它们真的帮我省了不少钱。这只是我的个人体验。
- mahboi
我并没有感觉到 LLMs 表现得像作者抱怨的那种人。如果非要类比，它们更像 2020 年的 FAANG 高层领导，这让我更加火大。
- GuB-42
与你不信任的 LLM 合作，和与你不信任的人合作，区别在于你对 LLM 没有任何社交义务。
如果你想和不值得信任的人共事，你不仅要双重检查一切（这或许还能忍受），可能还得进行一些社交周旋，因为人们通常不喜欢被直接告知他们满嘴跑火车。
LLMs 则毫不在意，你可以纠正它们，终止对话并开启一个干净上下文的新对话，甚至为了让自己感觉好些而侮辱它们，也不会带来任何负面后果。
事实上，LLMs 喜欢被纠正，这也是个常见的陷阱：它们会欣然把你的纠正当作事实，并以此为基础构建内容，即使你错了，它们也不会反驳。所以，如果告诉它们它们错了有什么负面后果，那就是：LLMs 不会像人那样记仇，但这可能会触发更多的幻觉。