关掉大脑用LLM：员工终将被替代
There's no point at which turning your brain off will work
从2025年初开始，我目睹越来越多的人在使用LLM时选择'关掉大脑'，盲目信任AI生成的代码或总结。随着LLM能力的提升，这种'肉代理'（meat proxy）模式似乎越来越有效，甚至有人声称编程已被解决。但事实是，这种模式产出的软件往往质量堪忧，充满隐蔽的bug和逻辑错误。更致命的是，一旦LLM足够强大，公司完全可以直接运行自动化循环，不再需要人类员工。对于依赖这种工作方式的员工而言，不存在任何'关掉大脑'却能保住的职业未来。
对于员工来说，这种'关掉大脑'的方法在任何阶段都不会奏效。
HN 评论区
156- Arubis
是的，而且：动脑筋最重要的时刻并不在循环之中。
那确实很有价值，也会一直如此，但让人想关掉大脑的诱惑之所以存在，是因为这个循环很出色，而且越来越擅长它做的事。一旦你进入循环，除了极少数高价值的例外情况（比如发现完全的错误并重新导向），你大部分时间只是在几个相似且合理的选项之间做选择。这与其说是正确与错误的抉择，不如说是相对论式的优化。让循环去干活，能迅速得到一个平庸的结果，而这通常也就够了。
动脑筋最重要的时刻是在提示词（prompt）之前。一旦你开始和 LLM 及智能体（agent）互动，你就开始产生偏见，它那些合理的建议会限制你对其他选项、其他可能性的视野。
先动脑筋，再写提示词。
- Arainach
问题在于，这种要求是从上而下强加的。我同意你不能关掉大脑，但每当我争辩说 AI 并不是某件事的合适工具时，管理层就会发火。无论事情是什么，总有一股力量在推动全面自动化。
即使我同意你必须动脑筋，当我的老板在团队会议或聊天中明确告诉我别再质疑“AI 自动化是否是正确答案”时，我干脆就闭嘴，给他们想要的东西。
- kixiQu
即使在 LLM 出现之前：我就发现很多同事（对我来说既令人费解，无论是资深还是初级）真的想在调查复杂的跨系统行为（到处都是反馈循环）时关掉大脑，他们不喜欢听我说这事没法简化成一本操作手册（runbook）。如果有个“饮水鸟”（https://en.wikipedia.org/wiki/Drinking_bird）按个回车键就能搞定，我就能弄个装置，根本不需要你！
- jochem9
我觉得很多人根本推理不到这一步，也就无法据此调整行为。他们可能在被逼问时能推理到这一步，但无法抗拒那条低努力、低阻力的捷径——问 AI，然后大概会编造理由说明在他们的情况下这样没问题（这是解决认知失调的典型行为）。
话说回来，对许多人来说，工作安全感并不取决于他们做什么工作，而取决于他们在组织中的嵌入程度。在 AI 出现之前，你也能看到很多人以可疑的水平做着工作，却似乎从未被解雇。
- dzink
你是个来自旧时代的摄影师。那时候拍张照片要花很长时间。你站在山坡上，试图拍出完美的日落照片。你测量、排序、计算角度和光线。一个游客站在你旁边，拿着带有高速自动设置 iPhone 相机。他转了一圈，从不同角度拍了几千张照片，而你在思考并测量你唯一的一次拍摄。这就是 AI 做的事。它让你对同一个问题尝试很多次。那个只有一种思路的深思熟虑者，很可能会输掉摄影比赛，败给那个尝试了更多次而偶然拍出更好照片的人。现在“先制作再筛选”可能比“过度思考只尝试一次”是更好的方法。
- LZ_Khan
飞行员和火车司机 95% 的时间基本上就是“血肉代理”（meat proxies），但他们仍然受雇。因为在事情真的出问题时，他们仍然是必要的。
- agentultra
AI 系统无法替代专业人士。它不能复制或完成他们所做的工作。那不是它的用途，它也无法执行这些任务。
如果你在使用这些系统，你仍然需要知道你想要什么以及如何指定它。你可以用智能体（agents）自动化大部分工作，但它无法告诉你你的想法很糟糕，无法告诉你有更好的方法来实现目标；它无法告诉你你想要什么。而且，如果你无法理解它输出的内容，你就在作为开发者的首要任务上失败了：理解问题。
我同意标题的观点。我只是不认为这些系统永远有能力替代人类。尽管产品经理和高管们会非常乐意这样，这样他们就不用和我们打交道了；但如果他们试图用 AI 工具替代专业开发人员，并解雇所有拥有机构知识和技能的人，那他们只是在自断后路。
- 01284a7e
“公司雇佣‘血肉代理’（meat proxy）有什么理由？”也许是某种形式的责任、问责……
新概念：AI 替罪羊（AI patsy）