LLM革命四年：为何我仍是怀疑者
I Remain a Skeptic
尽管LLM热潮已持续四年，我依然拒绝在真正重要的项目中使用它们。软件质量未见提升，成本未降，安全性反而堪忧，行业也鲜有实质性创新。我的开源项目并未因未采用AI而落后，因为信任远胜于功能列表。目前缺乏独立研究证明AI能带来顶层生产力提升，现有数据多基于代码行数等无关指标。LLM生成的PR质量依然低劣，且常遗漏明显问题。AI助推者将代码视为产出而非输入，这违背了软件开发的基本哲学。当大科技试图让智力劳动同质化以削弱工人议价权时，我选择深耕少数技能，这反而让我对职业安全更有信心。
当每个人都超级厉害时，就没人真正厉害了。
HN 评论区
27- andai
我们现在都应该知道，代码是软件开发过程的输入，而非输出：然而，即便是最具前瞻性的组织，仍然 tacitly（默许地）将代码行数视为生产力指标。
这具体指的是什么？我的理解是“代码即假设”，在它接触现实世界之前（理想情况下还要经过测试，甚至一两个证明），你无法确定它是否站得住脚。而我们最近看到的是，这些假设往往在几十年后才被证伪（比如长期存在的内核漏洞等）。
- qarl2
作者声称，尽管到处都有铺天盖地的安全补丁出现，软件的安全性却并未提高。
我觉得这里可能存在某种脱节。
- hax0ron3
“大科技推动 LLM 的不那么安静的目标，是让智力劳动同质化，使其变得可替代。当劳动力可替代时，你就可以随时用替代品换掉它，从而削弱工人的议价能力。软件开发曾是最后一个‘行会领域’，而现在我们正目睹其工业化进程。"
我认为软件开发的工业化早在几十年前就已经发生了。通用的专业软件开发方法论，无论是瀑布模型还是基于冲刺（sprint）的敏捷开发，本身就是软件开发的工业化。现代基于冲刺的“敏捷”软件开发方法论，难道不是直接受日本制造方法影响的吗？我不知道软件开发究竟何时曾是行会领域，我的个人经验也追溯不到那么远，但根据我读过的资料，至少在我看来，早在 1990 年代它就已经不是行会领域了。
- andai
“生产力”
我最近因慢性健康问题经历了一些认知能力下降。这时机很不幸，因为这是我第一次发布一款带有在线多人模式的游戏。所以“大脑正常工作”算是基本的工作要求！但你只能利用手头现有的资源……
有些日子我有精力去“手动”编程，但在很多日子里，“任务得以完成”和“我只是盯着屏幕反复读同一段代码”之间的区别，就是“让 LLM 来做”。
因此，我不得不将自己的身份从“那个动手做事的人”转变为“那个确保事情被做完的人”。
话虽如此，我确实会仔细检查 diff（差异）。（几个月前我尝试过更放手的方式，结果是个很糟糕的主意。）我也学会了让 diff 尽可能小：这样我更容易消化，AI 也少有机会跑偏。
小而明确变更的一个不错的好处是，小型、快速、廉价的模型就能处理它们。（最近用 Luna 体验极佳，即使在 Low reasoning effort（低推理努力）模式下，这也完全出乎我的意料。）
- spl757
所有 AI 都会幻觉，因此不可预测且不可靠。花了 1.5 万亿美元来证明这个显而易见的事实。在我看来，它不该用于生产环境。他们太想把我们全部赶走，换成不会抱怨、没有孩子、没有私生活、不想要假期（甚至不想要薪水）的东西。从统计数据来看，你们大多数人都是月光族，所以你们对这一切的走向有着切身利益。