Claude 说:别把 AI 当权威

Claude Says

Claude 说:别把 AI 当权威

我不在乎。如果你想要 AI 的反馈,完全可以自己直接去问。对 LLM 的过度顺从,恰恰暴露了你在当前话题上缺乏自信。当有人问我问题时,意味着我本应具备相关知识,或是作为必要的关卡。如今,AI 导致我们的软件栈被过度设计:缺乏技术逻辑的人问错问题,AI 便立即给出看似可行却荒谬的方案,比如为了一个补丁就重新构建所有依赖,而不是利用现有的虚拟仓库功能。AI 的狂热让“氛围编程”出的糟糕方案无需审批,而简单的配置变更却难上加难。人们误以为 AI 的赞同就是真理,却忽略了这不过是话语的包装。盲目复述 AI 生成的内容,只会让大脑退化,让你变得不再值得交流。

当你在 LLM 面前复述信息时,你高估了自己的批判性思维能力,陷入了虚假的权威诉诸。
  1. atomicnumber3

    说到这个点,我对这类讨论已经厌倦了:那些根本不需要听的人正在读并点头附和,而真正需要听到的人却正忙着让一切变得更糟,忙着赚取(或颁发)领导力的赞誉,并且对任何批评或意见完全封闭。

    任何拥有求知欲、懂得微妙之处或平衡感的人,都活在和那些彻底“AI 中毒”且以此为傲的人完全不同的现实里,两者之间基本不可能有交流(通常是因为那些“AI 中毒”的人掌握了所有股份)。

    我说这些,是作为一个真心喜欢大语言模型(LLM),并认可它们在未来软件工程中(实际上现在就已经在)扮演的角色的人。

    我迫不及待想看到 AI 热潮沦落到如今加密货币热潮的地步。人们依然在使用和构建基于加密货币的项目,但出售猿猴 PNG 图片的闹剧基本停摆了;现在如果我有个问题能用区块链解决,我可以真正地去讨论它,而不是在战壕战的中间误捡起一面战斗旗帜。

  2. blktiger

    我对此略有异议。人们(包括我有时)可能会走捷径,直接告诉你某个智能体(agent)对某个问题的回答,这其实是不该做的。到了那一步,这比“让我帮你谷歌一下”的链接好不了多少。不过,虽然我可能是在转述我通过智能体找到的内容,但通常我依然做了提示词工程的工作,要求它帮我查找信息,并进一步筛选出智能体返回的相关部分。我之所以这么做,很可能是因为我在该领域拥有特定的专业知识,这是你自己直接问智能体所无法获得的。

  3. MisterKent

    我对大语言模型(LLM)持相当反对的态度,主要是从人的角度来看。它们将我们简化为产出结果,却完全忽略了达成这些工作背后真正的思考与经历——这些根本不在它们的训练数据里。

    我们生活在一个决定朝这个方向推进的世界里,这很可悲。

    我最近启动了一个 100% 靠“氛围工程”(vibe engineered)的工作项目,作为实验看看它会走到哪一步。虽然看起来似乎奏效,但我能看到过程中犯下了太多错误,以至于现在仍不清楚我们能否将其打磨到生产就绪的状态。

    我最近去了一个艺术博物馆,看着一尊大理石雕像。我当时心想:这位艺术家花在雕刻大脚趾上的时间,可能比任何人花在欣赏整尊雕像上的时间都要多。

    那种速度正是我们过去在软件工程中所拥有的:如此精心的工艺,没有一行代码是随意扔出去的。而现在,我们正走向一个没有明确终点的方向,只能祈祷更大、更好的模型能带我们向前。

    如果我们如此狂热地要移除将我们与其他动物区分开来的东西(我们的智力),那做人的意义何在?

  4. aranelsurion

    教人们不要在 Slack 上使用“@here”大概花了一代人的时间,而电子邮件的平均回复时间也不是 10 分钟。新技术出现后,人们往往要摸索好几年,直到某种礼仪最终形成。这种事屡见不鲜。

    我不记得上一次有人直接把谷歌搜索出来的第一个链接甩给我,还说自己根本没读过,完全不知道内容是什么。然而,在各种一对一和公开场合中,我时不时都能看到有人对 Claude 这么做。

    在这些讨论中,人们往往不是把它当作一种“让我用 Claude 帮你搞定”的抗议,而是真心实意地认为:“我把这个话题复制粘贴给了 Claude,Claude 说了这个。我只是个肉代理(meat-proxy)传话给你,我连一微秒的时间都没花在这上面。”显然,他们的期望是你来投入他们没有投入的精力。

    我的策略和希望是:给它十年时间。情况可能会好转。

  5. jchw

    有一件事我觉得极其令人沮丧:当你试图发布代码时,总会迎面撞上一些荒谬又痛苦的障碍,大家似乎都对此表示同情,但这些障碍却因为可疑的合规原因无法改变,或者是因为如果降低门槛会威胁到代码的质量控制。好吧,这也能理解。

    然而,当然,所有这些减速带都在创纪录的时间内被铲平了——但仅限于 AI 智能体,而非人类。无论还有哪些保留意见尚未解决,也几乎不管是否符合合规标准。

    障碍解决了。只要让 AI 智能体帮你绕过它就行了!

同日更多故事

2026-09-30