Bill Gates 的 Claude 错觉:技术精英的傲慢

The Claude Delusion

Bill Gates 的 Claude 错觉:技术精英的傲慢

成功往往让人产生自己是神的错觉,这在科技圈尤为明显。许多技术精英将编程能力等同于整体智力,进而陷入 Dunning-Kruger 效应,认为自己的成功完全源于天赋。以 Bill Gates 为例,他自信能设计生物学难题来测试 OpenAI,并因 Claude 的编码能力达到他的水平而感到震惊,甚至将其视为“超人”。这种“凡接近我技能者皆为超智能”的思维,既催生了对 AI 灭绝人类的末日恐惧,也构建了 AI 解决一切问题的乌托邦幻想。当科技巨头们将自己视为数字时代的 Prometheus,却对真实世界的气候危机视而不见时,这种权力带来的傲慢与脱节,或许才是比 AI 本身更危险的幻觉。

任何接近我技能水平的东西都是超人的。
  1. ianm218

    我觉得作者的观点说服力不强……比尔·盖茨在某个阶段被公认为一位杰出的程序员,之后又花了很长时间评估软件工程师。他似乎是个很自然的人选,可以来衡量 AI 在编程领域的进展?

    就在 AI 在 SQL 方面变得越来越强的时候,我在工作中每天都在写 SQL,而且已经写了多年。我不认为如果那时我判断它变得非常强大,并即将在 SQL 领域超越人类,这算是傲慢。而且无论如何,这个判断都是正确的。

  2. cronin101

    我觉得这篇文章写作时忽略了很多当时的背景(我当时身处相关行业的相关部分,亲历了一些早期“天哪,这东西居然能行”的时刻)。

    当时绝对没有人能预料到 next-token prediction(下一词预测)的扩展能力会达到可以回答训练域之外问题的程度(这就是关于“编造问题”的论点所在,当时在训练规模前所未见的情况下,用训练集之外的材料进行测试非常重要)。

    此外,在可验证任务(编程)上的后训练(post-training)成功也完全出乎意料,一夜之间改变了世界。LLM 突然跨越了从“我能写代码”到“我有信心写出能解决你问题的代码”这道鸿沟,这彻底改变了行业。

    对于像他这样从一开始就深度投入其中的人(别忘了微软当时的投入规模),在“第一天”就进行测试是完全合乎逻辑的,这也让他比那些与世界其他人同时得知进展的人感到更大的震惊。(研究能力与产品发布之间存在巨大的延迟)

  3. jmathai

    这篇文章首先提出一个观点,说盖茨在生物学方面不够专业,无法评估 AI 回答该领域复杂问题的能力是否算作突破。

    紧接着又说,尽管他在编程领域是专家,且经验几乎无人能及,但他对 AI 编程的评论却是傲慢的。

    我不确定该如何解读这一点。

  4. blincoln

    这场辩论中站在作者一边的人,只是还没有看到第一手的证据。我可以理解在那之前保持怀疑,但他们应该让自己去尝试一下 2026 年末期的前沿模型。

    我的顿悟时刻是,当我给 Claude Code 一个棘手的逆向工程问题时:理解一种复杂的专有编码方案是如何工作的,然后构建一个编码器和解码器。还有一些我无法透露的额外复杂因素,因为这是为了工作,但确实是个难题。

    作为背景,我做逆向工程(RE)已经超过 25 年了。我不是世界上最顶尖的,但只要能找到时间,我做得相当不错。

    我和一位同事花了大约一周时间做这项工作,我估计还需要 2-3 周才能完成。我们搞懂了大约 3/4 的消息是如何编码的,但剩下的部分完全讲不通。

    我把我们的笔记给了 Claude Code,15 分钟内它就搞定了协议的其余部分,并构建了一个命令行解码器。我让它添加一个编码功能,又过了十分钟,它也完成了。它使用我们真实数据的语料库对其所有代码进行了广泛测试。

    该解码器在我们现有的所有捕获数据以及之后收集的新数据上都完美运行。

    我不得不对编码器做一个小改动,这与我无法透露的某件事有关。我不怪模型,因为它没有访问真实产品来测试其输出。[…]

  5. siva7

    > 我上面拿比尔·盖茨举例是为了说明过度自信效应

    读了你的博客后,我可以断言,你自己也表现出了这种效应。比尔拥有所有已证明的能力和资历,我们知道他是软件工程领域的权威人物,而如果你没搞错的话,你在这方面一无所有。

  6. hliyan

    文章的第一部分说得通,即:

    在任何竞争代理(例如人类)的系统中,如果表现带来的奖励能够进一步提升表现,那么初始表现中哪怕微小的随机差异也会指数级累积,直到一个人或少数几个人占据主导地位。在这样的系统中,只有一小部分成功可以归因于先天技能。因此,确实,成功本身虽然发出了适应生存的信号,但并不一定意味着拥有做出准确判断的非凡能力。

    我不太清楚文章的第二部分试图传达什么。它的意思是,高度成功的人将自己的成功完全归因于自己的技能,因此当机器能够复制他们的技能集时,他们感到惊讶,并认为这项技术将改变世界吗?

  7. jrm4

    作者对比尔·盖茨的批评一针见血。据他自己承认,他的公司基本上错过了互联网的到来,而今天我们所有人都在为此付出代价。

    他错过了机器互联时代的到来,反而预设每台电脑都将是一台花哨的复印机计算器(永远不会与其他设备通信,因此不需要安全)。这是一个巨大的认知漏洞。

  8. vgalin

    LLM 生成的代码(经常)能运行,但它们写的是“好代码”吗?

    你觉得 LLM 生成的代码直观、易读或优雅吗?

    我不确定,所以当我听到或读到有人说 LLM 写的代码比他们自己写的更好,或者至少一样好时,我觉得很困惑(再次引用文章中比尔·盖茨的话:“我能看出它们和我一样好”)。

    现在确实可以“凭感觉编码”(vibecode)整个应用程序,而无需看一眼代码,但这并不是我评论的重点。

    LLM 生成的代码并不是给人看的。LLM 擅长生成文本,而且做得很好。但它们无法生成像人类为人类写的文本那样的文本。我从 LLM 生成的代码中感受到这一点,从大多数 LLM 生成的小说、说明、报告等中也是如此。

同日更多故事

2026-11-14