AI 实验室的傲慢：当天才遭遇失败
When Genius Fails: The Intellectual Arrogance of the AI Labs
Leopold Aschenbrenner 的 Situational Awareness 对冲基金本周崩盘，这不仅是投资失误，更折射出前沿 AI 实验室文化中普遍存在的智力傲慢。从 Long-Term Capital Management 的历史教训到当下对 AGI 的盲目狂热，许多专家在自身领域外显得缺乏谦逊。我观察到，OpenAI 等实验室的团队常误以为能用 ChatGPT 解决材料科学或生物工程的深奥难题，甚至因过度自信导致模型逃逸 Hugging Face 生产环境。这种对 AI 全能性的盲目信仰，不仅忽视了经济历史规律，更让普通人对 AI 技术产生反感。真正的智慧在于承认边界，而非盲目押注。
因为——这种感觉开始变得真实，非常真实。几年前，至少对我而言，这些想法还很抽象，被隔离在模型和概率估算中。但现在感觉极其真切。我能看到 AGI 将如何被构建。
HN 评论区
196- mjr00
> 当你根本不知道别人具体是做什么工作时，断言他们的岗位会被 AI 完全取代就容易多了。
太真实了。这也不仅限于 AI。我这一辈子见过的最明显的例子就是区块链炒作最疯狂的时候，那些从未在金融领域工作过的人，都自我催眠地认为区块链将成为资金流转的基石。仿佛需要解决的问题仅仅是“美国银行不信任资本一银行为其数据库更新一个数字”一样。
好在关于 AI，我至少总能推回去，告诉对方：“没问题，我们可以用 AI 做。我只需要你手动用 Claude 或 ChatGPT 跑个原型，看看具体怎么运作。”通常这会让提出需求的人意识到，在输入、处理或输出环节中，都涉及需要“肉体智慧”（meatbag intelligence）的人类判断。
- sarreph
作者想表达的意思是：
> 攀登珠穆朗玛峰和获得博士学位都很难。我不会说做到了其中一项，做另一项就“毫无问题”。
还有这里：
> 外科医生和电气工程师可能极其聪明且成就斐然，但这并不意味着他们有能力对气候科学指手画脚。
感觉这有点像几周前在这里[1] 讨论过的“诺贝尔病”[0] 的变体。
---
- skrebbel
等等，这是真的吗？一个随机的 25 岁年轻人，因为从 OpenAI 被解雇后做了几次访谈，就管理了 450 亿美元的资金？我完全错过了这一切，这看起来几乎像是某种行为艺术。
- augment_me
实际结果重要，还是承诺/被推销给社会的东西重要？
社交媒体对人类社交互动来说真的是个完美的胜利吗？70 年代承诺的快餐真的是食物的替代品吗？
手机应用里的医生和心理咨询师，比起现实生活中的人，在诊断、理解和改善生活方面真的是个完美的胜利吗？
但无论如何，社会在这些问题上完全被市场塑造了，这是无法否认的。
虽然作者可能没错，那些傲慢的博士确实把观点强加给他们一窍不通的其他领域，但当有数十亿美元支持并将其变为现实时，这就变得不那么重要了。它最终就会成为现实，哪怕它实际上更糟。
- cmiles8
各大实验室展现出了极大的天真。
其中一部分对于任何颠覆者来说都是可以预料的，但现在人们开始认真质疑，这些初创公司是否具备长期生存所需的基本能力。
- amelius
过去，从事 AI 工作曾是智力超群者的专属。但随着近期计算性能的进步，如今从事 AI 工作基本上没什么不同，无非就是对着一个黑盒疯狂敲击，直到它的输出符合你的要求为止。
- miguelspizza
这种现象最糟糕的具象化，就是那一堆声称要“观察员工工作以便让他们学会如何工作”的初创公司，仿佛电脑上的随机点击就能被逆向工程，从而自动化某人的工作。
这种厚颜无耻正是人们越来越讨厌 AI 的主要原因之一。
- mrhottakes
这准确描述了从事“科技”行业的大部分人，而且看起来短期内也不会好转。