Navier-Stokes后，我为何仍看空LLM

第一点的前提似乎有问题：

> 前沿实验室的估值是基于这样一个叙事：它们已经或将在非常近的未来生产出能够完全自动替代大多数知识工作者的即插即用型产品……

即便假设 AI 公司确实是这样被估值的（事实并非如此），数字也是错的。

大多数知识工作者的“价值”——基于企业目前为他们支付的薪酬——每年在 50 万亿到 70 万亿美元之间。可以合理假设，如果 AI 能够即插即用型地替代所有这些知识工作者，AI 公司可以可信地收取这个数量级的费用，因为市场已经在承受这个成本。

所以，如果它们的假设收入是数万亿美元，而估值是收入的若干倍，那么整个 AI 行业的估值至少应该是数万亿美元。

然而，整个行业（前沿实验室加上其他所有参与者的 AI 部分估算值）累计估值约为 6-7 万亿美元？这似乎是对它们当前能自动化的知识工作量的一个公平估算。

简短有力！开源且廉价的模型将持续侵蚀大实验室的利润。一旦支出承诺开始产生压力，其破坏半径将不堪设想。

“它们的估值是基于这样一个叙事：它们已经或将在非常近的未来生产出能够完全自动替代大多数知识工作者的即插即用型产品……”

不，事实并非如此。

它们的估值方式暗示 AI 将成为一种通用的计算形式，与传统确定性系统并存——这确实会发生。

并且暗示它们将占据其中的大部分……但这不会发生。

前沿实验室在高位买入非常糟糕，但这部分归因于疯狂的定价，实际上更多是因为它们在价值链中相对薄弱的位置。

钱会流向 Nvidia，它们拥有最强势的地位。

这有点像零售商如果掌握了渠道，就能拿走某种创新产品的全部利润。

AI 被过度炒作，前沿实验室被高估——但 AI 将长存，并会增长。不像天网，而像一种新的计算形式。这需要时间，而利润将被那些拥有权力的人收割。

我认为对 LLM 用于自动化持看空态度，而对 LLM 加特定领域的人类专家持看多态度，是对当前架构的合理预期。

除了任务泛化问题，或者与其相关的是，LLM 在时间管理上确实存在困难，无法很好地估算完成某事所需的现实世界时间。加上记忆问题，使得那些理论上能处理动态需求变更的长程智能体（long horizon agents）的梦想，在当前架构下显得相当不切实际。

不过在输出更具确定性的狭窄领域，这个问题就不那么严重，我们看到多个智能体能取得更好的成功。

我认为至少在一段时间内，真正的机会在于将这种能力与人类在环（human in the loop）相结合，人类能更好地引导这些智能体，并充当它们的时间锚点。

> 严谨规范的最佳替代方案是人工审查。然而，人工审查无法很好地扩展到语言模型产生的输出量。更糟糕的是，

当商业模式是销售更多 token 时，你会得到如此极端的单次服务响应时间，导致“更多”的思考、诱导互动、空洞的叙事，甚至是纯粹的黑暗模式。

我真的很欣赏看到这种温和的观点，它不是字面意义上的对当前能力的否认。

> 那些需要完成一小套定义狭窄且有明确现有护栏的任务的人：受控环境下的重复性体力劳动、呼叫中心及客户服务聊天工作等。

我完全不知道人们怎么能如此自信地说呼叫中心工作是“受控环境”或“重复性”的。按定义来说，它几乎就不是重复性或受控的。客户支持正是我在受控环境失效时才会去的地方。