如果属实，hyperscalers 将成历史
If this is true, the hyperscalers are toast
我在长期研究中一直认为，AI 的未来不属于云端的大语言模型（LLM），而是运行在本地电脑或手机上的小语言模型（SLM）。斯坦福大学最新研究对比了 QWEN 3、GEMMA 3 等本地模型与 ChatGPT 5、Claude Sonnet 4.5 等云端模型，结果显示在绝大多数聊天和推理任务中，SLM 的表现已追平甚至超越 LLM，且能耗成本降低了 50% 至 85%。这意味着未来可能不再需要大规模数据中心，hyperscalers 数百亿美元的投资恐将打水漂。对于投资者而言，真正的赢家或许不是提供先进硬件的厂商，而是像 Dell 和 Apple 这样的普通电脑制造商。
如果这项研究属实且趋势持续，数据中心可能是当下 AI 领域最糟糕的投资选择。
HN 评论区
104- philipallstar
这逻辑简直疯了吧。如果人们只需要 SLM，那么 hyperscalers 同样可以集中托管效率更高的模型，并且在规模效应和便利性上依然比本地托管更有优势。
- throwthrowuknow
从文章呈现的内容来看，这似乎只是问答和推理任务的低端场景，而非长周期的智能体（agentic）工作。我同意搜索引擎替代类的 AI 应用确实可以在任何地方运行（尽管为了速度、上下文长度、沙箱隔离和便利性，在云端运行仍然更好），但这并不是 AI 增长的核心引擎。
另外，普通消费者不会去运行本地模型，除非这些模型直接集成在他们购买的硬件里。而一旦集成，权重由谁提供？到时候大概率会以 ASIC（或 MSIC）的形式出货。这些芯片将使用当前行业巨头授权的模型。整个论点听起来就像在说“因为每个人家里都有电脑，所以云服务不该赚钱”，或者在玩梗“我们家里也有 AI”。
- palata
“如果”，没错。
这里有多少开发者看不出最新的 LLM 和自己能在电脑上运行的 SLM 之间的区别？我试过在本地运行一个小模型，根本没法用。
我知道大家喜欢“预测”未来，这样一旦成真，他们就可以说“我是个远见者，我早就预测到了”，然后开始写博客：“正如我很久以前预测的那样（因为我是个远见者），……”。
> 该研究报告估计，美国 SLM 的可寻址市场规模已增长至约 10 万亿美元，占美国 30 万亿美元 GDP 的三分之一。LLM 的生存空间所剩无几，而且每年它们相对于 SLM 的优势都在缩小。
我已经懒得数有多少次“估计”说某个市场会绝对爆炸，结果却完全没有发生。这些预测就像坏掉的钟，偶尔也能对一次。
如果有更好的东西出现，那它确实会更好。没错。我们也想要更好的东西，因为它确实更好。
- CTDOCodebases
这篇博文背后的论文根本存在缺陷，原因在于基准测试的上限。如果我们只定义像“法国首都是什么”这样的简单任务，所有模型显然都会收敛到 100%。但随着大模型能力越来越强，我们希望它们能尽快替代越来越复杂的任务。
当然还有经济账的问题。人们是更愿意一次性花 5000 美元，让任务完成速度变慢 5 倍，还是更愿意每月付 20 美元来达到同样的效果？
- physicsguy
我觉得它们不会完蛋，不过它们确实会陷入一些麻烦，因为它们全都成了 FOMO 的受害者，背负着巨额债务去建设那些可能根本不需要、或者无法实现预期回报的算力。
我认为未来会出现“个人软件”的概念，即由智能体生成的高度定制化应用，但这并不意味着一切都会变成那样，本地 LLM 也是如此，不过这一切都还为时过早。主要问题是，hyperscalers 或者说整个大科技行业已经变得过于强大，它们可以随心所欲地通过金钱来左右立法进程，抱歉，我是说游说……真有趣，只要换个名字，事情就变成合法或非法了。