Revolut 自托管 GLM，成本降九成
Revolut moves to self-hosted GLM
Revolut 将约 2000 名工程师迁移至自托管的 GLM 模型进行代码开发，同时将 Claude Code 和 Codex 列入例外清单。据 AI 运营负责人 David Abitbol 透露，该方案部署了 56 张 Nvidia B200 显卡，综合成本降至每百万 Token 30 美分，仅为支付给 Anthropic 和 OpenAI 费用的十分之一。这一转变使工程交付周期缩短了 70%。更关键的是，当 Token 不再被严格配额限制后，工程师们不再将 AI 仅用于高难度任务，而是将其应用于所有开发环节。这一案例表明，前沿模型可能成为例外，而开源权重模型将成为默认选择，这对所有准备 IPO 的实验室提出了严峻的定价挑战。
当 Token 不再被配额限制时，工程师们不再将 AI 仅用于高难度任务，而是将其应用于所有开发环节。
HN 评论区
149- littlecranky67
“当代币不再被限量供应时，收益就显现出来了”——我完全能理解这一点。我（作为外部顾问）正在领导一支大型开发团队，服务于一家巨型保险公司。这些开发者大多资历尚浅，或者普遍属于“我之所以成为这家公司的软件工程师，是因为方圆一小时车程内只有这一家大雇主”的类型（意思是：没有明星开发者）。他们中大多数人业余时间不玩 AI，而且被告知要谨慎使用 Claude 代币。现在每个人都太害怕了，不敢在工作时间尝试和探索，生怕因为浪费代币而被指责。
与此同时，他们大部分初级开发工作完全可以由 AI 替代——所以他们真的应该开始学习如何使用它。我建议每个人都订阅一个每月 20 欧元的私人 Claude 账户，用来做玩具项目。团队里有些年轻的开发者（二十出头）告诉我，他们不愿意自掏腰包，或者在个人生活中根本没有 AI 的使用场景。我们要谈的是软件工程师，恕我直言，他们中大多数人都在否认一个事实：如果不转向更有价值的方向，他们的技能基本上已经变得一文不值。
- jacquesm
我们也做了同样的事情，虽然硬件性能没那么强，但效果非常好，而且我们完全不用担心推理服务供应商能否长期安全地托管我们的数据。在我看来，对这个问题的回答绝对是“不能”。
- redmalang
过去几个月，我们约 90% 的工作都交给了开源模型。如果你忽略围绕“便宜”等概念的噪音，可能会发现，只要多花一点精力更精确地定义需求，这些模型不仅通常效果相当，而且往往更能遵循指令——从长远来看，这其实很有帮助。
它们在处理模糊提示时表现较差，比如“修复所有问题”（令我懊恼的是，这实际上是一个非常常见的提示……）。
- gosen
> 据负责 AI 运营的 David Abitbol 介绍：56 台 Nvidia B200，混合成本为每百万代币 0.3 美元，大约是他们支付给 Anthropic 和 OpenAI 费用的十分之一。
所以他们可能在硬件加上月度运营成本（电费、更新、冷却）上投入了约 250 万至 300 万美元。我好奇他们到底花了多少代币费用才决定做出这种切换。我是说，如果他们以前每月仅在代币上就花费 50 万到 100 万美元，那么假设基础设施稳定高效，大概一年左右就能回本。
我们会看到这是中大型企业的趋势，还是仅仅一次实验。
所有这些计算都假设是自建数据中心或类似环境，而不是向云服务商付费，后者可能会更贵。
- world2vec
在本职工作上，我们也通过自家版本的 pi.dev 使用自托管的 GLM-5.3，但各团队仍有权决定是否使用 Claude Code（团队有预算可以自行决定花在哪里）。像我所在的一些团队仍然喜欢用 Claude Code 完成大量工作，但大多数任务并不需要最新最强大的 LLM，只要投入大量代币和算力，用“较弱”的 LLM 也能搞定。
- andy99
这是许多公司眼中“主权”AI 的一种合理形态。在加拿大，我们刚刚出台了一项国家计划，以主权的名义为一种劣质的 AI 产品支付过高费用。即使 GLM 稍逊一筹，这很可能已接近帕累托前沿。
他们还可以考虑在有空闲算力时，将服务放到 openrouter 上，以最大化硬件的使用效率。
- irthomasthomas
https://xxcancel.com/guilleflorvs/status/2117379073785696395
- InsidiousWombat
如果投资者知道开源模型有多强大，AI 公司的估值会在一夜之间崩盘。