同样的H100，时租差价竟达4.57倍
The same H100 costs $2.69 or $12.29 an hour depending where you rent it
同一款H100 SXM 80GB显卡，在不同平台租用价格差异巨大。在RunPod Community，时租仅需2.69美元，而在Azure上则高达12.29美元，两者相差4.57倍。这意味着连续运行一个月，成本从1964美元飙升至8972美元。这种价差并非单纯的利润差异，而是服务内容的取舍：Azure提供InfiniBand高速互联和数据中心SLA保障，适合大规模多节点训练；而RunPod Community则是由第三方主机出租硬件，适合单节点微调等轻量场景。文章通过对比AWS、Azure及新兴云服务商的按需价格，揭示了在相同芯片下，不同租用渠道背后的真实成本结构与服务边界。
一块GPU连续运行一个月，成本是1964美元还是8972美元，完全取决于你在哪里租用它。
HN 评论区
84- plantain
如果你敢在 Runpod community 或 Vast 上运行任何有价值的负载，那你完全是疯了。这些托管商绝对在窥探你的虚拟机内部（你可以在他们的 Discord 上公开看到相关讨论）。
- noodlesUK
有一点大家很少提到：根据你所在的地区、云额度使用情况等因素，实际上很难拿到超大规模云厂商（hyperscalers）宣传的那些 GPU。
在 Azure 上，即使你有额度（哪怕是像 MSFT for startups 这样的项目提供的数十万美元额度），你也无法在任何地区获得任何 GPU 配额，哪怕你苦苦哀求客服代表也无济于事。就算你有现金，往往也很难抢到那些便宜的卡。至于竞价实例（spot instances）之类的就别想了，因为所有地区的容量基本都爆满到 100%。
我听说其他超大规模云厂商的情况也很棘手。
这对除了生成式 AI 推理/训练之外的任何应用来说都令人极度沮丧。如果你有一些需要 GPU 的传统负载（传统机器学习、其他类型的建模等），那你就彻底没戏了（SOL）。
- buredoranna
现在市面上出现了几个新指数。
[1] "Silicon Index"。基于价格观测数据构建，包括挂牌价和交易数据。
[2] "Ornn Compute Price Index (OCPI)"。声称仅使用已成交的交易数据。
效果因人而异，但我发现这些新指数相当有说服力。
[1] https://www.silicondata.com/products/silicon-index
没错，关键不仅在于这些资源本身的价格，还在于人们愿意为它们支付多少。
（编辑：格式化）
- uneekname
> 同一款芯片，最便宜和最贵的差价竟达 4.57 倍
> 这 4.57 倍差价不包括
> - InfiniBand
> - 数据中心 SLA
> - 企业级合规、承诺容量等...
行吧。
- hypendev
天哪，我最近训练自己的 1B 模型时就遭遇了这种事。
Runpod - 大体还行，不过偶尔在较小的实例上会被踢掉。H100 的价格主要在 3.20 左右浮动。确实有更便宜的，但那是 PCIe 版本的。说实话，它是这里面开发者体验（DX）最好的（准确说是代理体验 AX，因为是我的代理在处理）。最终我没在上面跑 1B 模型的训练，但跑了 1 亿+次和一些小型实验。非常适合代理探索、“RSI”、小型训练循环和研究。
Vast.ai - 同样的 H100 价格稍贵，而且没有集群。所以我顶多能把负载拆分到 2-3 个不同的 H100 上，还得花时间同步。不值得。
Akash - 因为我试图把预算控制在合理范围内，就决定试试 Akash，结果它是所有选项里体验最差的。显卡显示“可用”，但永远不响应你的请求。尝试通过 Discord 联系支持后，我收到了几十个假冒支持账号的添加，把我拉进诈骗 Discord 并索要我的钱包密钥。支持团队过了一阵子才回复，但没有给出任何实质性的答案。
Mithril.ai - 最终用了这个。虽然看起来像个初创公司，但实际提供的服务不错，上手很容易，而且提供的 H100 价格相当便宜，支持单机和集群。
说实话，虽然 Skypilot 很棒，但市场的碎片化状况让类似 openrouter 的算力提供商有了可乘之机。