光纤用几十年,GPU 仅三年:AI 热潮非互联网泡沫
Fiber lasts decades, GPUs last three years: the AI boom isn't the dot-com boom [video]
光纤基础设施能服役数十年,而 GPU 的寿命却只有短短三年。这种硬件迭代速度的巨大差异,揭示了当前 AI 热潮与当年互联网泡沫的本质不同。社区讨论指出,随着开源模型逐渐普及且性能提升,AI 推理成本正在大幅降低,甚至可能在未来变得近乎免费。这对 Hyperscalers 和巨额数据中心的投资回报提出了严峻挑战,同时也让 Nvidia 等硬件厂商成为主要受益者。虽然小模型在本地运行体验日益改善,但前沿模型与消费级硬件之间的性能鸿沟依然存在。这场技术变革的终极赢家,或许取决于视频生成等应用能否真正爆发。
光纤能使用几十年,而 GPU 的寿命只有三年:AI 热潮并非互联网泡沫。
HN 评论区
52- ndom91
厚颜无耻的自我推广:我最近整理了一个关于 AI 基础设施建设的财务数据可视化项目/页面。其中包含图表,并追踪了类似 GPU 折旧时间表之类的更新。
- paxy
- GPU 的使用寿命远不止 3 年。
- 工厂在 3 年后也不会停工。它们可以继续生产 GPU。
- AI 热潮不仅仅关乎 GPU。人们在 CPU、内存、网络与路由组件、实体数据中心、发电厂、冷却系统甚至光纤(你自己都承认光纤能用几十年)上进行了巨额投资。这些设施绝不会在几年内消失。
- whynotminot
我建议你去看看任何关于 A100 租赁价格的数据(那是 6 年前的 GPU),然后就能省下你 50 分钟的时间。
- pcthrowaway
关于 GPU,有一点我觉得没人提到,那就是 LLM 模型本身也在变得更高效率,对吧?随着技术进步,你可以在同样的 GPU 上获得更多 token 或完成更多“工作”。
- cmiles8
旧 GPU 确实有用途,但这些芯片确实存在可靠性问题。事实证明,芯片 24/7 高负荷运行会导致烧毁。所以问题不在于它们未来一段时间是否还有“用处”,而在于它们是否还能正常工作。
大家倾向于认为这就像那些号称能用 15 年的 LED 灯泡,结果用了 2 年后就开始以高频率出现故障。
另外,更广泛的观点在大方向上仍然是正确的。我们至今仍在沿用.com 网络基础设施崩溃时期铺设的光纤,未来很长一段时间也会如此。其淘汰周期极长。越来越多的报告显示,由于缺乏能供电的数据中心,GPU 正堆积在仓库里,考虑到购买这些本质上快速贬值的资产所背负的高息债务,这种情况令人非常担忧。从财务角度看,这简直就是一场等待发生的灾难。