光ファイバーは数十年持つが、GPUは3年で陳腐化する——AIブームはドットコム・ブームではない
Fiber lasts decades, GPUs last three years: the AI boom isn't the dot-com boom [video]
ドットコム時代に敷かれた光ファイバーは何十年も使える資産だったが、AIブームで積み上がるGPUの寿命はわずか3年程度。巨額の設備投資が本当に回収できるのかという議論を軸に、Hacker Newsではモデルが安くなればハイパースケーラーには逆風でNvidiaには追い風だという指摘や、小規模モデルの性能向上とローカル実行の現実的な限界をめぐる意見が交わされた。
モデルの実行が安く済むなら顧客には良い話だが、AIデータセンター構築に注ぎ込まれた巨額投資とハイパースケーラーにとっては問題にならないのだろうか。
HNでの議論
53- ndom91
恥知らずな自己宣伝：最近、AIインフラの構築に伴う財務データの可視化プロジェクト／ページをまとめました。GPUの減価償却スケジュールなどのグラフや更新を追跡しています。
- paxy
- GPUは3年よりずっと長持ちする。
- 工場は3年後に動かなくなるわけではない。GPUを作り続けられる。
- AIブームはGPUだけの話ではない。CPU、RAM、ネットワークやルーティング部品、物理的なデータセンター、発電所、冷却、さらにはファイバー（あなた自身が数十年持つと主張しているもの）に大規模な投資が行われてきた。これらは数年で消えるものではない。
- whynotminot
A100（6年前のGPU）のレンタルに関するデータをどれでもいいから見て、それから50分の時間を節約することをお勧めします。
- cmiles8
古いGPUにも用途はあるが、チップには信頼性の問題がある。24時間365日酷使すると焼き切れてしまうことがわかった。だから、しばらく後に「役に立つ」かどうかではなく、まだ「動く」かどうかが問題だ。
人々は、15年持つと謳っているLED電球が2年で高い確率で故障し始めるようなものだと考えている。
別の話として、より広い論点は方向性としては依然正しい。我々は今日でもドットコムのネットワークインフラ崩壊の時代のファイバーを使い続けており、これからも長く使うだろう。陳腐化のサイクルは信じられないほど長い。電力を供給するデータセンターがないために棚に置かれているGPUの報告が増えているのは、最終的に急速に価値を失う資産を買うために高利の負債が使われていることを考えると、非常に懸念される。財務的には、起こるべくして起こる災害だ。
- deadlast2
AI作業にopencodeを使うか、手頃な価格になればいい。LLM版の知能でアプリケーションを合理的に構築できるほどに。近い将来、知能は無料になり、無料にはビジネスはないと思う。大きな発言だとわかっているが、周りを見渡せば、徐々に強くなっていく無料モデルがすでに大量にある。ほとんどのアプリケーションにはgpt6は必要ない。