GLM-5.3が自ら推論基盤を構築、10万基の中国製AIチップでNVIDIA並みのコスト効率を実現
GLM Built Its Own Inference Infrastructure
GLM-5.3がInfra Agentとして、10万基超の中国製AIアクセラレータ上に本番推論基盤を構築。1Mトークン文脈やマルチモーダル対応など課題を抱えながら、密なフィードバックループにより2週間でスループットを3倍に向上。NVIDIA GPU並みのコスト効率を達成し、再帰的自己改善の初期事例を示した。
もしこの傾向が続けば、十分な計算資源と時間が与えられたとき、その終着点は完全に自律的に自らの後継を設計・訓練できるシステムである。これは再帰的自己改善（RSI）として知られている。
HNでの議論
246- zicohacks
米国のチップ輸出規制は、実は中国のAIインフラにとって有利に働いているのかもしれない。中国企業は自前のAIチップ開発を加速せざるを得なくなっているからだ
- dada216
10万基を超える中国製AIアクセラレータのクラスタ上に、本番品質の推論サービスをゼロから構築し、完成させた。GLM-5.3-Flashの本番推論はすべてこのシステム上で動いている。
- Havoc
米国と中国のプロバイダーの発表のトーンが収束してきているのは興味深い。
GLMはこれまで、RSIなど将来の開発についての憶測よりも、どちらかといえば技術寄りだった。
あと、あの10万基のアクセラレータが本当に完全に自国製なのかも気になる。リソグラフィ、メモリ、設計など、すべての部品を含めて文字通りエンドツーエンドなら、それはかなりの偉業だ。
- throwa356262
「我々は一連の積極的なメモリ最適化を実装した。それには……」
全体として、産業規模の自動研究を、実際に何をやっているか分かっている人たちがやった、という感じがする。
- KronisLV
次はコンシューマー向けGPUに取り組む番だな。どうせ俺はあのIntel Arc B770を手に入れられないんだから。
- chung8123
何か見落としているのかもしれないが、彼らのサイトに行ってみたらClaudeより高かった。なぜClaudeではなくGLMを選ぶんだ？ 単にプランでより多くのトークンを提供しているだけなのか？
- konart
このインフラがすべてのトラフィックをさばければいいんだが。z.ai経由でglmを使ってみたことがあるが、カタツムリみたいに遅い。
しかも同時に利用制限がかなり厳しいから、多くの場合、一晩中動かしておくことすらできない。それより先に制限に達してしまうからね。
- 9cb14c1ec0
米国ではAIチップに莫大な金が使われているのに、米国のAIラボが同じレベルのソフトウェア最適化をやらないのはなぜか？ 容量制約の一部を解決できるかもしれないのに。