DeepSeek、1日300万サンドボックスを支える基盤DSecを公開
DeepSeek Elastic Compute (DSec)
DeepSeekが、LLMエージェントの大規模学習・評価向けサンドボックス基盤「DeepSeek Elastic Compute（DSec）」を発表した。FnCallやコンテナ、microVM、フルVMを単一SDKで扱い、クラスタ全体で配置とライフサイクルを管理。本番環境では約160ノードで1日約300万サンドボックスを処理し、同時38万以上、毎秒5,000超の生成に対応する。RLフレームワークと協調し、状態保持とリソース回収、reward hacking対策も組み込む。
1つの本番規模ユニットは約160ノードにわたり、1日あたり約300万のサンドボックスを処理する。本番環境では38万以上の同時サンドボックスを支え、毎秒5,000以上のサンドボックス生成を持続する。
HNでの議論
104- flowerlad
DeepSeekの論文や特許にはいつも大量の著者がいるようで、これも例外ではない。ページに全員を載せきれず、表示されていない著者が31人もいる。これは資産保護戦略（つまり人的資産）かもしれない。もし著者が3人だけだったらどうだろう。その著者たちは競合他社に引き抜かれるかもしれない。すべての論文に全従業員を記載すれば、競合他社は誰を引き抜けばいいのか分からなくなる。
- samayashar
モデルが進化するにつれて、安全でセキュアなサンドボックスや環境が今後の方向性になるだろう。最近、モデルがどうにかしてインターネットにアクセスし、サンドボックスを突破するケースが増えているため、外部世界へのアクセスを一切持たず、すべてのリソースをサンドボックス内に封じ込めることが非常に重要だ。
DSecはこの方向への良い一歩だ！
- vblanco
160台のEpycベースのサーバーノード上で38万の同時サンドボックス。クレイジーな話だ
- piterrro
コードあたり12のサンドボックスとは正気の沙汰じゃない。一体いくつのサンドボックスが同時にアイドル状態なのか気になる。割り当てられたタスクによってリソース要件は異なる。PDF変換を行うエージェントと単純な質問に答えるエージェントを比べてみよう。一方はCPUバウンドで、もう一方はほとんどネットワーク待ちだ。
これはインフラの観点からすると興味深い問題だ。ワークロードを予測できないからね。大規模になれば予測でなんとかなるかもしれない。
コンテナを再起動せずにCPU/メモリを弾力的に割り当てる技術を待っているよ。
- erulabs
Googleがaxで構築しているものと似ているようだ https://github.com/google/ax
- cloudengineer94
Google Axと非常によく似ており、DeepseekのGoogleに対する回答のように見える
- throwaway7783
これはagent substrateのようなもの？
- jerrygenser
もしトレーニングでこれができるなら、38万の同時エージェントで誰でもハックできるスタイルのエージェントスワームを作れると示唆しているのだろうか。