DeepSeek stellt DSec vor: 3 Millionen Sandboxes pro Tag für Agenten-Training
DeepSeek Elastic Compute (DSec)
DeepSeek Elastic Compute (DSec) ist eine Produktions-Sandbox-Plattform für das Training und die Evaluierung großer Sprachmodelle. Sie vereint FnCall-, Container-, MicroVM- und Full-VM-Backends in einem einheitlichen SDK, skaliert über einen Cluster mit rund 160 Knoten und erreicht täglich etwa 3 Millionen Sandboxes. In der Produktion werden über 380.000 gleichzeitige Sandboxes und mehr als 5.000 Neuerstellungen pro Sekunde unterstützt. DSec ist mit dem RL-Framework koentworfen, entkoppelt zustandsbehaftete Rollout-Ausführung von preemptiblem GPU-Training und bezieht Images bei Bedarf aus dem verteilten Dateisystem 3FS.
Eine einzelne produktionsnahe Einheit von DSec umfasst rund 160 Knoten, bedient etwa 3 Millionen Sandboxes pro Tag; im Produktivbetrieb unterstützt sie über 380.000 gleichzeitige Sandboxes und hält mehr als 5.000 Sandbox-Erstellungen pro Sekunde aufrecht.