Cerebras 推出 disaggregated 推理架构

Cerebras Disaggregated Inference

Cerebras 推出 disaggregated 推理架构

面对 2026 年对 ultrafast tokens 的疯狂需求,我们推出了 disaggregated inference 方案。该架构让 GPUs 专注于 prompt processing(prefill),而 Cerebras 系统则全力负责 output generation(decode)。在生产环境中,这种组合在保持 Cerebras 极速生成能力的同时,将每兆瓦的 token 吞吐量提升了 5 倍。无论是 Cerebras Inference Cloud 还是基础设施合作伙伴,都能利用这一方案在有限的电力预算下,为 Muse、Copilot 等 Agentic 应用提供海量的高速推理服务。

这种组合在每兆瓦的吞吐量上达到了 CS-3 单独配置的 5 倍,且 token 生成速度没有任何损失。