Cerebras 推出 disaggregated 推理架构
Cerebras Disaggregated Inference

面对 2026 年对 ultrafast tokens 的疯狂需求,我们推出了 disaggregated inference 方案。该架构让 GPUs 专注于 prompt processing(prefill),而 Cerebras 系统则全力负责 output generation(decode)。在生产环境中,这种组合在保持 Cerebras 极速生成能力的同时,将每兆瓦的 token 吞吐量提升了 5 倍。无论是 Cerebras Inference Cloud 还是基础设施合作伙伴,都能利用这一方案在有限的电力预算下,为 Muse、Copilot 等 Agentic 应用提供海量的高速推理服务。
这种组合在每兆瓦的吞吐量上达到了 CS-3 单独配置的 5 倍,且 token 生成速度没有任何损失。