CerebrasがGPUと組み合わせ、1メガワットあたり5倍の超高速トークンを実現

Cerebras Disaggregated Inference

CerebrasがGPUと組み合わせ、1メガワットあたり5倍の超高速トークンを実現

Cerebrasは、プロンプト処理(prefill)をAMD Instinct GPUに、応答生成(decode)をCerebrasのウェハスケールエンジンに分担させる「ディスアグリゲーテッド推論」を本番環境で稼働させた。CS-3のみの構成と比べて、トークン生成速度を落とさずに1メガワットあたりのスループットが5倍に向上。2027年末までに数百メガワット規模へ展開し、パートナー向けには参照アーキテクチャとdecode専用SDKも提供する。

ウェハスケールにまで高めたCerebrasは、単一チップ上に数十ギガバイトのSRAMと毎秒数十ペタバイトのメモリ帯域を備えている。これは一般的なGB300 GPUの350倍のSRAM容量、5,400倍のメモリ帯域に相当する。

この日のほかの記事

2026-11-18