d-Matrix、DRAMの上に演算を積むRaptorでHBMの壁を突破
D-Matrix Raptor 3D-DRAM Accelerator for Generative Inference at Hot Chips 2026
d-MatrixがHot Chips 2026で発表したRaptorは、TSMC N4のロジックダイを3D DRAMの上に36µmのface-to-face接合で積層する推論アクセラレータだ。HBM4の帯域上限約20TB/sに対し、3D IOは0.3〜0.4pJ/bitと約10倍低消費電力。1カード32GB、72カードのラックでKimi K3級のフロンティアモデルを1Mコンテキストで収容し、毎秒約1,000トークン/ユーザーを狙う。
もし3D DRAMがメモリ帯域のギャップを埋めるなら、AIシステムにおいてアクセラレータベンダーが容量と帯域をどう天秤にかけるかという構図そのものが変わる。