Hot Chips 2026：HBF 能否拯救 DRAM 短缺？
Hot Chips 2026: Applying High Bandwidth Flash (HBF)
Hot Chips 2026 上提出的 High Bandwidth Flash（HBF）技术，试图将 SSD 的闪存以类似 HBM 的形态封装在计算芯片旁，提供远超 HBM 的容量。但这并非即插即用的内存扩展，软件必须像操作块存储设备一样，通过 DMA 以大块对齐的方式读写数据，甚至需自行管理磨损均衡。演讲者探讨了在 vLLM 中将 MoE 专家或 KV cache 存入 HBF 的潜力，以及利用其大容量减少跨设备通信的策略。然而，HBF 仅在非带宽受限场景下具备成本优势，且软件适配难度极大，甚至可能不如直接流式传输 SSD 数据来得简单。这究竟是 DRAM 短缺的解药，还是过于复杂的死胡同？
利用 HBF 所需的努力，似乎与直接通过 SSD 流式传输模型权重以减少 DRAM 使用量所需的努力相差无几。