Hot Chips 2026で注目：HBFはSSDをCPUパッケージに載せる新技術、AIワークロードへの応用を検証

Hot Chips 2026: Applying High Bandwidth Flash (HBF)

Hot Chips 2026のチュートリアルで、High Bandwidth Flash（HBF）の可能性が議論された。HBFはSSDと同じフラッシュメモリをHBMのような形でパッケージに搭載し、大容量とそこそこの帯域幅を提供する。ただし、DRAMのように使えるわけではなく、大規模なアラインアクセスが必要で、ソフトウェアがSSDコントローラの役割を担う必要がある。vLLMではMoEエキスパートやKVキャッシュをHBFに置く戦略が検討され、コスト面では帯域幅に余裕のあるワークロードでのメリットが示された。しかし、ソフトウェアの変更は大きく、既存のSSDストリーミングと比べて利点は限定的かもしれない。