DeepX 新芯片:5 瓦功耗跑 1000 亿参数
DeepX claims inference up to 100B parameters at less than 5 W
韩国初创公司 DeepX 完成了第二代 AI 加速器 DX-M2 的流片,这款芯片与 Samsung 合作,集成了 LPDDR5x-PIM 内存技术。DX-M2 能在仅 5 瓦的功耗下,支持高达 1000 亿参数的模型推理,特别适合无人机和机器人等边缘设备。相比前代 DX-M1,其内存带宽提升至 150 GB/s,NPU 能效翻倍,并采用 2-nm 工艺。通过卸载 GEMV 运算到内存中,在 Llama3.1-8B 模型上可实现 6.7 倍的吞吐提升。DeepX 正积极拓展市场,从 AI PC 到自动驾驶,甚至与 Intel 和 AMD 合作构建生态,目标是让复杂 AI 模型在终端设备上本地运行,大幅降低对数据中心的依赖。
DeepX 创始人 Lokwon Kim 表示:“如果我们在设备上部署高达 1000 亿参数的模型,可以将 AI 数据中心流量减少 80% 以上。”