LFM2.5-24B-A2B：端侧智能体新标杆
LFM2.5-24B-A2B: Built for Fast On-Device Agents
Liquid AI 发布了 LFM2.5-24B-A2B，这是 LFM2.5 系列中最大的模型，专为快速、私密的端侧智能体打造。该模型拥有 240 亿参数，但每 token 仅激活 20 亿参数，在 Apple M5 Max 上推理速度高达 184 tokens/s，比同类 MoE 模型快 1.7 倍。在 AutomationBench 等五个智能体基准测试中，其表现优于参数量多 50% 的 Qwen3.6-35B-A3B。模型支持 llama.cpp、MLX 和 vLLM 等主流框架，可在本地硬件上运行 Hermes Agent 等工具，实现完全离线的交互式智能体任务。
由于只有 2B 参数在每个 token 上激活，它在端侧运行速度比可比的 MoE 模型快 1.7 倍。
HN 评论区
44- sebmellen
> 它在端侧上的运行速度比同类 MoE 模型快高达 1.7 倍，在 Apple M5 Max 上达到 184 tokens/s，在单张 NVIDIA B300 GPU 上更是高达 21K tokens/s
哇，考虑到这个模型表现出的智能程度，这些数字确实令人印象深刻！
不过这篇文章没讲清楚的一点，也是我觉得自己真该去查一下的，就是 AutomationBench 具体测的是什么，和其他基准测试相比有何不同。它在 AutomationBench 上的突出表现确实很有意思，但我不知道这到底意味着什么，因为该模型在其他所有基准测试中的得分似乎都和其他本地模型差不多。
- ghotli
有没有人知道像这样的发布，在硬件和能源消耗的实际成本量级上大概是多少？
指的是从开始训练到结束整个过程的总成本。既然是基于前代模型的迭代，那就是从那里开始，在发生支出后变成这个发布版本，我推测是这样。
比如，Liquid 在这个案例中是否花费了数百万美元的能源成本，而成本是分摊在初始数据中心投入后的多次训练运行中的？或者它只是消耗云成本，没有专用硬件，诸如此类。我指的并不特指这个模型或 Liquid 公司。只是想知道，对于这类小型、快速、端侧运行的模型，实际训练成本的量级大概是多少？
也许把问题简化为单次训练运行有点短视，因为这可能是多次测试变体的最终结果，所以必须把所有 R&D 训练运行都算进去，才能说明最终发布的成本。我觉得这点应该被考虑进去。如果有人知道，不胜感激！
- MatthiasPortzel
非常酷。因为我的 RAM 有限，我一直用的是 Gemma 4 12B。这个模型已经有 Unsloth 的量化版本了，所以我正在下载，明天早上再测试它的性能。这个帖子里还有其他人推荐了 Ternary-Bonsai-27B，我也会试试。
另外想提一下，这个模型的许可证里有一条可疑的、难以执行的非商业使用条款。真希望他们咨询过知识产权律师，这条款太让人困惑了。
- 2001zhaozhao
这好像挺重要的吧？
如果 Qwen 发布了一个类似大小的 Qwen3.8 MoE 模型，粗略外推的话，它的能力应该和这个模型差不多。所以基本上，有人在参数效率上追上了 Qwen（虽然是 1-2 个月前的 Qwen）。
- blinkingled
我让它实现 ghostty 代码库中最简单的一个 TODO，结果它搞砸了——一直在绕圈子，修好一个编译错误又引入另一个。Qwen 3.8 虽然慢一些（40 tok/s 对比 75 tok/s），但还是做出来了。