Strands Decider 2B:专为决策设计的开源小模型

Strands Decider 2B: a small, open-source, decision model

Strands Decider 2B:专为决策设计的开源小模型

我们推出了 Strands Decider 2B,这是一款专为快速决策优化的开源小模型。不同于能生成任意文本的 LLM,它专注于在预设选项中做出判断并输出置信度评分。这种设计牺牲了部分灵活性,却换来了极低的延迟和更高的可靠性,非常适合在本地 CPU 或 GPU 上运行。我们基于 Qwen3.5-2B 架构改造,去除了文本生成头,使其在 JevBench 基准测试中表现优异。无论是工具选择、模型路由还是作为 Agent 的护栏,Strands Decider 2B 都能以毫秒级响应提供精准决策,是构建高效智能体工作流的理想选择。

这种方法的反面是,它解决复杂问题的能力显著弱于推理模型,且由于无法生成文本,不适合编程、聊天机器人或文档摘要等常见的 LLM 任务。
  1. real_faxenoff

    作为一个经常使用各种专用微型模型的老用户,我得说:如果你让这类模型(及其 JEV 对应版本)在 PC 的 CPU 上永久后台运行,你肯定不会满意。你需要把它们的处理任务卸载到 NPU 上。这条路坑不少,但结果绝对值得。

    NPU 的性能能提升两倍,而功耗却降低四倍。再也不用担心额外的风扇噪音(懂的都懂)。

    我会再等一个月,等这类模型的“大逃杀”第一阶段结束,然后整理一套针对 NPU/iGPU 的解决方案,发布到 HF 上。

  2. adenta

    到了这个阶段,我迫不及待想看到有喜剧演员推出一个由真人支撑的决策模型。

    认识一下 Jerry——这玩意儿说白了就是一个叫 Jerry 的真人,在回答你的问题。

  3. mattvr

    为什么大家把二元选择都叫 `noul`?这有什么特殊含义吗,还是单纯在照搬 Jev 的 API?

  4. dev_l1x_be

    通用问题:这个模型到底适合干什么?我用 Laya 做 PDF 分类器时结果参差不齐(Jev 的表现好得多)。

  5. keyle

    写得真棒。我很少能看懂那些 AI 大佬们在讲什么,但这篇显然是人写给人看的。

    从技术上讲,它能用于很多场景,大家有什么想法吗?欢迎聊聊。

同日更多故事

2026-10-07