Jeeves:让决策模型先思考再回答
Jeeves. Reasoning improves Jev-like decision models

PostHog 推出了 Jeeves,一个基于 Qwen3.5-9B 的决策模型,它最大的创新在于引入了“思考”机制。不同于传统 Jev 模型直接输出概率,Jeeves 在做出判断前会先生成推理链,显著提升了在未见过的数据上的准确率,在 JevBench 测试中表现优异。该项目通过 SFT 和 CISPO 训练,并配备了 diffusion drafter 以加速推理,同时提供兼容 Jev 的 API 和 Python SDK。虽然推理过程增加了延迟,但通过调整 max_think 等参数,用户可以在精度和速度之间灵活权衡,为自动化决策系统提供了新的思路。
Jev 类模型能提供校准过的决策概率,但准确率较低,因此许多流程依赖推理模型作为后备方案。
HN 评论区
94- sharih
如果 p90 延迟是 17 秒,这还有什么意义?直接用 LLM 不就得了。Jev 的美妙之处就在于它极其便宜且快得离谱。
- TN1ck
我刚用一套刚用来测试其他模型的基准跑了一遍(主要是检测德语足球推文中的讽刺意味)。在我的 M5 Pro(48GB 内存)上,仅判定 100 条推文就花了超过 30 分钟,思考阶段确实耗时很长。
它的表现明显低于 Jev,但高于我测试过的其他开源决策模型(正确率 68 对 Jev 的 79——参见 [1])。我也正在用它的 moderation benchmark 跑测试,不过在我的机器上大概得花几个小时。
- thm
Ask Jeeves —— 兜兜转转 30 年,我们终于回到了原点。
- itzikkatz
工程很酷,但 p90 延迟 17 秒基本上就违背了 Jev 类模型的初衷,这类模型本该又快又便宜。顺便在 MMLU 上丢 10 分更是雪上加霜。
- theanonymousone
这让我想起了“本地部署的云服务”。