Kev:基于Qwen3.5的轻量决策模型
Kev: Tiny Jev-like family of decision models built on top of Qwen3.5
Jared Palmer推出了Kev,一个基于Qwen3.5构建的轻量级决策模型家族,提供0.8B、4B和9B三种参数规模。这些模型专为处理Yes/No判断、多选项选择和评分任务而设计,支持在本地CUDA或Apple Silicon设备上运行。Kev的API完全兼容TypeSafe的System One,开发者可直接使用Python SDK进行集成。无论是客服工单分类还是棋局评估,Kev都能高效处理,且通过LoRA技术实现了高效的微调与部署。
获取概率而不是单一标签的意义在于,它能让你看到模型对每个选项的置信度分布。
HN 评论区
199- nico
如果你只需要分类功能,并且能提供一些训练数据,可以请 Codex 或 Claude 帮你构建一个 embeddings + 逻辑回归分类器模型。
对于邮件处理,我用这个方法仅用 50-100 个训练样本就达到了 95% 的准确率。
模型训练在 CPU 上耗时不到 5 分钟。
生成的模型体积小于 1MB,推理耗时低于 100 毫秒。
这种方法的几个其他亮点:
* 模型不是基于某种“理想”或通用的分类进行训练,而是学习你的个人偏好。
* 模型几乎可以在任何移动设备上运行,并支持在设备端在线重新训练。
* 隐私方面,整个训练和推理过程 100% 本地化,数据不会外流(除了你在构建模型时喂给 Codex/Claude 的数据)。
注:为了进行更通用的测试,我针对 Banking77 数据集做了一个分类器。模型体积小于 10MB,在 CPU 上训练不到 30 秒,准确率达到 94.5%,这使其在该数据集上准确率排名前五(最好的模型准确率为 94.86%,但体积高达 350MB,且需要在 GPU 上训练数小时)。
- prodigycorp
天啊,我已经对所有的 jev 讨论感到疲惫不堪了。
jev 的唯一优势在于有一家专注的公司,全心全意致力于把产品做好并持续维护。我不愿跳上所有这些 jev 类项目的船,因为它们的发布感觉主要是由投机心理驱动的。我宁愿等一等,让投机者洗牌,看看谁真正致力于给开源权重社区带来有价值的东西。
jev 比传统机器学习圈给它的赞誉要好得多,但每当涉及到他们的数据政策时,我的热情就撞上了墙。那完全是独裁式的。无论你喂给系统什么,他们都会保留。
jev 团队必须发布一个 ZDR 产品,否则他们的平台生来就是死路一条。一个开放的、jev 形态的模型将仅凭这一点就能胜出。
- oscarfr
找到了这个关于 Jev 类模型的基准测试:https://benchmarkheaven.com/jev-models
里面已经有不少 Jev 类模型了。
编辑:无关联。只是发现了这个,觉得其他人可能也会感兴趣。
- hbarka
如果 Jev 根本上是使用 RLCD 训练的,而你是基于使用 RLHF 训练的 Qwen 模型构建的,那么结果模型怎么能被视为 Jev 类呢?
- monkeydust
看来 Jev 正在爆发。是因为它把我们带回了那个我们更熟悉的简单时代吗?分类模型已经存在一段时间了。
- nullbio
我认为这类模型的一个绝佳应用场景是:当它们拥有大上下文窗口,并能强制执行前端开发的样式规则以及 React 的组件创建规则时。这样你就可以抛弃样式指南和样式技能,转而创建一个用于执行样式的决策树,从而避免风格漂移或重复问题。这正是我目前浪费最多时间的地方,不断修正每个新功能带来的所有 UX/UI 问题。
- aetherspawn
希望这些模型能变得足够小且足够好,从而为游戏创造出类似“宠物”的 AI。你知道的,比如对着 NPC 大喊“跟着我”,STT 栈将其翻译并输入到本地的 Jev 类模型中,然后由模型决定 NPC 要做的一系列动作。
- mugul
人们对制作开源 Jev 类模型所投入的热情令人印象深刻。
我理解这股热潮,但我想知道:这类模型的用例是什么?它能用于编码代理(coding agents)的语境中吗,还是说它更适用于完全不同的场景?