JevBench:52 个决策模型的终极排名
Show HN: JevBench, a reproducible benchmark for typed decision models
Benchmark Heaven 发布了 JevBench v1.3.0,这是专为 Jev 类决策模型打造的基准测试,对 52 个系统进行了严格评估。测试涵盖 534 个决策场景,其中包含 220 个高难度任务,从德国服务器逐一运行。评分体系综合了 Intelligence(智能)、Calibration(校准)、Speed(速度)和 Cost(成本)四大维度,各占 25% 权重。结果显示,TypeSafe AI 的 Jev 1.13.0 以 74.4 分领跑,而开源项目 SemIf 和 djev 紧随其后。值得注意的是,部分大型模型如 DeepSeek V4.1 Flash 虽在智能项得分极高,但因成本过高导致总分受限。该榜单不仅揭示了当前决策模型的优劣,还强调了在智能与成本之间寻找平衡的重要性。
JevBench 是 Benchmark Heaven 专门为 Jev 类决策模型打造的基准测试,输入状态和有限规则,输出带类型的决策答案。
HN 评论区
36- hbrn
4000 万美元融资,两年隐身开发。
表现与 SemIf 持平,而 SemIf 是几天内建成的,据称使用的是原始 Qwen 模型,未经过微调。SemIf 甚至能在你的浏览器里运行。哦对了,Jev 的价格还贵了一倍?
Jev 一直觉得自己是 Qwen,这让人惊讶吗?
我几乎可以肯定 Jev 是个骗局。拿个 Qwen,微调一下,告诉投资人花了 1000 万,再花 100 万打广告,然后躺赚。
- dmix
你可以通过它们是否将提示词或类似 commit 的注释直接写进界面本身,来识别那些靠“氛围”(vibecoded)做出来的网站,而不是通过视觉语境来传达(或者干脆省略)。
> 可按任意列排序;运行无法生成的数值永远排在最后。悬停在成本上查看定价依据,悬停在延迟上查看端点信息。名称链接到各项目。
设计师绝不会这么写,但 LLM 会直接把它塞进去,作为界面旁边的一行小灰字,就像它处理那些废话代码注释一样。
- MisterMunchkin
笑死,这恰恰证明 Jev 是在拿钱硬推。没人会为了好玩而这么说话。
- sean_pedersen
不错的项目,但这个也存在:https://huggingface.co/spaces/multimodalart/jev-decision-ind... 而且结果看起来对不上,模型集也不一样……可能还需要时间成熟。
- faangguyindia
能麻烦把我们的模型也加进基准测试吗?