OpenJev：在浏览器里跑本地决策模型
OpenJev 让你无需后端，直接在浏览器中运行本地决策模型。你可以选择 Qwen3、MiniCPM5 等不同规模的模型，在本地 GPU 上对比两种决策方式：一种是直接读取模型对选项的概率 logits，另一种是让模型以 JSON 形式逐 token 生成概率分布。整个过程完全在本地进行，数据不离开页面，模型权重来自 Hugging Face 并缓存在浏览器中。无论是 MiniCPM5 2B 还是 Qwen3.5 4B，你都能亲自测试不同模型在 TypeSafe 等指标上的表现，感受本地推理的真实延迟与能力边界。
直接读取模型的选择 logits 并仅在你提供的选项上进行归一化，而不是解码。
HN 评论区
286- mmastrac
如果你想尝试一个靠谱的 Jev 实现（至少在我的评测中表现一致），vLLM 有一个补丁可以将 DiffusionGemma 转换为 Jev。
在我的 DGX Spark 上，延迟数值非常接近，评测结果也基本吻合（每项测试分差在几分以内，DG 赢一些，Jev 赢一些，两者在出错时都表现出低置信度）。
顺便提一句，我用同样的评测跑过 Qwen36，它明显输给了这两者，所以如果你用更小的模型，就会在知识和直觉推理两方面都吃亏。
- prodigycorp
这些一次性用 vibe coding 生成的网站总是让人视觉上非常难受。到处都是无尽的杂乱、毫无意义的填充文本，完全无视实际可用性。
- corysama
你可能也会对去年开源的 jev 架构感兴趣，包含模型、论文和数据集：
https://news.ycombinator.com/item?id=49736660
https://www.reddit.com/r/LocalLLaMA/comments/1wjieap/made_th...
论文：https://arxiv.org/abs/2503.23303 https://arxiv.org/abs/2510.01237
模型：https://huggingface.co/DeepMostInnovations/sales-conversion-...
数据集：https://huggingface.co/datasets/DeepMostInnovations/saas-sal...
- wuhhh
我不明白这和 oai 的“结构化输出”（以及当时 Sonnet ~3.7 上类似的范式）有什么区别，大家早就转向其他方案了。他们在 GitHub 上写道：
“Jev 是 TypeSafe 的闭源服务，用于运行时定义的语义决策。本项目用开源模型复现了该接口模式；并未复现 Jev 未公开的模型或训练过程。”
正如其他人指出的，这其实并不是真正的 Jev……有人能给我解释一下吗？
- brap
有人能给我解释一下这个 Jev 是什么吗？
我们一直有 LLM 的输出 schema，而且小型语言分类器也已经存在几十年了，那新在哪里？难道只是在质量和速度之间找到了一个甜蜜点吗？
- kul_
是我一个人觉得 LLM 生成的网站让人反感，还是大家也有同感？
- lucfranken
Jev 是一种截然不同的方法，你必须明确自己想要什么，以及有哪些选项可用。看到这些功能如何演变成对用户真正有用的特性，真的很有趣。
另外，这个例子中基于发布而快速推出新内容的速度简直令人难以置信。
- aatd86
有人拿它和 gliner 2.5 做过对比吗？
https://fastino.ai/blog/gliner2-5-span-free-information-extr...