Jev：比现有模型快200倍的AI新范式
Jev: New frontier model 40-400x cheaper and 20-200x faster
在OpenAI参与构建ChatGPT背后技术后，Diogo Almeida发现对话模型虽强，却难以直接驱动自动化。四年潜心研发，TypeSafe AI推出了全新的System One模型架构及首款产品Jev。Jev放弃了传统的文本生成，转而输出类型安全的结构化决策，彻底杜绝幻觉。相比现有LLM，Jev在保持同等智能水平的同时，速度提升40至200倍，成本降低40至400倍。其独特的RLCD训练方法和并行采样技术，让AI能以毫秒级响应嵌入代码工作流，真正实现从“对话”到“决策”的跨越。
将Jev视为一个前沿智能函数调用：输入非结构化状态，输出类型安全的概率决策。
HN 评论区
324- _davide_
这对我来说有点太过了。在 LLM 出现之前，用机器学习玩 Doom 就已经是个老梗了，决策树也早就存在且快得离谱，但没人真正用过它们。我看不出这里面有什么新东西，可所有人却把它当成一场革命。这项技术一直都在，而且一直很容易获取。
- jacobgold
首先，恭喜团队发布了一个真正有趣且新颖的东西。
不过，更准确的标题应该是“Jev：用快速类型化推理换取通用生成能力”之类的。
这很有趣，但速度对比似乎有点误导？一个能输出图灵完备语言代码的生成模型，理论上能完成计算机能做的任何事。
Jev 只能生成结构化输出，对吧？这可能在分类/路由/评分方面超级有用，但它和我们现在用于代码和自动化的代码生成模型完全不是一个概念。
另外，“不会幻觉”这个说法似乎也不对？当然，它不会输出无效类型，但它完全可以输出一个完全错误但类型有效的值。你也可以通过合适的框架等从 LLM 强制获取结构化输出。
假设没有猫腻，Doom 演示确实很酷。
- latteren
看了 Jev 的示例用例，感觉 Jev 惊人的成本/任务比可能让它作为一种通用的“穷人的排序算法”具有竞争力，这对精益创业公司或任何快节奏的开发组织都很有用。
我需要给 1000 篇文章排序并为用户选出最相关的 5 篇？用 Jev。
我需要审核并剔除内容，因为我的用户受区域隐私法影响（且不能幻觉）？用 Jev。
我需要找出最符合用户幽默感的 3 条搞笑媒体评论？用 Jev。
- cfowles
直到看到他们那个智能家居助手的演示（https://www.loom.com/share/18c4dbcf8db546dfb2d7f2ef018e78e4），我才真正意识到它的价值。
看起来真的很酷。
- futurisold
这个技术结合契约（contracts），能让很多事情变得超级有趣！
对于那些不知道的人（大概除了我以外所有人），我在 2025 年初把设计即契约（Design-by-Contract）模式移植到了 Python 中，并将其与 LLM 结合。我最初在这里写过：https://leoveanu.com/2025-03-01-dbc/
契约自那时起就是 SymbolicAI 的核心功能。社区似乎也很喜欢它（https://news.ycombinator.com/item?id=44399234）。
我觉得我开始看到其中的影响，如果它能经受住 scrutiny，它将改变智能体（agentic）的工作负载。现在下结论还太早，我只能记下一些粗略的想法。
简而言之，你得到了极快的语义分支，可用于控制流。对于契约，我现在可以直接采用你必须设计的数据模型，并将其转换为 Jev 预期的格式。或者我可以用 Jev 在后置条件中进行语义分支。
如果我的理解正确，这应该是可行的，但我需要再想想。也许有了 Jev，我终于可以“编译契约”并将它们更好地链接到工作流中，这是我一直想做但不知道如何正确实现的事情。
迫不及待想测试。已加入等待名单。
- maltalex
这是一个非常有前景的想法——一个模型可以接受任意文本输入（可以是复杂的 json），加上一组问题（是/否、多选或评分），并快速（毫秒级）且廉价（$0.042/MTok）地回答这些问题。
不幸的是，公告中并没有解释这些，但文档 [0] 写得相当不错。
[0]: https://docs.typesafe.ai/concepts/how-to-build-with-system-o...
- mortsnort
我很困惑，为什么他们说这不是一个 LLM，但在文档中却显示它是 LLM 的衍生品。文档给人的感觉是他们拿了一个预训练的 LLM，然后进行了独特的后训练。那为什么不算 LLM 呢？
FAQ：
Jev 只是更小的 LLM 吗？
Jev 既不小也不是 LLM，因此它不在智能帕累托曲线上。
文档中的图片：
https://mintcdn.com/ts-docs/aFVnpmCIX68NpsV1/images/ai-prime...
- big_toast
看起来文档 [0] 是更好的解释？与 LLM token 的对比有点让人困惑。
看起来模型输入的是一个状态（结构化文本？不确定是否多模态）和一个问题（作为“Choice”、“Score”或“Noul”），并可能带有一些额外的增强。然后输出相应的问题答案（例如，一个选择、伴随的概率、置信度）。
编辑：在 AI 入门页面上，看起来他们是在预训练的基础模型上进行的 RLCD？
- lubujackson
在经历了大量对提示词和评估的摸索之后，这正是我在生产环境中使用 LLM 的方式：让模型做狭窄的选择并返回结构化数据。任何确定性工作都被从提示词中剥离出去，我的目标是将模型输出限制得尽可能清晰定义且最小化。
Jev 对结构化 I/O 和置信度分数的关注是颠覆性的。如果它真能做到它所宣称的一切，我认为这将迅速成为智能体系统的新标准方法。
- freshnode
我喜欢。它是什么？