OpenAI 即将吃掉 Jev 的午餐
OpenAI is about to eat Jev's lunch – Arcturus Labs
TypeSafe 推出的 Jev 模型凭借即时校准决策能力迅速走红，但 OpenAI 可能很快跟进。作者认为 Jev 本质是将 LLM 用作通用分类器，而 OpenAI 早已在 Tool Calling 等场景中隐式使用类似机制。若 TypeSafe 缺乏数据护城河，OpenAI 不仅能复制 Jev，还能将分类能力内嵌到现有模型中，实现更智能、高效的推理。关键在于 Jev 的准确性和训练数据的独特性是否能构成真正的壁垒。
OpenAI 多年来一直将 LLM 用作隐式分类器，只是尚未将其训练为通用分类任务，也未将其打包成独立产品。
HN 评论区
178- orbital-decay
每家大型 AI 公司都已经拥有大量内部分类器，有大有小，有通用型也有专用型。有些用于推理流程（例如安全护栏），有些用于数据准备、训练、分析和调查、研究，以及各种一次性或中间任务等。将它们作为公共 API 提供并不总是符合商业逻辑。我觉得这波炒作没什么实质内容，看起来像是刚接触这些领域的人突然发现分类器的存在，意识到它们在分类任务上更高效，而且许多通常用生成式模型完成的任务本质上就是伪装成分类的任务。这其实没什么不好，能带来全新的视角是很棒的。
- prodigycorp
这篇文章读起来极其费劲。它陷入了对 OpenAI 和诸如工具调用（tool calling）等概念的狂热幻想，而这些概念只有在 LLM 经过微调以做出相对选择时才相关，但这适用于所有 LLM。此外，文中还引用了一些真正过时的资料。这篇文章难道是 LLM 写的？
另外，关于护城河的讨论是最低级的讨论形式。我不在乎 Jev 有没有护城河。它把接口做对了吗？我们过去忽略了哪些其他想法，如果给点关注，会不会像 Jev 一样把门踢开？
真是些愚蠢的东西……明明连城堡都没有，人们却想讨论护城河。谈论护城河只是制造出一种参与其中的错觉，但更多时候，这种参与是空洞的。
- andy12_
我觉得这不太可能。OpenAI 正全力投入基于强化学习（RL）训练具备推理能力的模型，而 Jev 这类模型则完全相反。它们的设计初衷就是完全不进行推理，以确保速度。如果你想在此基础上增加推理能力，那还不如直接用传统的 LLM，因为一旦输出自回归 token，你就失去了价格和速度的优势。我认为 OpenAI 甚至不会费心去做这个。
> 我的主要假设是 Jev 使用的东西非常接近传统的大型语言模型。作为证据，Latent Space 报道说许多早期的克隆版本确实基于 LLM。
但这并不能证明 Jev 的情况也是如此。它可能会使用非因果文本编码器来处理状态，考虑到其极高的性价比，这样做是合理的。
- rdevsrex
Jev 有一个好处，就是它不是 OpenAI，因此它窃取你自己作品的可能性可能更小。
- prometheus1992
OpenAI 为什么要跟随 Jev？我真的觉得这是 Jev 花钱买的流量。Jev 自己很快连买午餐的钱都没有了，因为市面上有几十种免费的替代方案，可以在普通的消费级硬件上本地运行。抛开糟糕的实用性不谈，Jev 根本没有任何合理的商业前景。
- bmk44
Jev 就是 AI 界的 Htmx。
- dmix
关于'Jev'是什么的背景信息：https://news.ycombinator.com/item?id=49717558
- abroszka33
如果 OpenAI 发布了类似 Jev 的东西，那无异于承认失败。他们的整个叙事都是关于通用人工智能（AGI）和末日般的危险。一个家里已经拥有 AGI 的人，为什么要制造像 Jev 这样注定要被 AGI 取代的软件的一部分呢？