Laya:33ms 开源决策引擎挑战 Jev

Laya the open source version of Jev

当 TypeSafe AI 推出 Jev 时,我意识到自己早在 2025 年就用强化学习实现了同样的 System 1 决策架构。面对闭源且昂贵的方案,我决定开源 Laya,这是一个基于双向编码器的多语言决策引擎。Laya 在单 GPU 上仅需 33 毫秒即可输出校准后的概率,速度是 Jev 的 7.8 倍,且完全免费。它通过 choice、score 和 noul 三种原语,在邮件分类、反钓鱼和路由等场景下提供零幻觉的精准判断,并内置了支持 100+ 语言的自动路由机制。

并非每个 AI 问题都需要一个自回归聊天机器人。
  1. johnfn

    这是一个老掉牙的故事了——人们就是不明白,营销和品牌的重要性绝不亚于产品本身,甚至可能更重要。Jev 的品牌塑造做得极其出色。任何人看一眼网页,就能瞬间明白它是做什么的,以及它意味着什么。

    OP(楼主)所谓的“营销”,仅仅是 Reddit 上一篇标题为“使用纯强化学习预测对话中的销售转化概率”的帖子。你能明白这是什么意思吗?我看不明白,而自认为技术背景还算不错的我尚且如此。这能让人一眼看出它和 Jev 有同样的意义吗?同样不知道。而且这仅仅是在一个我甚至都不常逛的子版块里发的单条帖子!我看到这条帖子里有人说“Jev 不过是 BERT”。没错,那 Dropbox 也不过是用 curlftpfs 挂载的 ftp 账号罢了!

    我确实觉得作者挺可怜的,发现了一个很酷的东西却无法为其打造品牌。但“产品”的完整定义本身就包括能够清晰地传达它。在某种意义上,品牌塑造和模型本身一样,都是一种“突破”。

  2. prometheus1992

    我觉得大家之前对 Jev 和 Typesafe 的主要抱怨在于他们发布时使用的语言。就我个人而言,起初我觉得那更像是一种恶搞、骗局或 shady 的操作。

    “突破”、“我们的研究走向了另一个方向”、“两年隐身模式”、“系统一思考模型”、“Jev 不会幻觉”、“RLCD”、“我们在做很酷的事情,但你得雇了我们才能告诉你”——这些都是他们在发布博客和网站上说过的话。

    我几年前就用过 BERT 的版本实现了同样的功能。但在我看来,他们似乎用“不会幻觉”之类的说法骗过了风险投资人。

    对于楼上的作者,为你分享工作并开源点赞。像这样的东西,既然已经存在多年,从一开始就不该被封闭起来。

  3. Oras

    昨晚我试了一下 Jev,用它处理了我原本用 Gemini 2.5 flash lite 做的分类任务。

    它确实快一点,也便宜一点,但这是和 LLM 相比。一致性表现不错,但作为一个在 LLM 出现之前就训练过 NLP 模型的人来说,这不过是加了更多数据的 BERT。我能理解为什么人们想要现成的单样本分类器,也能理解在一次调用中发送多个分类器的价值,但我不会称之为“突破”。我相信很多实验室很快就会复现它,并将其作为他们工具集的一部分。

    我认为这对技术社区是一个警钟,提醒我们在大多数任务上回归基础,而不是仅仅依赖通用的 LLM。

  4. dcow

    我能理解作者为什么会感到愤懑,但这在我看来依然显得有点幼稚。当然,Jev 和 Laya 都是基于无数先前的论文和学者的研究。Diogo 决定将这个概念打造成一个产品,而作者没有。发布研究论文和模型权重可能本身就是问题的一部分——这显得太学术了。如果你看看作者的资料,你会发现他专注于将 AI 应用于医疗领域,而不是向那些沉迷于 AI 的公司和开发者兜售通用的 AI 类型安全。这两者之间有很大的区别。至于这好不好,你可以争论一整天。但作者期待别人有不同的做法,这确实有点奇怪。不过,我还是要赞赏他没有在此事上纠结太久,而是尝试做些什么来改变现状。

  5. kamranjon

    看到这一说法真的很有趣,因为我原本以为目前的共识是 Typesafe 实际上只是重新打包了 GLiNER[1] 的工作——这看起来才是更匹配的对象,而且他们的原始论文[2] 比你的早了好几年。好奇你之前是否听说过它?它也是开源的[3],而且我觉得也有一些不错的用途。

    [1] https://arxiv.org/abs/2507.18546

    [2] https://arxiv.org/abs/2311.08526

    [3] https://github.com/fastino-ai/GLiNER2

  6. soerxpso

    Jev 不需要微调。所有声称这项技术早已存在的帖子都忽略了一点:我不想在每次遇到小型路由或分类问题时,都花上一周时间去创建一个数据集(针对一个我可能还没有数据的问题)、微调模型,并搭建运行模型的 infrastructure。能够在几分钟内解决任意分类问题,而不是一周,这是一件大事。

  7. hmokiguess

    我认为 Jev 带来的最大教训是关于沟通和让更广泛的受众理解。有时候,创新很大程度上涉及重复自己,并将自己的想法翻译成目标受众能听懂的语言。

    经典的机器学习在很大程度上,仅仅由于科学的本质,一直隐藏在学术术语之后,很难作为产品让人参与进来。

    Jev 在创造“系统一”模型这一术语方面做得很好,并定义了一个标准的应用程序接口加上核心原语,这些正好契合了当前的软件开发范式。

    我觉得这有点像 Cursor 当年重新发明了自动补全,把它变成了一种不同的 UX,突然间每个人都在用,因为理解它的门槛变得如此低。

    最后,时机就是一切。就像 Cursor 拥有先发优势一样,尽管 ML Ops 已经存在了一段时间,他们还是成功地将这个概念封装在一个“系统一”黑盒中,这符合现有的构建软件和交付数据合约的心智模型,而且时间点选得恰到好处,当时 token 成本已经成为一个重要的监控指标。

  8. wren6991

    我们都见过“这个会议本可以是一封邮件”;现在请准备好迎接“这家 VC 支持的公司本可以是一篇 arXiv 预印本”。

    我不想过于轻视 Jev,但我觉得在能力如此容易被复现的情况下,隐身开发两年根本说不通。这是一个奇怪的时期,进行公共研究的动力和进行私下开发的动力都在被削弱。

同日更多故事

2026-09-19