CLM-8B：决策速度提升9倍的新模型
Contrastive Language Models
我们推出了 Contrastive Language Models（CLMs），这是一种专为快速决策设计的 System One 模型。CLM-8B 在计算机操作、游戏和工具调用任务中表现与 Jev 相当，但延迟降低了9倍。通过解耦状态与动作的嵌入并独立缓存，我们实现了极致的推理效率。在 DeepSWE 和 Terminal Bench 2.1 等 Agent 基准测试中，CLM-8B 经轻量微调后达到了新的 SOTA。该模型采用三阶段训练策略，结合 InfoNCE 损失和 Hard Negatives，确立了可扩展的 Scaling Laws，为高效可靠的智能体验证开辟了新方向。
CLM-8B 在计算机使用、游戏和工具调用任务中的表现与 Jev 相当，同时实现了高达9倍的延迟降低。
HN 评论区
55- vessenes
>CLM-8B 还在具有挑战性的代理式编程基准测试中取得了新的 SOTA，包括 DeepSWE（81.6%）和 Terminal Bench 2.1（87.6%）。
我在公告页面上没看到关于这些数据的任何细节。而且我不相信。Astra x-high 在 DeepSWE 上的 pass@1 是 74% +/- 3%。（https://deepswe.datacurve.ai）。
话虽如此，很高兴看到这些新架构能激发人们的探索热情。但肯定有人在那些数据上搞错了。
- khalic
这项技术非常酷，但看在 Gaia 的份上，别再叫它 system one 了，连 Kahneman 都说过（S1/2）这只是理解大脑内部运作的一个框架。根本没有什么所谓的自主系统。
- amluto
我对这个东西以及它解释 Jev 的方式非常着迷。这很酷，但它实际上是一个分类器吗？
据我理解（IIUC），他们拿了一个已经训练好的“冻结”LLM，并在其之上训练了一个小模型，该模型同时接收问题和处理输入数据后的隐藏状态，然后输出答案“概率”。（相比之下，原始 LLM 会以 AR 模式运行，生成多个代表答案的输出 token。）但他们将其用于一个实际上并非分类的用途。
在我看来，“这封邮件是垃圾邮件吗”和“在这个代理任务中我应该输入哪个字符”之间存在相当大的差异。前者是分类：希望存在一个真实标签（邮件是否为垃圾邮件？），模型试图对邮件进行分类。你会用适当的评分规则来评估它。后者是一种策略：通常现在或未来都没有“正确答案”。模型在玩一个由多轮组成的游戏，评估它的唯一方法是看它玩得怎么样。你甚至无法有效地将其与最优解进行比较，因为你可能不知道最优解是什么，而且你实际上也不需要模型产生最优解。
我认为这种方法真的很酷，它确实表明人们或许可以利用现代 LLM 处理输入，然后以非常快速、非 AR 的方式提取模型的下一个代理步骤，其结果与通常的 AR 解码相当好。我认为去分析这……