5个Qwen3.8-27B模型击败Fable 5
Memdoor: A team of 5 Qwen3.8-27B models beats Fable 5 on LiveCodeBench Hard
Memdoor 团队利用 5 个 Qwen3.8-27B 模型组成的多智能体协作系统,在 LiveCodeBench Hard 测试中取得了 9.8 的惊人平均分,成功超越了 Fable 5 的 8.0 分。这个由 planner、ideator、solver 等角色构成的自动化工作流,完全通过文件交互,无需人工干预。实验复现了 GVS5H 的方法,证明了多智能体协作在解决复杂编程问题上的巨大潜力。整个过程由 shell 脚本判定结果,而非模型自评,确保了测试的客观性。
一个 shell 脚本判定成功,而不是模型。
HN 评论区
107- vrinsd
可能稍微有点跑题,但有没有什么好的资源或网站能清楚说明哪些“开源”模型适合编程任务,比如 C、C++、Python、Java?
我查过,有很多聚合模型与基准测试的网站,但我不确定其中有多少是可信的。
- fedpost
我们迫切需要让本地模型在与超大规模云厂商的竞争中保持竞争力。我不想永远受制于他们及其随心所欲的政策。鉴于 Anthropic 现在限制游戏逆向工程,我认为我们正即将跨越一条审查制度的卢比孔河。
- roenxi
这挺有意思的,因为配合 Bonsai 2 量化,在价格合理的游戏机上让 Qwen 27B 以 50 t/s 的速度运行是完全可行的 [0]。这反过来也意味着,通过一些巧妙的封装,Fable 5 的编程性能也可以在本地实现。
当然,同样的封装技术也应该能提升 Fable 本身的性能。这里的关键在于,本地性能的上限看起来可能相当高。
[0] https://store.steampowered.com/hwsurvey/Steam-Hardware-Softw... 建议配置为 16GB 显存,32GB 系统内存。
- yurimo
暴力方法的力量确实值得一说。目前,扩展多智能体系统似乎正在成为下一个重要的发展方向,尽管它受到通信协议质量和计算能力非常强的限制。即使单个模型不够强大,更多的模型、更多的尝试以及不同的观点,也可能将模型引导至更优的解空间。
这有点像一种效果的延伸:当你与模型对话时,它超级自信(但错了),你没有直接纠正它,而是通过提问让它澄清。这反过来又导致了整体更好的解决方案。
- xlayn
还记得那些将 GPU 变成芯片的技术吗 https://inference-docs.cerebras.ai/models/qwen-3.8-27b,那种芯片能实现以极高速率运行的模型……也就是人们常问“我们为什么需要那个”的那种……如果这是真的……那么只需一颗配上正确封装的芯片,就能让地球上每一台电脑都拥有 Fable 级别的智能……
万圣节快乐,Tax Ramltman 和 Amowhateverwayyournameiswritten……