Meta Muse Glimmer:30B 本地开源编码模型
Meta Muse Glimmer – open weights 30B local coding model
Meta 正式开源了 Muse Glimmer,这是一款专为本地设备打造的 300 亿参数智能体模型。它能在单张消费级 GPU 上流畅运行,支持本地代码生成、函数调用及多模态任务,无需联网即可使用。通过量化技术和 DFlash 推测解码,Muse Glimmer 在保持高性能的同时显著降低了显存占用并提升了推理速度。该模型在 DeepSearch QA、SWE-Bench 等基准测试中表现优异,并提供了 llama.cpp、MLX 等本地部署优化,让开发者能迅速构建属于自己的本地智能体。
在本地运行模型能让你随时随地使用 AI,无论是否有网络连接。
HN 评论区
636- scrlk
本周 Qwen3.8 27B 发布后,看看它和这款模型的表现对比会很有意思。难道稠密型 30B 模型又回潮了?
编辑:Muse Spark 1.2 的开源权重版本也将发布:
https://x.com/alexandr_wang/status/2086756152034066792
https://xcancel.com/alexandr_wang/status/2086756152034066792
- kyledrake
帖子里暗示你需要 RTX 5090 才能运行它,目前售价约 5000 美元。我可没法把这称为“我的设备”,毕竟我整台电脑的价格才相当于它的 25%。
花同样的钱,你可以在专业版计划上运行前沿模型两年。在我看来,这背后的经济账根本算不过来,所以我很想听听大家为什么非要这么做(是为了隐私、好玩,还是其他原因)。
- mmaunder
还记得以前我们需要 200 台服务器来支撑一个企业网站,因为 Apache 每个连接都要占用一个进程或线程,而 Nginx 一夜之间就把这一切压缩到了单台机器上吗?LLM 的那个时刻即将到来。这将带我们走出 AI 的“大型铁疙瘩”时代,迈向小型便携智能脑。大自然已经证明了这是可行的:仅需 20 瓦功耗且发热极低。我认为数据中心的大规模建设即将迎来惨败。
- GodelNumbering
https://xcancel.com/finkd/status/2086755195535413696
"... 我们很快也会发布 Muse Spark 1.2 的权重,这是我们最新的基础模型..."
这其实是更大的新闻——对自托管爱好者是好事,对 Meta 来说也是战略上明智的一步。任何推动“反华”模型的趋势都将直接利好 Meta,因为在美国开源权重的前沿模型领域,竞争几乎不存在。Meta 毫无问题地稳坐头把交椅。
- mark_l_watson
Meta 在 AI 领域真是风生水起。从上周开始,我就在使用他们优秀的 muse 编码框架配合他们的模型 Muse Spark 1.2。
从今天早上起,我在旧款 32G MacMini 上通过 Ollama(记得增加上下文大小!)和 pi 编码框架运行他们的新本地 30B 模型 muse-glimmer。我在本地运行 muse-glimmer 时效果不错,不过有个前提:一切运行都很慢(比如给它一个任务,然后出去散散步或练练气功等一会儿)。
- andy99
gguf 文件已经上线且可用,我不确定是他们自己还是 unsloth 促成的,但这很棒,因为例如 Inkling 似乎仍然不支持 llama.cpp,这让它对一类用户来说毫无意义。
不幸的是,我对 Qwen 27B 的经验还不够丰富,无法立即进行对比,但我使用的是 Qwen 3.6 35B A3。显然它慢得多,但它在思考方面的效率似乎要高得多,以至于使用它实际上可能更快。我发现 Qwen 和其他一些模型在思考时会反复重述同样的内容却毫无进展,而在 mg 的有限检查中,Muse 的表现要好得多。
- noodleweb
很高兴看到 Meta 重新回到赛场,感觉自 Llama 之后,再也没出现过能与主流开源模型相媲美的作品。
- cmiles8
鉴于基于 API 的 LLM 商业模式看起来前景堪忧,我们似乎正重回 IT 的“桌下服务器”时代。
- polymorph1sm
关于聊天模板设计的一些有趣发现:
1. 模板名称是 Onyx ATEM,这是在工具调用异常消息中发现的。
2. 它似乎遵循 harmony 风格的聊天模板。但工具调用看起来像是 XML 格式:<atem:function_calls> / <atem:invoke> / <atem:parameter>
3. atem:是 Meta 内部的一个反向梗吗?
https://huggingface.co/meta-models/Muse-Glimmer-30B/blob/mai...
- _ache_
这很有趣,但看起来确实是对(Spark 及)更大规模开源权重的精心蒸馏。
与 Qwen3.6 27B 相比,进步不错,但谈不上令人印象深刻,毕竟那是四个月前的模型。(他们选择与 27B 稠密模型而非 35B MoE 模型对比,这点值得称道,这样更公平)。
Qwen3.8 27B 在大多数基准测试中碾压 Glimmer-30B 的可能性非常大。