Qwen3.8-Flash-Next:架构革新,成本骤降

Qwen3.8-Flash-Next: A New Architecture, Towards Ultimate Cost-Efficiency

Qwen3.8-Flash-Next:架构革新,成本骤降

Qwen3.8-Flash-Next 正式发布,作为 Qwen4 架构的早期预览,它通过 Gated DeltaNet 与 Qwen Sparse Attention 的混合设计,在保持 125B 参数规模的同时,仅激活 6B 参数。该模型在训练成本上相比 Qwen3.7-Plus 降低了约 9 倍,却在编程和办公任务中展现出更强的能力。原生支持 262K 上下文,并可扩展至 100 万 token。从 Gated Residual 到 N-gram Embedding,四大维度的升级让其在 DeepSWE 和 CoWorkBench 等基准测试中表现优异,真正实现了向极致成本效率的迈进。

GDN 高效地“记住”历史,而 QSA 则精准地“检索”信息。
  1. lnenad

    准备把它加到我的 homelab 堆栈里,希望它别像那个小模型那样想得太多。其实,我更希望它少想一点。等等,我其实真心祈祷它能更直接地进行推理。不过话说回来,我相当确定它肯定会强那么一点点。

  2. simonw

    我在 DGX Spark 上用 Unsloth 的 unsloth/Qwen3.8-Flash-Next-GGUF (UD-IQ1_S) 跑了四个不同推理级别(none, low, medium, xhigh——看来 high 和 xhigh 是别名)的 pelicans 测试:

    https://tools.simonwillison.net/markdown-svg-renderer#url=ht...

    挺惊讶的,没找到一个像 Qwen 3.8 27B 那么让我满意的版本 https://simonwillison.net/2026/Aug/16/qwen-38-27b/#the-defau... ,可能是因为量化导致的。

  3. rohansood15

    没想到它能这么干净利落地超越 3.8 27B。

    Opus 4.6 Max 在 2026 年 8 月于 5k Macbook 上自托管,速度 30 tok/s。大模型的演进时间线简直疯狂。

  4. andy99

    > Qwen3.8-Flash-Next 拥有一个 125B 参数的主模型,辅以额外的 51B N-gram 嵌入,每个 token 激活 6B 参数。

    这点还没人提过。我好奇这对有效参数量意味着什么。显然总参数量约为 176B,但这该怎么量化呢?4-bit 量化后不到 100GB 似乎不太可能,我怀疑它跑不了 128GB 统一内存。

    原则上我挺喜欢这种用更多内存换取算力的思路,哪怕现在内存还比较紧缺。

  5. schopra909

    有人能解释一下 en-gram 这个想法背后的直觉吗?我知道 DeepSeek 几个月前发过一篇相关论文,Gemma 模型也有个轻量版;但我还没完全搞明白。

  6. tosh

    这是个新架构(预示着 Qwen 4 的到来)

    > 训练成本仅为 Qwen3.7-Plus 的 1/9,却在各方面全面超越它

    https://x.com/Alibaba_Qwen/status/2092591393424515114

  7. a_humean

    正在等 llama.cpp 的支持落地,但这对于 Strix Halo 用户来说可能是个大新闻。

    6B 激活参数有助于缓解内存带宽限制,但 128GB 的机器应该能相当轻松地运行 Q3/Q4 量化版本,并支持不错的上下文长度。这对 Strix 用户来说可能比 27B 更好,毕竟 27B 已经非常优秀了。

  8. pram

    Unsloth Desktop 里已经有了。看起来是 73GB,所以 128GB 的 Mac 或 Strix Halo 之类的设备都能跑。太令人兴奋了!

同日更多故事

2026-08-26