Qwen3.8-Flash-Next：学習コスト1/9で高性能を実現する新アーキテクチャ

Qwen3.8-Flash-Next: A New Architecture, Towards Ultimate Cost-Efficiency

▲ 687tosh231 HNでの議論
Qwen3.8-Flash-Next：学習コスト1/9で高性能を実現する新アーキテクチャ

Qwen（阿里雲）が、Qwen4のアーキテクチャを先取りしたマルチモーダルMoEモデル「Qwen3.8-Flash-Next」の重みを公開。注意機構（GDN+QSA）、残差接続（Gated Residual）、埋め込み（N-gram Embedding）、最適化（Muon）の4点を刷新し、学習コストをQwen3.7-Plusの約1/9に削減しながら、コーディングやオフィス業務で高性能を達成。125Bパラメータ（活性化は6B）に加え、51BのN-gram埋め込みをホストメモリにオフロード可能。ネイティブで262,144トークン、YaRNで100万トークンまで対応する。API版は100万入力トークンあたり0.16ドルで提供予定。

GDNは効率的に「記憶」し、QSAは正確に「検索」する。
原文を読む →HNでの議論RSS

HNでの議論

231
  1. lnenad

    自分のホームラボのスタックに追加してみた。小さなモデルみたいに考えすぎないといいな。いや、むしろもう少し考えないでほしい。いや待って、実はもっと直接的に推論してくれることを本当に祈ってる。でも待って、絶対にもう少し良くなってるはずだ。

  2. hedgehog

    Ryzen 395 / Strix Haloでの初期テストでは、生成速度は約22トークン/秒で、出力品質は印象的だ。3.8 27Bよりも良くて速く、35Bの方がまだ速いとはいえ、3.6 35Bから乗り換える価値があるほど十分に優れている。Unslothのウェイトにはビジョンサポートは含まれていないが、自分で追加し直すことができる。セットアップの時間を節約したい人のためにllama.cppのレシピを共有しておく: https://pastebin.com/fcqsbDTv

  3. rohansood15

    3.8 27Bをこれほどあっさり打ち負かすとは思わなかった。Opus 4.6 Maxは2026年8月に5k Macbook上で30トークン/秒でセルフホストされている。LLMのタイムラインはクレイジーだ。

  4. respectattentio

    もう未来を想像できない。米国の企業は安全策を取ってモデルのリリースをコントロールしている。中国の企業はただ全部オープンソースにするだけ。まるで中国は（何年も前から）初日からオープンソースにすることを奨励されているかのようだ。一方、ほとんどの米国企業はリアルタイムで決断している。私たちが生き残り、想像もしなかった未来をさらに前進するためには、両方が必要なのはクレイジーだ。

  5. andy99

    > Qwen3.8-Flash-Nextは125Bパラメータのメインモデルに、追加で51BのN-gram埋め込みを組み合わせ、トークンあたり6Bパラメータがアクティブになる。

    これについてまだ言及されていないのを見かけなかった。これが実効サイズに何を意味するのか気になる。明らかに約176Bパラメータだが、それはどう量子化されるのか。4ビット量子化で100GB未満はありそうにない。128GBのユニファイドメモリでは実行できないのではないかと疑っている。

    原理的には、メモリを増やして計算を減らすというアイデアは好きだ。たとえ今メモリ不足だとしても。

  6. simonw

    DGX Spark上で、Unslothのunsloth/Qwen3.8-Flash-Next-GGUF (UD-IQ1_S)を使って、4つの異なる推論レベル（none、low、medium、xhigh - どうやらhighとxhighはエイリアスらしい）でいくつかのペリカンを実行した:

    https://tools.simonwillison.net/markdown-svg-renderer#url=ht...

    Qwen 3.8 27Bのもの https://simonwillison.net/2026/Aug/16/qwen-38-27b/#the-defau... ほど気に入ったものが得られなかったのは驚きだ。たぶん量子化のせいだろう。

  7. a_humean

    llama.cppのサポートが来るのを待っているが、これはStrix Haloユーザーにとっては大きな出来事かもしれない。6Bのアクティブパラメータはメモリ帯域幅の制約を助けるが、128GBのマシンならQ3/Q4量子化を適度なコンテキストサイズでかなり簡単に実行できるだろう。これは、すでに非常に良かった27Bよりも、Strixユーザーにとっては実際に良いかもしれない。

  8. tosh

    これは新しいアーキテクチャだ（Qwen 4の前触れ）

    > Qwen3.7-Plusのわずか1/9のコストでトレーニングされ、あらゆる面でそれを上回る

    https://x.com/Alibaba_Qwen/status/2092591393424515114

この日のほかの記事

2026-08-26