Qwen3.8-Flash-Next: Neue Architektur senkt Trainingskosten auf ein Neuntel
Qwen3.8-Flash-Next: A New Architecture, Towards Ultimate Cost-Efficiency
Qwen3.8-Flash-Next ist ein multimodales MoE-Modell mit 125B Parametern (6B aktiv), das als Vorschau auf die Qwen4-Architektur dient. Es kombiniert Gated DeltaNet mit Qwen Sparse Attention (QSA), Gated Residual, N-gram Embedding und den Muon-Optimierer. Dadurch sinkt der Trainingsaufwand auf etwa ein Neuntel im Vergleich zu Qwen3.7-Plus, bei überlegener Leistung in Coding- und Office-Aufgaben. Das Modell unterstützt nativ 262.144 Token Kontext, erweiterbar auf 1M mit YaRN. Die Gewichte sind auf Hugging Face und ModelScope verfügbar; die Produktionsversion Qwen3.8-Flash kostet 0,16 USD pro Million Input-Tokens.
Einfach ausgedrückt: GDN „erinnert“ effizient, während QSA präzise „abruft“.
- lnenad
Ich füge das meinem Homelab-Stack hinzu, hoffentlich denkt es nicht so viel nach wie das kleine Modell. Eigentlich hoffe ich, dass es etwas weniger denkt. Moment, eigentlich bete ich wirklich darum, dass es etwas direkter denkt. Aber warte, ich bin mir wirklich sicher, dass es ein bisschen besser sein muss.
- hedgehog
In ersten Tests auf Ryzen 395 / Strix Halo erzeugt es etwa 22 Token/s und die Ausgabequalität ist beeindruckend. Besser und schneller als 3.8 27B, und gut genug, um den Wechsel von 3.6 35B zu rechtfertigen, auch wenn 35B immer noch schneller ist. Die Unsloth-Gewichte kommen ohne Vision-Unterstützung, aber du kannst das selbst wieder hinzufügen. Hier ist das llama.cpp-Rezept, falls jemand anderes etwas Zeit bei der Einrichtung sparen möchte: https://pastebin.com/fcqsbDTv
- rohansood15
Ich hätte nicht erwartet, dass es 3.8 27B so klar schlägt. Opus 4.6 Max selbst gehostet mit 30 tok/s auf einem 5k Macbook im August 2026. Die LLM-Zeitpläne sind verrückt.
- respectattentio
Ich kann mir die Zukunft nicht mehr vorstellen. US-Unternehmen spielen auf Nummer sicher und kontrollieren Modellveröffentlichungen. Chinesische Unternehmen veröffentlichen einfach alles als Open Source. Es ist, als wären Chinesen von Anfang an (vor Jahren) dazu angereizt worden, Open Source zu sein. Während die meisten US-Unternehmen in Echtzeit entscheiden. Es ist verrückt, dass wir beide brauchen, um in der Zukunft, die wir uns nie vorgestellt haben, zu überleben und weiter voranzukommen.
- andy99
> Qwen3.8-Flash-Next verfügt über ein Hauptmodell mit 125B Parametern, ergänzt durch zusätzliche 51B N-Gramm-Einbettungen, mit 6B Parametern, die pro Token aktiviert werden. Das habe ich noch nicht erwähnt gesehen. Ich frage mich, was das für die effektive Größe bedeutet. Es sind offensichtlich ~176B Parameter, aber wie wird das quantisiert? Eine 4-Bit-Quantisierung unter 100GB scheint unwahrscheinlich, ich vermute, dass das nicht in 128GB Unified Memory laufen wird. Grundsätzlich mag ich die Idee, mehr Speicher gegen Rechenleistung einzutauschen, auch wenn es gerade einen Speichermangel gibt.
- simonw
Ich habe ein paar Pelikane auf den vier verschiedenen Reasoning-Stufen (none, low, medium, xhigh – anscheinend sind high und xhigh Aliase voneinander) auf einem DGX Spark mit Unsloths unsloth/Qwen3.8-Flash-Next-GGUF (UD-IQ1_S) laufen lassen: https://tools.simonwillison.net/markdown-svg-renderer#url=ht... Ich bin überrascht, dass ich keins bekommen habe, das mir so gut gefällt wie das Qwen 3.8 27B https://simonwillison.net/2026/Aug/16/qwen-38-27b/#the-defau... , vielleicht wegen der Quantisierung.
- a_humean
Ich warte auf llama.cpp-Unterstützung, aber das könnte für Strix-Halo-Nutzer eine große Sache sein. 6B aktive Parameter helfen bei den Speicherbandbreiten-Beschränkungen, aber eine 128GB-Box kann die Q3/Q4-Quantisierungen wahrscheinlich ziemlich einfach mit einer anständigen Kontextgröße ausführen. Das könnte für Strix-Nutzer tatsächlich besser sein als 27B, das schon sehr gut war.
- tosh
Das ist eine neue Architektur (Vorbote von Qwen 4) > trainiert zu nur 1/9 der Kosten von Qwen3.7-Plus, während es es in allen Bereichen übertrifft https://x.com/Alibaba_Qwen/status/2092591393424515114