Qwen3.8-Flash-Next: 1/9 학습 비용으로 더 강력한 성능, Qwen4 아키텍처 미리보기
Qwen3.8-Flash-Next: A New Architecture, Towards Ultimate Cost-Efficiency
Qwen 팀이 Qwen4 아키텍처의 초기 프리뷰인 Qwen3.8-Flash-Next의 가중치를 공개했습니다. 이 모델은 Gated DeltaNet(GDN)과 Qwen Sparse Attention(QSA)의 하이브리드 어텐션, 4개 브랜치의 Gated Residual, N-gram Embedding, 그리고 Muon 옵티마이저를 도입했습니다. 125B 파라미터(활성 6B)와 추가 51B N-gram 임베딩으로 구성되며, Qwen3.7-Plus 대비 학습 비용은 약 1/9로 줄었음에도 코딩 및 오피스 작업에서 더 뛰어난 성능을 보여줍니다. 기본 262K 토큰 컨텍스트를 지원하며, YaRN으로 1M 토큰까지 확장 가능합니다. API는 곧 제공될 예정이며, QwenCloud에서 0.16달러/백만 입력 토큰, 0.47달러/백만 출력 토큰에 서비스됩니다.
간단히 말해, GDN은 효율적으로 '기억'하고 QSA는 정확하게 '검색'합니다.
HN 토론
231- lnenad
내 홈랩 스택에 추가하는데, 작은 모델처럼 과하게 생각하지 않았으면 좋겠네. 사실 좀 덜 생각했으면 좋겠어. 잠깐, 사실 더 직접적으로 추론했으면 좋겠어. 그런데 잠깐, 분명 좀 더 나아야 한다고 확신해.
- hedgehog
Ryzen 395 / Strix Halo에서 초기 테스트 결과 생성 속도가 약 22 tokens/s이고 출력 품질이 인상적이야. 3.8 27B보다 더 좋고 빠르며, 35B가 여전히 더 빠르긴 하지만 3.6 35B에서 옮겨갈 만큼 충분히 나아. Unsloth 가중치에는 비전 지원이 포함되어 있지 않지만 직접 다시 추가할 수 있어. 설정 시간을 절약하고 싶은 사람들을 위한 llama.cpp 레시피: https://pastebin.com/fcqsbDTv
- rohansood15
3.8 27B를 그렇게 깔끔하게 이길 줄은 몰랐어. Opus 4.6 Max가 2026년 8월에 5K 맥북에서 30 tok/s로 셀프 호스팅되네. LLM 타임라인이 정말 미쳤어.
- respectattentio
더 이상 미래를 상상할 수 없어. 미국 기업들은 안전하게 플레이하며 모델 출시를 통제하고 있어. 중국 기업들은 그냥 모든 걸 오픈소스로 공개하는 것 같아. 중국은 (몇 년 전부터) 첫날부터 오픈소스화하도록 장려받는 것 같아. 반면 대부분의 미국 기업들은 실시간으로 결정하고 있어. 우리가 상상도 못 한 미래에서 생존하고 더 나아가기 위해 둘 다 필요하다는 게 미친 짓이야.
- andy99
> Qwen3.8-Flash-Next는 125B 파라미터 메인 모델에 추가로 51B N-그램 임베딩을 더하고, 토큰당 6B 파라미터가 활성화됩니다. 아직 이 언급을 못 봤는데. 이것이 실질적인 크기에 어떤 의미인지 궁금하네. 분명 약 176B 파라미터인데, 어떻게 양자화되는 거지? 4비트 양자화가 100GB 미만일 것 같지 않고, 128GB 통합 메모리에서 실행되지 않을 것 같아. 원칙적으로는 지금 메모리 부족이 있더라도 더 많은 메모리를 계산과 맞바꾸는 아이디어는 좋아해.
- simonw
DGX Spark에서 Unsloth의 unsloth/Qwen3.8-Flash-Next-GGUF (UD-IQ1_S)를 사용하여 네 가지 추론 수준(없음, 낮음, 중간, 매우 높음 - 높음과 매우 높음은 서로 별칭인 듯)에서 펠리컨 몇 개를 실행했어: https://tools.simonwillison.net/markdown-svg-renderer#url=ht... Qwen 3.8 27B 것만큼 마음에 드는 결과를 얻지 못해서 놀랐어 https://simonwillison.net/2026/Aug/16/qwen-38-27b/#the-defau... , 아마 양자화 때문일 거야.
- a_humean
llama.cpp 지원이 들어오길 기다리고 있는데, Strix Halo 사용자에게는 큰 일이 될 수 있어. 6B 활성 파라미터는 메모리 대역폭 제약을 완화하는 데 도움이 되지만, 128GB 박스는 적절한 컨텍스트 크기로 Q3/Q4 양자화를 꽤 쉽게 실행할 수 있을 거야. 이미 매우 좋았던 27B보다 Strix 사용자에게는 실제로 더 나을 수도 있어.
- tosh
이건 새로운 아키텍처야 (Qwen 4를 예고하는). > Qwen3.7-Plus 대비 1/9 비용으로 학습하면서 모든 면에서 성능이 뛰어남 https://x.com/Alibaba_Qwen/status/2092591393424515114