Qwen3.8-Flash-Next: una nueva arquitectura que reduce el costo de entrenamiento a una novena parte
Qwen3.8-Flash-Next: A New Architecture, Towards Ultimate Cost-Efficiency
Qwen3.8-Flash-Next, un modelo MoE multimodal de 125B parámetros (6B activos) con 51B adicionales de N-gram Embedding, presenta una arquitectura híbrida GDN + QSA que logra una aceleración de hasta 7.6x en Prefill y 4.9x en Decode con contexto de 1M tokens. Además, introduce Gated Residual y N-gram Embedding para mejorar la capacidad y estabilidad. El entrenamiento cuesta aproximadamente 1/9 comparado con Qwen3.7-Plus, y supera a Claude-Opus-4.6 en tareas de codificación y oficina. Los pesos están disponibles en Hugging Face y ModelScope, y la versión de producción Qwen3.8-Flash se ofrece a 0.16 USD por millón de tokens de entrada.
En resumen: GDN "recuerda" eficientemente, mientras que QSA "recupera" con precisión.
- lnenad
Añadiéndolo a mi stack de homelab, espero que no piense de más como el modelo pequeño. En realidad, espero que piense un poco menos. Espera, en realidad rezo para que razone un poco más directamente. Pero espera, estoy seguro de que debe ser un poco mejor.
- hedgehog
En pruebas iniciales en Ryzen 395 / Strix Halo genera unos 22 tokens/s y la calidad de salida es impresionante. Mejor y más rápido que 3.8 27B, y lo suficientemente mejor como para justificar dejar 3.6 35B aunque 35B sigue siendo más rápido. Los pesos de Unsloth no vienen con soporte de visión, pero puedes añadirlo tú mismo. Receta de llama.cpp por si alguien más quiere ahorrar tiempo en la configuración: https://pastebin.com/fcqsbDTv
- rohansood15
No esperaba que superara a 3.8 27B tan limpiamente. Opus 4.6 Max autoalojado a 30 tok/s en un Macbook de 5k en agosto de 2026. Las líneas de tiempo de las LLM son una locura.
- respectattentio
Ya no puedo imaginar el futuro. Las empresas estadounidenses juegan a lo seguro y controlan los lanzamientos de modelos. Las empresas chinas son como que abren todo el código fuente. Es como si los chinos estuvieran incentivados a abrir el código desde el primer día (hace años). Mientras que la mayoría de las empresas estadounidenses deciden en tiempo real. Es una locura que necesitemos a ambos para sobrevivir y avanzar más en el futuro que nunca hemos imaginado.
- andy99
> Qwen3.8-Flash-Next presenta un modelo principal de 125B parámetros, complementado con 51B adicionales de embeddings N-gram, con 6B parámetros activados por token. No vi que esto se mencionara todavía. Me pregunto qué significa para el tamaño efectivo. Evidentemente es ~176B parámetros, pero ¿cómo se cuantiza eso? Una cuantización de 4 bits por debajo de 100GB parece improbable, sospecho que esto no correrá en 128GB de memoria unificada. En principio me gusta la idea de intercambiar más memoria por cómputo, aunque haya escasez de memoria ahora mismo.
- simonw
Ejecuté algunos pelícanos en los cuatro niveles de razonamiento (ninguno, bajo, medio, xhigh - aparentemente high y xhigh son alias entre sí) en un DGX Spark usando unsloth/Qwen3.8-Flash-Next-GGUF (UD-IQ1_S) de Unsloth: https://tools.simonwillison.net/markdown-svg-renderer#url=ht... Me sorprende no haber obtenido uno que me gustara tanto como el de Qwen 3.8 27B https://simonwillison.net/2026/Aug/16/qwen-38-27b/#the-defau... , quizás por la cuantización.
- a_humean
Esperando que llegue el soporte de llama.cpp, pero esto podría ser un gran avance para los usuarios de Strix Halo. 6B de parámetros activos ayuda con las limitaciones de ancho de banda de memoria, pero una caja de 128GB probablemente pueda ejecutar las cuantizaciones Q3/Q4 con bastante facilidad y un tamaño de contexto decente. Esto podría ser incluso mejor para los usuarios de strix que 27B, que ya era muy bueno.
- tosh
Esta es una nueva arquitectura (presagiando qwen 4) > entrenado con solo 1/9 del costo de Qwen3.7-Plus, mientras lo supera en todos los aspectos https://x.com/Alibaba_Qwen/status/2092591393424515114