Strata ejecuta Qwen3.8-Flash-Next de 125B en un PC gamer con 12 GB de VRAM
Run Qwen 3.8 Flash Next (125B) on consumer hardware (RTX 4090) at 100T/s
Strata es un motor de inferencia de código abierto que permite ejecutar el modelo Qwen3.8-Flash-Next de 125 mil millones de parámetros en hardware de consumo, como una RTX 5070 de 12 GB. Ofrece instalación con un clic en Windows y Linux, una API compatible con OpenAI y Anthropic en localhost, y entrada opcional de imágenes. Alcanza hasta 94 tokens por segundo en respuestas y más de 2,600 tokens por segundo leyendo prompts, manteniendo todo el procesamiento en el equipo del usuario.
Strata hace que el modelo quepa compartiendo el trabajo entre todo tu PC. Piensa en una cocina: las cosas que usas todo el tiempo se quedan en la encimera y el resto espera en la despensa.