El creador de Redis lanza ds4 para ejecutar LLMs localmente
From the creator of Redis; run LLM locally with ds4

DwarfStar 4 (ds4) es un motor de inferencia en C creado por el autor de Redis, diseñado para ejecutar modelos abiertos de frontera como DeepSeek V4/V4.1, GLM 5.x y Qwen3.8 en máquinas Mac, CUDA y ROCm de alta memoria. Usa cuantización asimétrica de 2 bits para comprimir expertos enrutados y conservar rutas críticas, con caché KV en disco. Ofrece CLI, API local y agente nativo, y es compatible con Codex, Claude Code y OpenCode.
No es un ejecutor GGUF genérico. ds4 sigue un conjunto pequeño y oportunista de familias de modelos y valida cada diseño soportado de principio a fin.
- neomantra
Mantengo un fork de ds4 como bibliotecas compartidas y, por lo tanto, se puede usar con otros lenguajes vía FFI, junto con builds/binarios públicos [1]. Hice ds4go [2] contra ds4 usando técnicas inspiradas en yzma.
Además de los bindings de la biblioteca, tenemos una pequeña biblioteca de herramientas (workspace para ver/editar, scratchpad para persistencia) y hacer la tuya propia es registrar una función Go. Y en las últimas semanas, añadí el soporte de Vision y Qwen, a medida que ds4 los añadía.
Incluso si no usas la biblioteca Go, el binario ds4go hace que sea realmente fácil descargar las bibliotecas de HuggingFace con una TUI disponible vía Homebrew.
Aquí van unas capturas de pantalla de la TUI de juguete, lo siento, todavía no he publicado ese código; es de calidad diferente a los demás. [3]
EDIT: añadir gist con captura de pantalla de la TUI de ds4go [4]
[1] https://github.com/NimbleMarkets/ds4/releases/tag/v0.8.20260...
[2] https://github.com/nimblemarkets/ds4go#install
[3] https://gist.github.com/neomantra/ae47422c8daf7a458212c93992...
[4] https://gist.github.com/neomantra/40180ade13df93290250ce8c6d...
- twoodfin
https://github.com/antirez/ds4
La página de GitHub del proyecto es una introducción mucho mejor para el público de hn.
- simoiacos
Nada comparable, pero inspirado en DwarfStar escribí un pequeño motor de inferencia para portátiles Intel Xe-LP (sin XMX) de 32GB. El único modelo soportado ahora mismo es un Gemma-4 cuantizado, pero no descarto en el futuro soportar otros MoE de tamaño similar. Lástima que todavía no tengamos un Qwen 3.8 35B-A3B.
También estoy investigando expandir el protocolo y el motor para soportar varias técnicas de steering.
- ttoinou
He estado usando esto desde que se lanzó inicialmente con deepseek v4 flash, y es absolutamente el mejor launcher que he probado en mi m5 max de 128gb
Ahora llevo más de una semana ejecutando qwen 3.8 flash next y va genial, realmente rápido y con ventanas de contexto súper largas. A veces el modelo se comporta de forma estúpida al no recordar algo que dije antes, pero también podría ser un problema del harness de IA agéntica. Estoy usando oh my pi, pero me pregunto qué está usando la gente aquí con ds4.
- gchamonlive
pequeño motor de inferencia nativo optimizado primero para DeepSeek V4 Flash (incluyendo el modelo de visión experimental), DeepSeek V4.1 Flash (Metal, e inferencia de texto en CUDA), y además GLM 5.2 y 5.3, GLM 5.3 Flash y DeepSeek V4 PRO, y Qwen3.8 Flash Next (Metal y CUDA)
Esto es local, apuntando a hardware de consumo de gama alta como DGX Spark o AMD Ryzen AI Halo.
Para nosotros, meros mortales que hace no mucho éramos niños y que no podemos creernos que tengamos en nuestras manos una serie x090 apuntando a Qwen3.8 27b, https://github.com/noonghunna/club-3090 es el camino a seguir.
Mantengo un frontend web para esto, intentándolo al menos. Puedes seguirlo aquí: https://github.com/gchamon/club-3090-server