Redisの生みの親が放つds4、284Bモデルをローカルで動かす
From the creator of Redis; run LLM locally with ds4
Redis作者のantirez氏が公開したDwarfStar 4（ds4）は、高メモリMacやCUDA、ROCmマシン向けのC製推論エンジン。DeepSeek V4/V4.1 Flash、GLM 5.x、Qwen3.8 Flash Nextに対応し、非対称2bit量子化でルーティングされたエキスパートを圧縮。CLI、HTTP API、ネイティブエージェントを1つのスタックで提供し、MITライセンスで公開されている。
汎用のGGUFランナーではない。ds4は少数のモデルファミリーを日和見的に追い、サポートする各レイアウトをエンドツーエンドで検証する。