Redis 창시자가 만든 ds4, 284B 파라미터 LLM을 로컬에서 돌리다
From the creator of Redis; run LLM locally with ds4
Redis 창시자 antirez가 공개한 DwarfStar 4(ds4)는 고용량 Mac, CUDA, ROCm 머신에서 DeepSeek V4/V4.1, GLM 5.x, Qwen3.8 Flash Next 같은 대형 오픈 모델을 로컬로 구동하는 C 기반 추론 엔진이다. 라우티드 전문가만 2비트로 압축하는 비대칭 양자화와 SSD로 내보내는 KV 캐시로 128GB 머신에서도 실사용 가능한 속도를 낸다. CLI, OpenAI/Anthropic 호환 API, 네이티브 에이전트를 한 스택에 담아 MIT 라이선스로 공개했다.
압축했지만 뇌를 잘라내지는 않았다. 비대칭 양자화가 라우티드 전문가를 겨냥하면서도 핵심 경로는 정밀하게 보존한다.