DeepSeek-V4 Latent Reasoning - Self-contained model with latent-space thinking
Show HN: DeepSeek-V4 Latent Reasoning – moving "thinking" into latent space
DeepSeek-V4 Latent Reasoning은 잠재 공간에서 사고를 수행하는 완전한 모델로, NVFP4 양자화와 vLLM 기반 서빙 런타임을 포함합니다. 이 모델은 기존의 어댑터 방식과 달리 모든 가중치가 하나의 저장소에 포함되어 있어 즉시 사용 가능하며, BIG-Bench Hard에서 0.880의 높은 성능을 기록했습니다. 특히 다단계 상태 추적 작업에서 뛰어난 능력을 보여주며, 학습된 정지 헤드가 콘텐츠에 따라 사고 깊이를 조절합니다. Hugging Face에서 모델을 다운로드하고 제공된 스크립트로 간편하게 서빙을 시작할 수 있습니다.
이번 에디션의 핵심은 패키징입니다. 이제는 어댑터가 아닌 완전한 모델로, 모든 가중치가 하나의 저장소에 담겨 있어 즉시 서빙할 수 있습니다.