DFlash 2: 병렬 드래프팅의 한계를 넘어, 검증 패스당 20% 더 많은 토큰 생성

DFlash 2: Keep Drafting Parallel

Inco AI가 추론 스택의 병목을 해결하기 위해 DFlash 2를 공개했습니다. DFlash 2는 병렬 드래프팅을 한 단계 더 발전시켜, 검증 패스당 출력을 20% 이상 늘리고 주기 지연 시간은 약 1%만 추가합니다. 이는 경량 경로 선택기와 컨볼루션 모듈을 통해 달성되며, 출력은 증명 가능하게 변경되지 않습니다. 벤치마크에서 16-25%의 이득을 보이며, Qwen3.8-27B 드래프터와 함께 SGLang에서 배치 크기 1일 때 자동회귀 디코딩 대비 2.7-3.4배의 처리량을 제공합니다. DFlash 2는 SGLang, vLLM, TensorRT-LLM, llama.cpp 등 주요 추론 엔진에서 이미 실행 가능합니다.