Mac Studio에서 Qwen3.5-122B를 매일 쓰게 만든 버그 3개 수정

Fixed three bugs that made Qwen3.5-122B a daily driver on Mac Studio

Mac Studio에서 Qwen3.5-122B를 매일 쓰게 만든 버그 3개 수정

M3 Ultra Mac Studio에서 122B 모델을 로컬로 실행하려던 저자는 antirez/ds4에서 Qwen 3.5 122B로 전환한 후, 매 턴마다 전체 컨텍스트를 재처리하는 문제를 발견했습니다. 원인은 하이브리드 어텐션 아키텍처와 디스크 캐시의 세 가지 버그였습니다: 시스템 프롬프트의 타임스탬프, 인터럽트 시 응답 누락, 그리고 체크포인트 저장소의 정크 데이터. 이를 수정한 qMLX 포크는 130k 토큰 컨텍스트에서도 서브초 응답을 달성했으며, 캐시 사용 시 프리필 시간이 32k 토큰에서 88초에서 0.64초로 137배 빨라졌습니다.

디스크 복원은 여기서 폴백이 아니라 전체 캐시입니다.

이 날의 다른 글

2026-07-12