68,266개 실제 요청으로 검증한 결과: LRU는 논문이 말하는 것보다 훨씬 강력했다

LRU is harder to beat than the KV-cache papers suggest

393개의 실제 Claude Code 세션에서 68,266개 요청을 재생해 KV 캐시 정책을 실험한 결과, LRU를 세 가지 방식으로 능가하려던 시도가 모두 실패했다. 재계산의 33.1%는 10초 이내의 툴 호출 루프에서 발생했고, 5분 TTL은 한 번도 발동하지 않았다. 진짜 병목은 세션 유휴가 아니라 88k 토큰 작업 세트를 수용하지 못하는 캐시 용량이었다.