zlib의 38줄 수학 증명은 틀렸다 — 그런데 익스플로잇은 왜 불가능할까

Right Code, Wrong Comment: The Pointer Chase Inside Zlib

zlib의 trees.c 945번째 줄에는 pending_buf 오버레이를 막는 Assert가 있지만 릴리스 빌드에서는 공백으로 사라진다. 저자들은 deflate.c에 38줄짜리 증명을 남겼지만, 평균 비트 길이로는 블록 중간 충돌을 막을 수 없다는 허점이 있다. 충돌 시 _dist_code[512] 범위를 벗어난 .rodata 읽기가 발생한다. 그런데도 실제 익스플로잇 입력은 모두 실패했고, Lean 4 증명으로 그 이유를 추적한다.

zlib의 저자들은 이 오버레이에 정당성이 필요하다는 것을 알고 있었기에 deflate.c:465–502에 38줄짜리 수학적 증명을 작성했다.

이 날의 다른 글

2026-11-22