Cloudflare, 1.1.1.1 DNS 캐시 최적화로 메모리 100TB 절약
Saving 100 terabytes of memory by optimizing 1.1.1.1's DNS cache

Cloudflare가 1.1.1.1 DNS 캐시의 메모리 사용량을 50% 이상 줄여 약 100TB의 메모리를 절약했습니다. 이는 2500억 개 이상의 캐시 항목을 저장하는 Big Pineapple 플랫폼에서, 항목당 1바이트만 줄여도 250GB 이상의 메모리를 절약할 수 있는 규모입니다. 다섯 가지 최적화(Vec를 Box로 교체, 리스트 통합, 소유자 생략, enum 박싱, 와이어 포맷 저장)를 통해 메모리뿐 아니라 성능도 개선되어, 삽입 처리량은 43% 증가하고 조회 지연 시간은 19% 감소했습니다.
이 규모에서 항목당 1바이트를 낭비하면 전체 플릿에서 250GB 이상의 메모리가 낭비됩니다.