캐시는 어떻게 동작할까? — 하드웨어로 구현된 해시 테이블

A concrete explanation of how a cache works

CPU는 빠르지만 메모리는 느려서, 시스템 성능을 끌어올리기 위해 캐시가 사용됩니다. 캐시는 CPU 칩 안에 있는 작고 빠른 메모리로, 자주 쓰는 데이터를 저장해 두었다가 CPU가 필요로 할 때 빠르게 제공합니다. 이 글은 캐시의 기본 원리부터 시작해, 지역성(locality) 원리, 캐시 히트/미스, 캐시 구성 방식(직접 매핑, 완전 연관, 세트 연관), 태그 매칭, 태그 오버헤드, 쓰기 정책, 소프트웨어 재구성까지 구체적인 예시와 그림을 통해 설명합니다. 특히 캐시를 '하드웨어로 구현된 해시 테이블'로 비유하며, 주소의 일부를 인덱스로, 일부를 태그로 사용하는 방식을 상세히 다룹니다.