CPU 캐시가 코드 성능을 좌우하는 5가지 이유
Gallery of Processor Cache Effects
Igor Ostrovsky가 C# 코드 예제로 프로세서 캐시의 동작 원리와 성능 영향을 설명한다. 배열 순회 시 캐시 라인 때문에 16배 적은 작업을 해도 속도가 비슷하고, L1/L2 크기와 연관도(associativity)가 실제 실행 시간을 어떻게 바꾸는지 실험으로 보여준다. 캐시 구조를 이해하면 프로그램 최적화에 큰 도움이 된다.
현대 CPU는 메모리를 바이트 단위로 접근하지 않는다. 대신 일반적으로 64바이트 청크인 캐시 라인 단위로 메모리를 가져온다.