4.3.4 캐시의 성능 관리
지역성을 활용한 계층적 설계, 교체 정책, 주소 매핑 등 다양한 방법을 통해 캐시의 효율성과 성능을 높일 수 있습니다.
• 지역성
캐시의 성능은 CPU가 작업하는 동안 캐시에서 데이터를 얼마나 효율적으로 가져오는지에 따라 달라집니다. 이는 지역성에 크게 영향을 받습니다. 지역성(locality)은 CPU가 메모리의 특정 부분을 집중적으로 사용하는 경향성을 나타냅니다. 지역성은 공간 지역성과 시간 지역성으로 나눌 수 있습니다.
• 공간 지역성(spatial locality): 특정 데이터에 접근하면 그와 인접한 데이터도 접근할 가능성이 높습니다. 예를 들어, 배열은 연속된 데이터에 순차적으로 접근하므로 공간 지역성이 높아집니다.
• 시간 지역성(temporal locality): 한 번 사용한 데이터는 짧은 시간 안에 다시 사용할 가능성이 높습니다. 예를 들어, 반복문에서 같은 변수를 여러 번 참조할 때 시간 지역성이 발생합니다.
캐시를 설계할 때 지역성을 활용하면 데이터를 효율적으로 저장하고, 성능을 크게 향상시킬 수 있습니다. 지역성을 활용한 캐시 성능 관리 방법은 다음과 같습니다.