캐시와 RAM 간 데이터 전송 단위는 블록(block)입니다. 한 블록은 여러 워드로 구성하며, 블록 크기는 CPU 아키텍처에 따라 다릅니다(32바이트, 64바이트 등). 블록 크기가 64바이트이고 CPU 워드 크기가 4바이트라면 하나의 블록에는 16개의 워드가 포함됩니다.

그림 4-5 CPU, 캐시, RAM 간 데이터 전송 단위

블록 크기는 캐시가 RAM에서 데이터를 가져올 때 얼마나 많은 양의 데이터를 한 번에 가져오는지를 결정합니다. 블록 크기가 크면 한 번에 많은 데이터를 가져올 수 있어 히트율을 높이고 캐시 미스를 줄일 수 있습니다. 하지만 전송 시간이 길어지고 제한된 공간에 불필요하게 많은 데이터가 저장되어 공간 낭비가 발생할 수 있습니다. 반대로 블록 크기가 작으면 전송 시간이 짧아지지만, 히트율이 떨어져 캐시 미스가 자주 발생하고 메모리 접근 횟수가 늘어나 성능이 저하될 수 있습니다.

캐시의 성능은 CPU가 요구하는 데이터 워드의 크기와 RAM으로부터 가져온 데이터 블록의 크기에 영향을 받습니다. 워드 크기와 블록 크기가 적절하게 설정되면 CPU가 필요한 데이터를 캐시에서 더 효율적으로 찾을 수 있습니다.