거의 모든 데이터 전송과 통신 시간은 실행 지연 시간(통신 비용)에 포함되며, 통신 비용은 시스템 성능을 저해하는 가장 큰 요인이다. 캐시의 목적은 이러한 통신 비용을 줄이는 것이다. 지연 시간을 우리에게 익숙한 단위로 환산하여(이를 확장된 지연 시간이라 한다) 캐시가 지연 시간에 미치는 영향을 알아보자.
|
시스템 이벤트 |
실제 지연 시간 |
확장된 지연 시간 |
|
1 CPU 사이클 |
0.4ns |
1초 |
|
L1 캐시 접근 |
0.9ns |
2초 |
|
L2 캐시 접근 |
2.8ns |
7초 |
|
L3 캐시 접근 |
28ns |
1분 |
|
주 메모리 접근 |
~100ns |
4분 |
|
고속 SSD 입출력 |
< 10µs |
7시간 |
|
SSD 입출력 |
50~150µs |
1.5~4일 |
|
HDD 입출력 |
1~10ms |
1~9개월 |
|
네트워크 요청 (샌프란시스코 - 뉴욕) |
65ms |
5년 |