Hit Time

CPU가 캐시에 접근하여 원하는 데이터를 찾을 때 소요되는 시간을 의미합니다.

Hit Time이 짧을수록 CPU가 데이터를 더 빠르게 처리할 수 있습니다.

Hit Rate

CPU가 캐시에 접근하여 원하는 데이터를 찾은 비율을 의미합니다.

Hit Time은 캐시의 효율성을 측정하는 지표

Hit Rate는 캐시의 정확성을 측정하는 지표

예를 들어, 캐시의 Hit Time이 10ns이고 Hit Rate가 95%인 경우, 

CPU는 캐시에 접근하여 원하는 데이터를 찾는 데 평균 10ns가 소요되고, 

5%의 경우에는 캐시에 원하는 데이터가 없기 때문에 메모리에서 데이터를 읽어야 합니다.

아! L1캐시가 Hit Time이 높은 이유는 결국 L1캐시의 크기가 작아서 캐시를 탐색하는데 시간이 적어서 Hit Time이 높다고 표현한것이군요!

그렇다면 L2캐시는 Hit Time이 매우 낮겠어요,

결국 Hit Time은 탐색 시간이라고 이해해도 좋습니까?

네, 맞습니다. L1 캐시가 Hit Time이 높은 이유는 결국 L1 캐시의 크기가 작아서 캐시를 탐색하는데 시간이 적어서 Hit Time이 높다고 표현한 것입니다.