캐시의 지역성

캐시의 지역성 원리

---

• 캐시 메모리는 속도가 빠른 장치와 느린 장치간의 속도차에 대한 병목현상을 줄이기 위한 범용 메모리이다.
  • 프로세서와 메인 메모리간의 처리 속도를 보완하기 위한 고속 버퍼이다.
• CPU가 어떤 데이터를 원하는지 어느정도 예측 가능해야 한다.
• 캐시의 성능은 작은 용량의 캐시 메모리에 CPU가 참조할, 쓸모있는 정보가 어느 정도 들어 있는가에 따라 성능은 좌우된다.

 

Hit rate를 극대화 시키기 위해 데이터의 지역성의 원리를 적용한다.

지역성의 전제조건으로 프로그램은 모든 코드나 데이터를 균등하게 Access하지 않는다는 특성을 기본으로 한다.

+ cache miss

• Capacity Miss
  • 캐시 메모리가 작아서 발생.
• Compulsory Miss
  • 특정 데이터 접근 시 캐시에 존재하지 않아서 발생.(초기에 발생하는 Miss)
• Confilict Miss
  • 캐시메모리에 A데이터,B데이터를 저장하는데 A와 B가 같은 캐시 메모리 주소에 할당되어서 발생하는 Miss

 

요약하자면, Locality(지역성)은 기억 장치 내의 정보를 균등하게 Access하는 것이 아닌 어느 한 순간에 특정 영역을 집중적으로 참조하는 특성을 가진다.

 

 

• 시간 지역성(Temporal Loclity)
  • 최근에 참조된 주소의 내용은 곧 다시 참조될 가능성이 있는 특성.
  • 반복문
• 공간 지역성(Spatial Locality)
  • 대부분의 실제 프로그램의 참조된 주소와 인접한 주소의 내용이 다시 참조될 가능성이 있는 특성.
  • 명령을 절차적으로 실행 시

 

 

Caching line

---

• 캐시는 프로세서 가까이에 위치하면서 빈번하게 사용되는 데이터를 보관하는 장소이다.
• 하지만 캐시가 가까이 있다고 해서 찾고자 하는 데이터가 어느 곳에 저장되어 있는지 몰라 모든 데이터를 순회해야 한다면 시간적인 비용이 발생하게 된다.
• 캐시의 목적은 데이터가 저장되어 있다면 바로 접근하여 출력할 수 있어야 캐시가 의미 있어 진다.

캐시에 데이터를 저장할 때 특정 자료구조를 사용하여 묶음 형태로 저장하게 된다.

이를 캐싱 라인이라 한다.

프로세스는 다양한 주소에 있는 데이터를 사용하므로 빈번하게 사용하는 데이터의 주소 또한 흩어져 있다.

따라서, 캐시에 저장하는 데이터에는 데이터의 메모리 주소 등을 기록해 둔 태그를 달아놓을 필요가 있다.

이러한 태그들의 묶음을 캐싱 라인이라 하며 메모리로부터 가져올 때도 캐싱 라인을 기준으로 가져온다.

 

캐시의 구조

• Full Associative
  • 직접 매핑의 단점 개선하기 위해 태그 필드를 확장하여 캐시의 어떤 라인과도 무관하게 매핑시키는 방법.
  • 비어 있는 캐시 공간 아무 곳에 저장한다.
  • 원하는 데이터를 찾을 때 set을 모두 확인해야 한다.
  • ※ 캐싱 라인을 묶은 것이 Cache Set이다.
• Set Associative
  • Diret+Fully 방식으로 set을 정해놓고 그 중 비어 있는 곳 아무곳에나 저장한다.
• Direct Map
  • 메모리 주소의 Idexed field를 기준으로 캐시 메모리에 Mapping 한다.
  • 간단하고 빠르지만 Confilict Miss가 발생한다.