캐시 교체 기법 오버헤드 분석 및 구역 사상 교체 기법 = Overhead Analyses of Cache Replacement Policies and Region Mapping Replacement Policy

국문 초록 (Abstract)

장치 간에 성능 차이를 보완하기 위하여 캐시가 사용되며, 이를 위한 여러 캐시 교체 기법들이 연구되었다. 이러한 캐시 교체 기법들은 메모리 및 실행 오버헤드를 가지고 있지만, 기법들을 평가할 때 캐시 히트율이 사용되고 교체 기법의 오버헤드는 주목받지 못했다. 최근 컴퓨터 시스템의 캐시 크기는 지속적으로 증가하고 있으며, 이에 따라 오버헤드 역시 커지고 있다. 이러한 추세에 따라 본 논문은 교체 기법의 히트율과 함께 오버헤드에도 주목하여 캐시 교체 기법 평가에 새로운 관점을 제공하는 것을 목표로 한다. 본 논문에서는 먼저 LRU, CLOCK, 2Q, ARC, 그리고 RAND 교체 기법의 메모리 및 실행 오버헤드를 분석한다. 그리고 메모리 및 실행 오버헤드가 작은 구역 사상(RM) 기법을 제시한다. 또한 핫/콜드 데이터를 다르게 취급하는 RM2 기법도 제시한다. 분석 및 실제 시스템에서 측정한 실험 결과에 따르면 RM과 RM2 기법은 오버헤드가 크게 작을 뿐 아니라 최신 기법들과 대등한 성능을 보인다. 또한 메모리 오버헤드가 작은 기법은 주어진 캐시 크기에 더 많은 데이터를 캐싱하여 전체적인 데이터 접근 시간을 감소시킨다.

다국어 초록 (Multilingual Abstract)

Cache has been widely used to improve performance in systems with fast and slow devices. Various cache replacement policies have been studied, but these policies often come with computation and memory overheads. Unfortunately, many studies do not consider these overheads seriously and instead evaluate cache replacement policies based solely on cache hit rate. However, in modern computer systems, cache sizes are constantly increasing, making these overheads more significant. In order to provide a more comprehensive evaluation of cache replacement policies, we aim to consider both overheads and hit rates. In this study, we analyze the memory and computational overheads of popular cache replacement policies such as LRU, CLOCK, 2Q, ARC, and RAND. Additionally, we propose the Region Mapping (RM) policy, which has low memory and computational overheads. Furthermore, we introduce the RM2 policy, which improves hit rates by separating hot and cold data. Our experimental results show that the hit rates of the RM and RM2 policies are competitive with state-of-the-art policies. Moreover, policies with low memory overheads can reduce overall data access time by caching more data within a given cache size.