DNN 모델 추론을 위한 Lookup Table 기반 PIM의 가능성 = Potential of LUT-based PIM for DNNs

국문 초록 (Abstract)

Processing-in-memory (PIM)은 데이터가 저장된 메모리 근처에서의 연산을 통해 데이터를 더 가까운 곳에서 연산할 수 있게 하는 가속기이다. 데이터 이동에 특화된 PIM의 특성상 최근 주목받고 있는 생성형 언어모델과 추천 시스템에서는 PIM이 효율적인 가속기로 이용될 수 있다. 본 논문에서는 PIM을 사용하기 적합한 어플리케이션인 추천시스템과 생성형 언어모델을 PIM으로 가속화한 최신 연구 동향을 살핀다. 또한, 선행연구들을 기반으로 PIM의 연구 방향성에 대해 토의한다. 마지막으로, PIM 시스템에서의 LUT의 효용성을 실험으로 성능을 확인하고 검증한다.

다국어 초록 (Multilingual Abstract)

Processing-in-memory (PIM) is an accelerator that enables data to be processed closer to the stored memory. Due to the nature of PIM specialized in data movement, PIM can be used as an efficient accelerator in transformer-based generative model and recommendation system, which have recently garnered attention. In this paper, we examine the latest research trends of PIM that enhance the recommendtation system and generative language model, which are suitable applications for PIM usage. Additionally, we discuss the research direction of PIM based on previous studies. Lastly, we verify the effectiveness of LUT in PIM systems through experiments.