변이에 내성을 가지는 저 저항비 ReRAM 기반 용량성 삼진 MAC 연산 compute-in-memory 매크로 회로 연구

국문 초록 (Abstract)

새로운 Resistive random access memory(ReRAM)기반 Compute-in-memory(CIM)매크로는 기존 논문에서 ReRAM의 낮은 R-ratio와 큰 variation으로 인한 낮은 정확도와 throughput 문제를 해결하기 위하여 제안되었다. 제안하는 1T2R1C bit-cell은 ternary weight와 ternary input을 기반으로 한 4-kb의 ReRAM 기반의 nvCIM 구조를 가진다. Ternary 곱셈 연산은 bit-cell 내의 두 ReRAM 소자를 통한 전압 분배 방식을 이용하여 동작한다. 이는 variation에 tolerant하고, 낮은 R-ratio에 덜 민감한 결과를 가질 수 있게 한다. Accumulate 연산의 경우 capacitive coupling을 이용하기 때문에, 많은 operand에 대해서 선형성을 보장한다. 이로 인해 빠르고 정확한 Multiply-and-accumulate(MAC)연산이 가능하다. 본 논문에서 제안하는 CIM 매크로를 검증하기 위해 variation와 R-ratio를 조정할 수 있는 Verilog-A에 의해 모델링 된 ReRAM 소자를 사용하였다. 추가적인 주변부 회로들은 180-nm 공정을 사용하고 있다. 이를 통해 검증된 CIM Macro는 variation에 강하고 R-ratio에 의한 영향을 덜 받으며 높은 선형성을 가지고 있어 38의 R-ratio와 20%/40%의 LRS/HRS variation을 가지는 ReRAM 소자를 이용할 때, MNIST에서 99.07%(0.01% 감소), CIFAR-10에서 83.79%(0.38% 감소)로 높은 ternary DNN 정확도를 가진다.

다국어 초록 (Multilingual Abstract)

A novel Resistive random access memory (ReRAM)-based Compute-in-memory (CIM) macro is proposed to overcome the limited accuracy and throughput of a conventional ReRAM-based CIM macro that results from to the low R-Ratio and large variation of ReRAM. The proposed structure consists of 1T2R1C bit-cells and 4-kb ReRAM-based nvCIM architecture with ternary weight and ternary input. Ternary multiplication is implemented with voltage division between paired ReRAM devices within a bit-cell to make the output voltage variation tolerant and less sensitive to low R-ratios. An accumulation operation is realized with capacitive coupling so that linearity can be guaranteed for a large number of operands, allowing accurate and fast multiply-and-accumulate (MAC) operations. For comprehensive validation of the proposed CIM macro, the Verilog-A models for ReRAM devices with an adjustable R-ratio and adjustable variations are adopted to perform simulation on various R-ratio and variation conditions. With the peripheral circuits designed in 180-nm CMOS technology, the proposed CIM macro is confirmed to have high variation tolerance, high throughput, and less sensitivity to a low R-ratio, resulting in a high ternary DNN accuracy of 99.07% (0.01% drop) for the MNIST and 83.79% (0.38% drop) for the CIFAR-10 data sets with an R-ratio as low as 38 and 20%/40% low/high resistance variation.

목차 (Table of Contents)

• 제 1 장 서 론 1
• 1. Compute-in-memory 1
• 2. ReRAM 모델 3
• 3. 관련 선행 연구 5
• 1) Compute-in-memory 5
• 2) 전류 sensing 방식의 ReRAM 기반 CIM 7
• 3) 전압 sensing 방식의 ReRAM 기반 CIM 10
• 제 2 장 ReRAM 기반 CIM 모델 14
• 1. 1R2R1C bit-cell 구조 14
• 2. Ternary weight and input 16
• 1) Ternary weight 16
• 2) Ternary input 17
• 3. CIM 연산 18
• 1) Initialize 18
• 2) Multiplicate 연산 18
• 3) Accumulate 연산 19
• 제 3 장 Simulation 결과 23
• 1. Simulation setup 23
• 2. Simulation model setup 24
• 3. Simulation 결과 26
• 1) Variation sweep 26
• 2) R-ratio sweep 27
• 3) Throughput 28
• 4. Neural Network 에서의 evaluation 28
• 1) Network setup 28
• 2) MNIST 29
• 3) CIFAR-10 31
• 5. 기존 논문과의 비교 34
• 제 4 장 결 론 36