Trusted Execution Environment (TEE) 기반 딥러닝 모델 보호 기술들에 대한 적대적 관점 평가 : 딥러닝;프라이버시;기밀 컴퓨팅 = Adversarial Perspective Evaluation of Trusted Execution Environment (TEE)-Based Deep Learning Model Protection Techniques

국문 초록 (Abstract)

딥러닝 기술의 발전과 함께 민감 데이터를 안전하게 처리하기 위한 Trusted Execution Environment (TEE) 기반 보호 기법이 주목받고 있다. 그러나 기존 TEE 기반 딥러닝 보호 연구는 프라이버시 공격에 대해 취약하며, 민감 데이터 유출의 위험이 여전히 존재한다. 본 연구에서는 TEE 기반 보호 기법의 한계를 분석하고, 모델 반전 공격과 모델 추출 공격을 설계하여 다양한 시나리오에서 실험적으로 검증하였다. 실험 결과, TEE 환경에서도 모델 출력 데이터(e.g., 중간 출력, 최종 출력)를 기반으로 학습 데이터와 입력 데이터가 도용될 수 있음을 확인하였으며, 이는 프라이버시 침해와 모델 신뢰성 저하로 이어질 수 있음을 보여준다. 본 연구는 TEE 기반 보호 기법의 구조적 취약점을 체계적으로 분석하고, 향후 효과적인 방어 전략 개발의 필요성을 제시함으로써 딥러닝 보안 연구에 기여한다.

다국어 초록 (Multilingual Abstract)

With the rapid advancement of deep learning technologies, Trusted Execution Environment (TEE)-Based protection mechanisms have emerged as a prominent solution for securely processing sensitive data. However, existing research on TEE-based deep learning protections demonstrates vulnerabilities to privacy attacks, leaving sensitive data at risk of being leaked. This study systematically examines the limitations of TEE-based protection mechanisms by designing and implementing model inversion and model extraction attacks across diverse scenarios. Experimental results reveal that even within TEE environments, sensitive information such as training data and input data can be effectively extracted through model outputs (e.g., intermediate representations, final outputs), leading to significant privacy breaches and a degradation of model reliability. By providing a comprehensive analysis of the structural vulnerabilities inherent in TEE-based protection mechanisms, this study underscores the critical need for developing robust defense strategies, offering valuable contributions to the field of deep learning security.

목차 (Table of Contents)

• 제1 장 서론 1
• 제2 장 배경지식 3
• 2.1 딥러닝 모델의 개인정보 보호 문제 3
• 2.2 Trusted Execution Environment (TEE) 4
• 2.2.1 Intel SGX 4
• 2.2.2 Arm TrustZone 6
• 제3 장 TEE 기반 딥러닝 모델 보호 연구의 한계 7
• 3.1 TEE 기반 딥러닝 모델 보호 기술 사례 분석 7
• 3.1.1 클라우드에서의 딥러닝 보호 9
• 3.1.2 온디바이스에서의 딥러닝 보호 14
• 3.1.3 분산학습에서의 딥러닝 보호 19
• 3.2 기존 TEE 기반 딥러닝 보호 연구의 한계와 과제 21
• 3.3 노출된 데이터와 개인정보 보호 위험 25
• 제4 장 방법론 27
• 4.1 TEE 기반 딥러닝 모델 실행 방법 27
• 4.2 위협 모델 30
• 4.3 딥러닝 모델에 대한 프라이버시 공격 기법 32
• 4.3.1 모델 반전 공격 32
• 4.3.2 모델 추출 공격 33
• 4.4 프라이버시 공격: 본 연구의 접근 방식 36
• 4.4.1 입력 데이터 복구 방법 36
• 4.4.2 모델 복구 방법 39
• 4.4.3 학습 데이터 복구 방법 41
• 제5 장 실험 및 평가 44
• 5.1 입력 데이터 복구 실험 44
• 5.2 모델 데이터 복구 실험 48
• 5.3 학습 데이터 복구 실험 49
• 제6 장 결론 51
• 참고문헌 52