딥러닝 모델에 대한 백도어 트리거 위치 선정 및 삽입 기법 = A Study of Backdoor Trigger Position Selection and Insertion Method on Deep Learning Models

국문 초록 (Abstract)

인공지능 분야에서 딥러닝(deep learning) 기술이 비약적으로 발전하면서 국 방, 감시체계, 자율주행 등 다양한 분야에서 딥러닝 기술이 활발하게 접목되고 있다. 한편, 학계에서는 딥러닝 성능 향상 연구와 응용 연구 외에도 신뢰성과 보안성에 관련된 연구들도 활발히 진행되고 있다. 그 중에서 적대적 공격(adversarial attack)은 딥러닝 모델에 발생할 수 있는 다양한 유형의 공격기법을 탐구하고 그에 대한 방어 기법을 연구하는 분야이다. 적대적 공격 유형 중 백도어 공격(backdoor attack)은 딥러닝 모델의 훈련단계에서 훈련데이터셋 일부에 백도어 트리거(backdoor trigger)를 의도적으로 삽입시키고 Label을 특정 Target Class로 조작하여 훈련시킴으로써, 추론단계에서 공격에 오염된 모델이 일반적인 데이터를 입력받았을 때는 정상적으로 작업을 수행하지만 트리거가 삽입된 데이터를 입력받았을 때는 Target Class로 오분류를 수행하도록 만드는 공격 방법이다. 백도어 공격은 국방 감시정찰체계, 안면 인식, 자율주행 등 신뢰성이 중요한 시스템에 치명적인 위협이며, 딥러닝 모델과 훈련데이터셋 구축의 아웃소싱, 사전 훈련된 모델의 전이학습 등 현실적인 딥러닝 모델 구축 환경에서 발생할 가능성이 있는 공격이다. 관련해서 학계에서는 백도어 공격의 위협성을 판단하고, 이를 탐지하고 완화하기 위하여 다양한 공격기법과 방어기법을 연구하고 있다. 본 연구에서는 공격기법과 관련하여 기존에는 아직 연구되지 않은 백도어 트리거의 위치를 활용하여 공격 성능을 향상시키는 기법을 연구하였다. 즉, 객체 상에서 백도어 트리거의 삽입 위치에 따라 공격 성능이 달라지는 것을 확인하고, 공격 성능을 향상하기 위해 최적의 백도어 트리거 삽입 위치를 선정하는 기법을 제안하였다. 제안기법에 대한 실험 수행 결과, 제안기법은 임의로 트리거를 삽입하는 기존 공격기법보다 공격성공률이 최대 30%p 가량 높게 나타나는 것으로 확인하였다. 이러한 연구는 발생 가능한 백도어 공격기법을 파악하고, 방어기법 연구에 참조될 수 있도록 분석하였다는 점에서 기여점이 있다.

목차 (Table of Contents)

• 제1장 서론 1
• 1.1 연구 배경 및 목적 1
• 1.2 연구 범위 및 방법 3
• 제2장 배경지식 및 관련연구 5
• 2.1 딥러닝 모델에 대한 적대적 공격 5
• 2.2 백도어 공격 9
• 2.3 객체 탐지 11
• 2.4 기존 연구 14
• 제3장 백도어 공격 성능 향상을 위한 트리거 위치 선정 및 삽입 기법 18
• 3.1 문제 기술 18
• 3.2 백도어 트리거 위치를 고려한 공격 방법 제안 19
• 3.3 백도어 트리거 위치 선정 및 삽입 알고리즘 23
• 제4장 실험결과 30
• 4.1 실험 목적 및 방법 30
• 4.2 기존기법과 제안기법의 공격 성능 비교 평가 36
• 4.3 알고리즘 신뢰성 분석 43
• 제5장 결론 및 향후 연구 46
• 참고문헌 47
• 영문요약 51