강화학습 Q러닝 기반의 자율무기체계 통제 전략에 관한 고찰 = Strategies for Controllable Autonomous Weapon Systems with Reinforcement Q Learning

국문 초록 (Abstract)

스스로 판단하고 행동하는 자율무기체계(AWS)는 인공지능의 대표적 군사적 응용으로 볼 수 있으나, 불명확한 개념으로 인해 논의가 지지부진한 상황이다. 이에 본 논문은 통제가능한 자율무기체계를 위한 전략을 탐색하기 위한 목적으로 작성되었다. 강화학습이라는 인공지능의 한 분야를 사용하여 자율 체계가 활동하는 실험 환경을 설계하였고, 자율 체계는 주어진 환경에 대한 명확한 지식이나 통제가 없이도 스스로 학습하도록 하였다. 통제전략으로 update 전략과 switch 전략을 탐색하고, 설계한 실험환경에서 검증을 수행하였다.

참고문헌 (Reference)

1 마정목, "통제가능한 자율무기체계의 개념과 설계에 관한 연구" 한국국방연구원 36 (36): 81-102, 2020

2 김자회, "치사성 자율무기시스템에 대한 적법성 검토" 대한적십자사 (38) : 9-41, 2018

3 이상국, "중국 “AI 주도 미래전쟁선 미국과 해볼 만” 판단"

4 김민혁 ; 김재오, "자율살상무기체계에 대한 국제적 쟁점과 선제적 대응방향" 국가안전보장문제연구소 63 (63): 171-204, 2020

5 김종열, "자율 무기체계의 자율성에 대한 연구" 한국융합보안학회 18 (18): 101-111, 2018

6 조현석, "인공지능, 자율무기체계와 미래 전쟁의 변환" 21세기정치학회 28 (28): 115-140, 2018

7 한희원, "인공지능(AI)기반의 치명적 자율무기에 대한 법적·윤리적 쟁점 기초연구" 한국국가정보학회 12 (12): 141-193, 2019

8 최은창, "인공지능 시대의 법적윤리적 쟁점" 과학기술정책연구원 (28) : 18-21, 2016

9 마정목, "미래전 대응을 위한 자율능력 관리 방안" 한국국방연구원 33 (33): 119-143, 2017

10 윤정현, "국방 분야의 인공지능 활용성 제고 방안과 시사점" 과학기술정책연구원 (48) : 44-52, 2020

11 Saalman, L., "The Impact of Artificial Intelligence on Strategic Stability and Nuclear Risk, Volume II, East Asian Perspectives" SIPRI 2019

12 Haner, J., "The Artificial Intelligence Arms Race:Trends and World Leaders in Autonomous Weapons Development" Durham University 10 (10): 331-337, 2019

13 Cook, Adam, "Taming Killer Robots: Giving Meaning to the Meaningful Human Control Standard for Lethal Autonomous Weapon Systems"

14 Slijper, F., "Slippery Slope: The arms industry and increasingly autonomous weapons"

15 Watkins, C. J. C. H., "Q-learning" Springer 8 (8): 279-292, 1992

16 Roff, H. M., "Meaningful Human Control, Artificial Intelligence and Autonomous Weapons" 1-6, 2016

17 Santoni de Sio, F., "Meaningful Human Control over Autonomous Systems: A Philosophical Account" 5 : 1-14, 2018

18 Nagabandi, A., "Learning to adapt in dynamic, real-world environments through meta-reinforcement learning"

19 Sayler, K., "International Discussions Concerning Lethal Autonomous Weapon Systems"

20 Mnih, V., "Human-level control through deep reinforcement learning" Nature Portfolio 518 : 529-533, 2015

21 Rakelly, K., "Efficient Off-Policy Meta-Reinforcement Learning via Probabilistic Context Variables"

22 "DoDD 3000.09, Autonomy in Weapon Systems"

23 Altmann, J., "Autonomous Weapon Systems and Strategic Stability" International Institute for Strategic Studies 59 (59): 117-142, 2017

24 Lee, J., "Attaining Interpretability in Reinforcement Learning via Hierarchical Primitive Composition"

25 Sutton, R. S., "Adaptive Computation and Machine Learning" MIT Press 1998