인공지능 시대의 전쟁자동화와 인권에 관한 소고 - 국제법상 자율살상무기의 규제를 중심으로 - = A Study on the Dehumanization of Warfare and Human Rights in the Era of Artificial Intelligence - Focusing on the Regulation of Autonomous Weapons in International Law -

국문 초록 (Abstract)

4차 산업혁명으로 인한 전쟁자동화와 관련하여 국제사회에서 가장 논란이 되고 있는 것은 자율무기체계의 도입이다. 자율무기란 활성화가 된 이후, 추가적인 인간의 개입 없이 통합정보 및 사전 프로그램 통제 아래 독립적으로 목표를 선택하여 공격할 수 있는 무기체계를 의미한다. 이글은 자율무기의 개념 및 현황과 관련된 국제사회의 논의를 살펴보고, 자율무기의 국제법적 쟁점에 관해 국제인도법을 중심으로 검토한 후, 이를 바탕으로 자율무기의 규제의 필요성과 규제방안을 살펴봄을 목적으로 한다.
자율무기가 신무기로서 적법하기 위해서는 국제인도법의 일반적인 규칙과 특정 무기 또는 전투수단을 금지하거나 이들의 사용방식을 제한하는 국제인도법의 특정한 규칙에 부합해야 한다. 또한 이러한 신무기는 배치되기 이전에 인도의 원칙과 공공양심의 명령에 부합하는지를 검토해야 한다. 자율무기가 국제인도법의 기본원칙을 준수할 수 있는지 여부는 사용되는 환경과 기술수준의 발전에 따라 달라질 수 있다. 그러나 예측불가능한 상황의 연속인 전장에서의 모든 가능한 시나리오를 프로그래밍 하여 국제인도법에 부합하는 결정 및 행위를 할 수 있도록 자율무기체계를 만드는 것은 분명 어려운 일일 것이다. 설령 기술수준의 발전에 따라 국제인도법의 기본원칙을 준수할 수 있다 하더라도, 무기체계가 인간의 통제를 넘어 자율적으로 무력을 사용해 인간을 살상하게 된다는 것은 기본적으로 공공양심의 명령에 부합하지 않는다.
자율무기의 핵심은 인명 살상을 위한 무력사용에 있어 인간의 판단이 배제된다는 것에 있다. 인간의 판단이 부재한 상황에서 인간의 생사가 알고리즘에 기초해 결정된다는 것은 그 자체로서 인간존엄성에 반할 수 있으며, 생명권에 대한 경시로 이어질 수 있다. 또한 국제인도법 및 국제인권법 위반 사안이 발생하였을 때 책임소재가 불분명해지는 자율무기는 그 자체로서 인권 보호의 장애가 될 수 있다. 따라서 인간의 존엄성과 인권을 보장하기 위해서는 공격목표물의 선정과 타격에 관한 결정의 이유를 설명할 수 있는 인간의 통제가 반드시 있어야 할 것이다. 국제사회는 무력사용에 관한 무기체계 개발에 있어서는 최소한 일정 정도의 인간통제는 반드시 필요함을 확인하고, 자율무기 개발로 인해 발생할 수 있는 문제에 대해 선제적으로 대처해야 할 것이다.

다국어 초록 (Multilingual Abstract)

One of the critical issues of the dehumanization of warfare in the context of the Fourth Industrial Revolution is the introduction of autonomous weapons systems. This term refers to a weapons system that, once activated, can select and engage targets without further intervention by a human operator. This article examines the definition and the current discussion regarding autonomous weapons in international society, and their legality from the perspective of international humanitarian law. Against this backdrop, it explores the necessity for regulation of autonomous weapons systems and the direction of such regulation.
As a new weapon, an autonomous weapon must ensure its legality through complying with the relevant rules including the general rule of international humanitarian law applying to all weapons, means and methods of warfare, as well as particular rules of international humanitarian law and international law prohibiting the use of specific weapons and means of warfare or restricting the methods by which they can be used. Such a new weapon must also be in accord with the principles of humanity and the dictates of public conscience. Compliance with the basic principles of international humanitarian law is a priori dependent upon the context of deployment as well as development at a technical level. However, it is questionable whether it is technically possible to build all possible scenarios into the system to ensure compliance with basic principles of international humanitarian law in the unpredictable circumstances of warfare. And, even if this were technically possible, machine killing beyond human control would still be unacceptable under the Martens Clause.
The core of this debate over autonomous weapons is exclusion of human judgment in using lethal force. Determination of life and death based on algorithms would violate the very notion of human dignity, which also leads to disrespect contempt for the right to life. Moreover, autonomous weapons would raise ambiguous accountability issues, as accountability could not be transferred to machines. Therefore, meaningful human control must remain in all weapons systems, such as could explain the reasoning behind determinations based on algorithms. The international community needs to ensure meaningful human control in developing autonomous weapons, while preparing measures to confront potential problems raised by such weapons.

참고문헌 (Reference)

1 도경옥, "제6조 생명권" 2 (2): 2005

2 박문언, "자율무기체계의 발전과 우리 군의 현실에 대한 고찰" 12 (12): 2016

3 조현석, "인공지능, 자율무기체계와 미래 전쟁의 변환" 21세기정치학회 28 (28): 115-140, 2018

4 한희원, "인공지능(AI) 치명적자율무기(LAWs)의 법적ㆍ윤리적 쟁점에 대한 기초연구" 중앙법학회 20 (20): 325-365, 2018

5 국제적십자위원회(ICRC), "신무기, 전투 수단 및 방법의 적법성 검토에 관한 지침: 1977년 제1추가의정서 제36조 이행조치"

6 류병운, "드론과 로봇 등 자율무기의 국제법적 적법성" 법학연구소 17 (17): 61-80, 2016

7 UNIDIR, "Weaponization of Increasingly Autonomous Technologies: Concerns, Characteristics and Definitional Approaches" 2017

8 UNIDIR, "The Weaponization of Increasingly Autonomous Technologies: Artificial Intelligence" 2018

9 Geiss, Robin, "The International-Law Dimension of Autonomous Weapons Systems" Friedrich Ebert Stiftung 2015

10 Akerson, David, "The Illegality of Offensive Lethal Autonomy" 2013

11 Sharkey, Noel E., "The Evitability of Autonomous Robot Warfare" 94 : 2012

12 Human Rights Watch, "Shaking the Foundations: The Human Rights Implications of Killer Robots" 2014

13 "Report of the Special Rapporteur on extrajudicial, summary or arbitrary executions, Christof Heyns" 2013

14 Schmitt, Michael N., "Out of the Loop: Autonomous Weapon Systems and the Law of Armed Conflict" 4 : 2013

15 Asaro, Peter, "On Banning Autonomous Weapon Systems: Human Rights, Automation, and the Dehumanization of Lethal Decision-Making" 94 : 2012

16 Thurnher, Jeffrey, "New Technologies and the Law of Armed Conflict" 2014

17 Boothby, William H., "New Technologies and the Law of Armed Conflict" TMC Asser Press 2014

18 Alston, Philip, "Lethal Robotic Technologies" 21 : 2011

19 Hattan, Titus, "Lethal Autonomous Robots: Are They Legal under International Human Rights and Humanitarian Law?" 93 (93): 2015

20 Heyns, Christof, "Human Rights and the Use of Autonomous Weapons Systems (AWS) During Domestic Law Enforcement" 38 : 2016

21 Toscano, Christopher P., "Friend of Humans: An Argument for Developing Autonomous Weapon Systems" 8 : 2015

22 ICRC, "Expert Meeting: Autonomous Weapon Systems, Technical, Military, Legal and Humanitarian Aspects, Versoix, Switzerland" 2016

23 ICRC, "Expert Meeting: Autonomous Weapon Systems, Technical, Military, Legal and Humanitarian Aspects" 2014

24 ICRC, "Ethics and autonomous weapon systems: An ethical basis for human control?"

25 "Department of Defense Directive 3000.09, Autonomy in Weapon Systems"

26 Wolff Heinstschel von Heinegg, "Dehumnization of Warfare: Legal Implications of New Weapon Technologies" Springer 2018

27 Dinstein, Yoram, "Dehumanization of Warfare: Legal Implications of New Weapon Technologies" Springer 2018

28 Brehm, Maya, "Defending the Boundary: Constraints and Requirements on the Use of Autonomous Weapon Systems under International Humanitarian and Human Rights Law" 2017

29 Sassoli, Marco, "Autonomous Weapons and International Humanitarian Law: Advantages, Open Technical Questions and Legal Issues to be Clarified" 90 : 2014

30 Heyns, Christof, "Autonomous Weapons Systems: Law, Ethics, Policy" Cambridge University Press 2016

31 Amnesty International, "Autonomous Weapons Systems: Five Key Human Rights Issues for Consideration" 2015

32 ICRC, "Autonomous Weapon Systems: Implications of Increasing Autonomy in the Critical Functions of Weapons" 2016

33 Geneva Academy, "Autonomous Weapon Systems under International Law" (8) : 2014

34 Allen, Greg, "Artificial Intelligence and National Security" Belfer Center for Science and International Affairs 2017

35 Human Rights Watch, "A Losing Humanity: The Case against Killer Robots" 2012

36 Davison, Neil, "A Legal Perspective: Autonomous Weapon Systems under International Humanitarian Law" UNODA 2017