인공지능의 국제법상 책임추궁에 관한 소고 = The Invocation of International Responsibility of the Artificial Intelligence

국문 초록 (Abstract)

이 글에서는 인공지능의 국제법상 책임추궁 문제를 고찰한다. 인공지능은 인간의 지시나 통제 범위를 넘어 자율적 상황인식과 판단을 하기 때문에 국제위법행위가 발생하였을 때 그 국제법적 책임을 누구에게 어떻게 추궁할 것인지가 문제가 된다. 국가라는 추상적 실체를 중심으로 논의되었던 국제법위원회의 국가책임 초안규정을 인공지능을 통한 국제위법행위에 대해서도 그대로 적용하여 그 책임을 추궁할 수 있는지가 중요한 법적 쟁점으로 등장하였다.
인공지능은 외부상황의 인식과 판단에서 인간의 개입을 배제하는 자율성을 그 특성으로 한다. 다만 인공지능은 현재 국제공동체에 의해 독자적 국제법인격으로 승인되지는 못하였다. 이러한 전제에서 이 글은 인공지능을 통한 국제위법행위 유형을 구분하여 각 유형별로 국가책임을 추궁할 수 있는 경로를 검토한다. 우선, 국제법상 국가책임 성립요건 중 행위귀속 원칙이 인공지능을 통한 국제법상 행위에는 어떻게 적용되는지를 살펴본다. 그 중에서도 인공지능을 통한 국제위법행위 발생 시 국제책임 추궁과 관련하여, 국가책임법상 개인이나 단체의 행위에 대한 국가책임 추궁 근거로 활용된 ‘실효적 통제’(effective control) 기준을 적용하여 행위귀속을 판단하는 것이 적절한지를 살펴본다. 다음으로 국가기관으로의 행위귀속 입증이 어려운 사안에서 상당한 주의의무 위반을 근거로 국가의 책임을 추궁할 수 있는지를 검토한다. 인공지능을 통한 국제위법행위가 발생한 경우에 기존 국가책임 초안규정과 법리를 그대로 적용하는 것은 적절하지 않으며, 상당한 주의의무를 반영한 책임성립 기준을 도입할 필요가 있다.

참고문헌 (Reference)

1 김기홍, "제4차 산업혁명 : 급변하는 디지털경제, 불확실한 미래사회" 법문사 2020

2 박문언, "자율무기체계의 국제법적 허용성과 규제방안" 서울대학교 2019

3 김성호, "인공지능에 대한 법인격 부여 필요성" 법학연구소 37 (37): 143-159, 2020

4 김성호, "인공지능과 불법행위책임 : 유럽의회 결의안을 중심으로" 국회도서관 (79) : 2018

5 최경진, "인공지능과 불법행위책임" 한국정보법학회 25 (25): 41-68, 2021

6 이해원, "인공지능과 법인격 - 불법행위책임의 관점에서 -" 법조협회 70 (70): 208-245, 2021

7 이상용, "인공지능과 법인격" 한국민사법학회 89 : 3-49, 2019

8 스튜어트 러셀, "인공지능: 현대적 접근방식" 제이펍 2021

9 한희원, "인공지능(AI)의 법인격 주체 가능성의 이론적 기틀에 대한 기초 연구" 20 (20): 2018

10 신현탁, "인공지능(AI)의 법인격 – 전자인격(Electronic Person) 개념에 관한 소고 -" 대한변호사협회 (478) : 45-64, 2018

11 임예준, "인공지능 시대의 전쟁자동화와 인권에 관한 소고 - 국제법상 자율살상무기의 규제를 중심으로 -" 법학연구원 (92) : 265-302, 2019

12 이재민, "인공지능 시대의 도래와 국제법 - 국가행위 귀속 문제를 중심으로" 대한국제법학회 63 (63): 281-308, 2018

13 이경규, "인(人) 이외의 존재에 대한 법인격 인정과 인공지능의 법적 지위에 관한 소고" 법학연구소 21 (21): 323-356, 2018

14 송덕수, "신민법강의" 박영사 2022

15 정인섭, "신국제법강의 : 이론과 사례" 박영사 2022

16 송호영, "법인격의 형성과 발전- 새로운 법인격 개념의 정립은 필요한가? -" 한국재산법학회 38 (38): 23-56, 2021

17 국회도서관, "법으로 본 인공지능" 2021

18 이재민, "디지털 교역과 통상규범: 상품·서비스 교역 ‘일체화’의 통상협정에 대한 함의" (사)한국국제경제법학회 16 (16): 93-131, 2018

19 김보연, "국제투자협정상 완전한 보호와 안전 의무의 해석기준－상당한 주의의무 기준의 비판적 고찰－" 국제거래법학회 31 (31): 105-134, 2022

20 오시진, "국제테러와 국가책임법 ― 국가 귀속 법리에 대한 고찰 ―" 비교법학연구소 37 : 215-246, 2012

21 홍진형, "국제인도법상 통제 기준에 관한 소고" 법학연구소 34 (34): 575-609, 2022

22 박노형 ; 김효권, "국제사이버법상 상당한 주의 의무에 관한 국가실행" 대한국제법학회 66 (66): 61-96, 2021

23 "“인공지능의 ‘공정성’ 판단기준 구체화 작업 필요”, 「법률신문」 (2021년 7월 28일)"

24 Chesterman, Simon, "We, the Robots? Regulating Artificial Intelligence and the Limits of the Law" Cambridge University Press 2021

25 박기갑, "UNESCO 총회 “인공지능(AI) 윤리 권고”의 주요 내용 분석과 국제법적 함의" 2022-제2호 (2) : 2022

26 Brożek, Bartosz, "The Troublesome ‘Person’" Springer 2017

27 Cassese, Antonio, "The Nicaragua and Tadić Tests Revisited in Light of the ICJ Judgment on Genocide in Bosnia" 18 (18): 2007

28 Kolb, Robert, "The International Law of State Responsibility: An Introduction" Edward Elgar 2017

29 Stern, Brigitte, "The Elements of an Internationally Wrongful Act" Oxford University Press 2011

30 Barfield, Woodrow, "The Cambridge Handbook of the Law of Algorithms" Cambridge University Press 2021

31 Crawford, James, "State Responsibility: The General Part" Cambridge University Press 2013

32 Ramsundar, Narissa Nashivi, "State Responsibility for Support of Armed Groups in the Commission of International Crimes" Brill 2020

33 Crawford, James, "State Responsibility : The General Part" Cambridge University Press 2013

34 Gellers, Joshua C., "Rights for Robots: Artificial Intelligence, Animal and Environmental Law" Routledge 2021

35 Harasimiuk, Dominika Ewa, "Regulating Artificial Intelligence: Binary Ethics and the Law" Routledge 2021

36 UNESCO, "Recommendation on the Ethics of Artificial Intelligence" 2021

37 Drożdż, Aleksandra, "Protection of Natural Persons with Regard to Automated Individual Decision-Making in the GDPR" Wolters Kluwer 2020

38 European Commission, "Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts, COM(2021) 206 final"

39 Executive Office of the President, "National Science and Technology Council" 2016

40 Kovač, Mitja, "Judgement-Proof Robots and Artificial Intelligence: A Comparative Law and Economics Approach" Palgrave Macmillan 2020

41 Shaw, Malcolm N., "International Law, 9th ed" Cambridge University Press 2021

42 Klabbers, Jan, "International Law, 3rd ed" Cambridge University Press 2021

43 Trindade, Antônio, "International Law for Humankind: Towards a New Jus Gentium, 3rd revised ed" Brill Nijhoff 2020

44 Maas, Matthijs M., "International Law Does Not Compute: Artificial Intelligence and the Development, Displacement or Destruction or the Global Legal Order" 20 : 2019

45 García-Micó, "Electronic Personhood: A Tertium Genus for Smart Autonomous Surgical Robots?" Springer 2021

46 Ollino, Alice, "Due Diligence Obligations in International Law" Cambridge University Press 2022

47 Monnheimer, Maria, "Due Diligence Obligations in International Human Rights Law" Cambridge University Press 2021

48 Group of Governmental Experts of the High Contracting Parties to the Convention on the Prohibition or Restriction on the Use of Certain Conventional Weapons, "Draft Report of the 2019 Session of the Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems" CCW/GGE 2019

49 International Law Commission, "Draft Articles on Responsibility of States for Internationally Wrongful Acts, with commentaries 2001" 2 : 2001

50 International Law Commission, "Draft Articles on Prevention of Transboundary Harm from Hazardous Activities with commentaries 2001" 2001

51 U.S. Dept. of Defense, "Directive 3000.09: Autonomy in Weapon Systems"

52 McFarland, Tim, "Autonomous Weapon Systems and the Law of Armed Conflict : Compatibility with International Humanitarian Law" Cambridge University Press 2020

53 Stern, Rachel E., "Automating Fairness? Artificial Intelligence in the Chinese Courts" 59 : 2021

54 Chesterman, Simon, "Artificial Intelligence and the Limits of Legal Personality" 69 : 2020

55 Lee, Jaemin, "Artificial Intelligence and International Law" Springer 2022

56 Peng, Shin-yi, "Artificial Intelligence and International Economic Law: A Research and Policy Agenda" Cambridge University Press 2021

57 Boon, Kristen E., "Are Control Tests Fit for the Future? The Slippage Problem in Attribution Doctrines" 15 : 2014

58 Barfield, Woodrow, "Advanced Introduction to Law and Artificial Intelligence" Edward Elgar 2020

59 고학수, "AI는 차별을 인간에게서 배운다" 21세기북스 2022

60 Laitinen, Arto, "AI Systems and Respect for Human Autonomy" 4 : 2021

61 Picker, Colin B., "A View from 40,000 Feet: International Law and the Invisible Hand of Technology" 23 (23): 2001

62 McCarthy, John, "A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence" 27 (27): 2006

63 Chopra, Samir, "A Legal Theory for Autonomous Artificial Intelligence" The University of Michigan Press 2011

64 European Commission’s High-Level Expert Group on Artificial Intelligence, "A Definition of AI: Main Capabilities and Scientific Disciplines"

65 Zerilli, John, "A Citizen’s Guide to Artificial Intelligence" MIT Press 2021