자율주행차의 발전단계로 본 운전자와 인공지능의 주의의무의 변화와 규범적 판단능력의 사전 프로그래밍 필요성 = How the technology of autonomous driving affects the scope and level of driver`s duty of care and the necessity for embedding ethical ability in autonomous vehicles

국문 초록 (Abstract)

자율주행차가 2단계에서 3단계로 발전함에 따라 운행을 담당하는 운행자의 주의의무가 자율주행기능에 의해 일정 부분 대체되고 운행자의 역할이 감소하는 경향을 보인다. 이 경우 인간운전자의 주의의무를 대체하는 자율주행차의 자율주행능력이 어느 정도가 되어야 하고 이러한 자율주행능력을 확보하기 위한 자율주행차의 주의의무를 어떻게 파악해야 하는지가 문제된다. 이 글에서는 인간 운전자의 주의의무가 감소하는 만큼 자율주행차의 역할이 증대되고, 역할이 증대되는 자율주행차의 주의의무는 결국 자동차관리법상 제조자의 자기인증의 기준으로서 반영되어야 하며, 자율주행자동차의 자기인증의 기준은 인간 운전자의 주의의무 수준이 그 기준이 되어야 한다는 점을 살펴보았다. 또 자율주행차가 3단계에서 4단계로 발전하는 경우, 인간의 관여가 완전히 배제되기 때문에 운전대와 브레이크 페달이 없어지는 등 내부디자인이 완전히 바뀌게 된다. 이러한 자율주행자동차에서는 목표지점을 지시하고 주행시작을 입력하는 행위를 제외하면 주행에 관한 한 탑승자의 관여가 일어나지 않기 때문에 주행관련 운행자의 주의의무는 사실상 배제된다. 이 경우 운행자가 아닌 탑승자로서 부담하는 탑승자의 주의의무는 최소화되고, 운전자의 주의의무를 완전히 대체하는 자율주행차의 주의의무의 정도는 대폭 강화된다. 이러한 완전 자율주행자동차에서는 인간의 관여가 배제되기 때문에 자율주행차의 주의의무의 내용에는 인간운전자의 윤리적 판단능력 및 융통성을 확보하는 조치가 필요하게 되는데, 이러한 인간운전자의 윤리적 판단능력 및 융통성을 확보하기 위해서는 사전적으로 윤리적판단 및 융통성이 필요한 상황을 검토해야 하고 그 상황에 필요한 윤리적 판단능력과 융통성을 미리 인공지능의 주의의무 알고리즘에 반영할 필요가 있다.

다국어 초록 (Multilingual Abstract)

As technologies regarding autonomous driving advance from Level 2 to Level 3 automation, the role of a human in operating a car is diminishing and now expected to be replaced by an artificial intelligence(“AI”) embedded in an autonomous vehicle(“AV”). A question may arise as to the level of the duty of care that the replacing AI has to pay. This article argues that to the extent an AV takes over the role of a human driver in car operation the AI should play the same role as a human driver, and thus the level of the duty of care that an AI has to pay should be as high as the level that is reasonably expected of a human driver who controls his driving condition. This level of duty of care reasonably expected of an AI should also be reflected as a legal standard in the Automobile Safety Standard so that auto makers will be required to comply with in self-certifying their automobiles production. A more complex question may arise in Level 4 AVs, in particular, in respect of ethical issues, Because a steering wheel and a brake pedal disappear in Level 4 AVs, there is no room for a human driver to interfere in driving such a Level 4 AV. That means where the AV faces a conflicting duties whether legal or ethical duties, the AI in the AVs rather than a human have to decide whate to do by itself. Consequently, automakers should ex ante consider certain situations where its duties may conflict, and determine and programme what to do in advance. This requirement should also be implemented in the Automobile Safety Standard.

참고문헌 (Reference)

1 박동진, "현행 제조물책임법의 문제점과 개정방향" 법무부 (57) : 121-150, 2012

2 윤진수, "제조물책임의 주요 쟁점- 최근의 논의를 중심으로" 법학연구원 21 (21): 1-55, 2011

3 이중기, "자율주행자동차와 로봇윤리: 그 법적 시사점" 법학연구소 17 (17): 1-25, 2016

4 이중기, "자율주행자동차 운행에 대비한 책임법제와 책임보험제도의 정비필요성 : 소프트웨어의 흠결, 설계상 흠결 문제를 중심으로" 한국금융법학회 13 (13): 93-122, 2016

5 황인혁, "자율주행 첫 사망사고 충격…센서만으론 한계 드러낸 무인차"

6 김영국, "자율주행 자동차의 운행 중 사고와 보험적용의 법적 쟁점" 사단법인 한국법이론실무학회 3 (3): 247-280, 2015

7 하헌주, "자동차손해배상보장법의 '운행'과 상법 제726조의 2의 '자동차의 소유, 사용 또는 관리'의 개념에 관한 연구" 한국법학회 (35) : 233-257, 2009

8 한기정, "자동차손해배상보장법상의 운행의 개념에 관한 연구" 법학연구소 49 (49): 213-240, 2008

9 김은경, "자동차손해배상보장법상 운행자개념에 관한 연구 - 대법원판례를 통한 분석-" 법학연구소 (21) : 257-288, 2006

10 박세민, "자동차보험론" 2003

11 이중기, "인공지능을 가진 로봇의 법적 취급 : 자율주행자동차 사고의 법적 인식과 책임을 중심으로" 법학연구소 17 (17): 1-27, 2016

12 권영준, "불법행위의 과실 판단과 사회평균인" 한국비교사법학회 22 (22): 91-132, 2015

13 장덕조, "보험법" 법문사 2016

14 오지용, "무인자동차와 관련한 자동차손해배상보장법 제3조의 해석" 법조협회 64 (64): 94-122, 2015

15 안상현, "韓·日·EU 등 자율주행 자동차 '공통기준' 만든다… 美은 제외"

16 NHTSA, "U.S. Department of Transportation Releases Policy on Automated Vehicle Development"

17 Lavrinc, "The Real Reason Google's Self-Driving Car Doesn't Have Controls"

18 Consumer Reports, "Tesla's Autopilot: Too Much Autonomy Too Soon"

19 S Soper, "Seattle Tech Vets to Propose Driverless Stretch of Interstate 5"

20 Patrick Lin, "Robot Ethics: The Ethical and Social Implications of Robotics" The MIT Press 2012

21 Gianmarco Veruggio, "Robot Ethics" 347-348, 2012

22 Noah Goodall, "Road Vehicle Automation" Springer 93-, 2014

23 G Meyer, "Road Vehicle Automation" Springer 2014

24 Russell, Harbott, "Motor learning affects car-to-driver handover in automated vehicles" 1 (1): 2016

25 D. Vladeck, "Machines Without Principals: Liability Rules and Artificial Inteligence" 89 : 117-, 2014

26 L Solum, "Legal Personhood for Artificial Inteligences" 70 : 1231-, 1992

27 Patrick Lin, "Is Tesla Responsible for the Deadly Crash On Auto-Pilot? Maybe"

28 Koops, Hildebrandt, "Bridging the Accountability Gap: Rights for New Entities in the Information Society?" 11 : 497-, 2010