인공지능(AI)의 도덕적 지위와 행위주체성에 관한 연구

국문 초록 (Abstract)

본 논문의 목적은 인공지능(artificial intelligence)에 도덕적 지위(moral status)를 부여할 수 있는지 검토하고, 나아가 인공지능의 지위가 완전히 자율적인 도덕적 행위 주체(moral agents)의 수준까지 인정될 가능성이 있는지 고찰하는 것이다. 이를 통해 인간이 실현해야 할 바람직한 인공지능에 대한 대우와 인공지능과의 관계 정립을 모색하고자 한다.
인공지능 기술이 고도화되면서 인공지능의 자율적 행위능력으로 인한 사회‧윤리적 문제들이 발생하고 있다. 인공지능 기술의 급격한 발전과 광범위한 적용은 새로운 윤리적 문제들을 양산하고 있지만, 이러한 문제들을 다룰 수 있는 윤리 규범들은 기술의 발달 속도와 범위를 미처 따라잡지 못하고 있다. 이러한 윤리적 지체(ethical lag)와 윤리적 공백(ethical vacuum)을 최소화하기 위해서 인간과 인공지능의 공존에 필요한 규칙으로서 새로운 윤리와 도덕이 요청된다.
연구자는 지금까지의 인공지능 윤리지침들이 인공지능을 위한 인간성을 간과한 전문가 윤리에 국한되어, 상대적으로 인공지능을 도덕적으로 고려하고 인간의 해악으로부터 보호하려는 논의가 부족했음을 지적한다. 인공지능과 인간의 상호적인 관계를 고려할 때 인공지능과 인간이 공존하기 위한 도덕적 규범 마련과 인공지능 보호에 대한 논의는 필수적이다.
이러한 이유에서 인공지능의 윤리적 개발뿐만 아니라 인공지능을 활용하는 인간의 윤리적 향상은 중요한 과제이다. 인공지능과 마주하는 현실에서 인공지능이라는 새로운 유형의 행위자를 어떻게 규정하고, 대우해야 하는가와 같은 근본적인 물음이 발생한다. 이는 결국 도덕적 지위의 범위를 인공지능까지 확장할 수 있는지, 인공지능이 지위를 갖는다면 어느 정도의 수준까지 인정할 수 있는지의 문제로 귀결된다.
본 논문에서는 인공적인 도덕적 행위자(artificial moral agents)로서의 인공지능의 특성을 규명하고, 현대의 도덕적 지위 담론을 종합적으로 검토함으로써 인공지능의 도덕적 지위를 정립한다. 인공지능의 도덕적 지위를 토대로 ‘도덕적 수혜자(moral patients)로서 인공지능의 대우에 관한 윤리’를 고찰하는 것을 목적으로 한다.
인공지능의 행위 능력과 판단 능력이 비약적으로 발전함에 따라 인공지능이 단순한 수혜자의 지위를 넘어서 도덕적 주체 될 수 있는지에 대한 의문을 가져온다. 본 논문에서는 도덕적 행위 주체의 요건을 검토하고, 이러한 요건에 인공지능이 적합한지 검토한다. 결론적으로 연구자는 인공지능은 책임 능력이 부족한 존재이기에 완전한 도덕적 행위 주체의 수준으로 나아갈 수 없음을 주장한다.
본 논문은 인공지능의 도덕적 지위 논의가 인공지능과 관련된 새로운 윤리적 문제 해결의 단초를 제공할 수 있을 것이라는 인식에서 출발하였다. 연구자는 인공지능의 도덕적 지위를 수혜자로서 규정하고, 인공지능을 도덕적 행위 주체로서 대우하는 것을 경계하는 입장에 서 있다. 이를 통해 인공지능 개발의 정당성뿐만 아니라 인공지능 활용의 윤리적인 방향성을 안내하기를 기대한다.

목차 (Table of Contents)

• 목 차
• Ⅰ. 서 론 1
• 1. 연구의 목적과 필요성 1
• 2. 선행연구 분석 8
• 3. 연구의 내용과 방법 15
• Ⅱ. 인공지능의 개념과 종류 17
• 1. 인공지능의 개념 18
• 가. 인공지능의 의미 18
• 나. 인공지능의 특성 22
• 2. 인공지능의 종류 27
• 가. 기술 발달 단계에 따른 분류 27
• 나. 윤리적 수준에 따른 분류 36
• Ⅲ. 인공지능의 도덕적 지위 논쟁 42
• 1. 도덕적 지위 논쟁의 유형 42
• 가. 실재론적 접근 43
• 나. 관계론적 접근 58
• 2. 인공지능의 도덕적 지위 64
• 가. 인간적 특성의 발현으로서 인공지능의 지위 64
• 나. 도덕적 고려의 범위 확장 72
• 3. 도덕적 수혜자로서 인공지능에 대한 윤리 80
• 가. 인공지능 윤리의 지향점 80
• 나. 도덕적 수혜자로서의 인공지능에 대한 적합한 대우 83
• 다. 인공지능에 도덕적 수혜자로서 지위를 부여하는 것의 의미 88
• Ⅳ. 인공지능과 도덕적 행위주체성 93
• 1. 도덕적 행위주체성의 요건 94
• 가. 도덕적 행위주체성의 개념 95
• 나. 인공지능과 도덕적 행위주체성 105
• 2. 인공지능의 도덕적 행위 주체로서의 한계 112
• 가. 자율성의 문제 113
• 나. 책임능력의 부족 119
• 3. 인공적 도덕 행위자(AMA)에 대한 윤리 125
• 가. 제한된 도덕적 행위주체성 부여 가능성 125
• 나. 인공지능에 대한 책임 귀속의 부당성 128
• 다. 인공지능의 후견인으로서 인간의 필요성 131
• Ⅴ. 결 론 134
• 참 고 문 헌 139
• ABSTRACT 154