인공지능과 윤리적 이슈

국문 초록 (Abstract)

본 연구는 최근 인공지능 기술의 발달과 함께 사용이 증가됨에 따라 발생할 수 있는 윤리적 이슈에 대해 알아보고 철학, 윤리학 등에서 이루어지고 있는 연구와 논의에 대해 살펴보았다. 이를 통해 인공지능과 관련한 윤리적 이슈의 이해와 문제해결을 위해서는 인공지능이나 로봇에 대한 존재론적 인식이 가장 중요한 틀과 기준이 됨을 제시하였다. 또한 커뮤니케이션 분야에서 윤리적 이슈가 제기되는 세부 영역과 쟁점들을 고찰하였다. 구체적으로 로봇 저널리즘과 인간-인공지능 상호작용 영역을 들어, 주요 이슈와 관련 연구의 현황을 소개하였다. 마지막으로 경험적 연구의 부족을 보완하고 향후 연구를 진작하기 위한 목적으로 탐색적 연구를 통해 연구 어젠다의 제시와 함께 경험적 연구의 가능성을 모색하였다. 탐색적 연구는 전국 대표표본을 이용한 온라인 서베이를 통해 인공지능 사용자들은 본인이 비윤리적 행동이나 비윤리적 언어를 사용하더라도 인공지능 로봇은 윤리적인 측면에서 올바른 방향으로 반응해 줄 것을 기대함을 발견했다. 또한 비윤리적 행위나 언어사용의 행위자가 본인일 때보다 제3자일 때 인공지능 로봇이 더 높은 수준의 도덕적 기준을 적용할 것을 기대하는 것으로 나타났다. 이러한 결과는 사용자의 비윤리적 행위나 언어사용에 대해 인공지능 로봇이 인간의 행동을 바람직한 방향으로 이끌어주기를 기대하는 사회적 인식을 보여준다. 이는 또한 사용자들이 부분적으로나마 도덕적 주체로서의 인공지능의 역할을 인식하고 있다는 것을 의미한다. 결론적으로 본 연구는 커뮤니케이션 연구에서 인공지능과 관련된 윤리문제에 대해 살펴보고 이를 바탕으로 학문적 측면에서 현실에 적용될 수 있는 기준과 고려해야 할 사항들을 제시했다는데 그 의의가 있다.

다국어 초록 (Multilingual Abstract)

This study examined ethical issues related to the development and usage of artificial intelligence (AI) in recent years. First, the study explored the research and discussions from the disciplines of philosophy and ethics. It found that ontological perception toward AI and robots could be the most important framework and standard for the understanding of, and the solution for ethical issues and problems associated with AI. Second, the study investigated the sub-areas and their ethical issues in the study of communication, including robot journalism and human-AI interaction. Finally, the study introduced an exploratory study that examined users" attitude toward the responses and role of AI robot when the users committed unethical behaviors or unethical language use. The exploratory study uncovered that the users expected socially desirable responses and ethical guideline from AI robot even when they were involved in unethical behaviors or unethical language use. Moreover, the users expected a higher moral standard when unethical behaviors or language use were committed from the third person, compared to when such behaviors were committed from the users themselves. These findings suggest that AI users perceive AI robots as partially moral and responsible agents. In conclusion, this study contributes to the study of communication in that it offers both an ethical guideline that can be applied to the use of AI and an opportunity that promotes empirical studies relevant to ethical issues in the study of communication.

목차 (Table of Contents)

• 1. 서론
• 2. 인공지능과 윤리에 관련된 기존 연구의 현황
• 3. 커뮤니케이션 연구와 인공지능 윤리
• 4. 탐색적 연구
• 5. 결론
• 참고문헌
• Abstract

참고문헌 (Reference)

1 이원태, "인공지능의 규범이슈와 정책적 시사점" 정보통신정책연구원 2015

2 김효은, "인공지능과 윤리" 커뮤니케이션북스 2019

3 한희원, "인공지능(AI) 법과 공존윤리" 박영사 2018

4 김명주, "인공지능 윤리의 필요성과 국내외 동향" 34 (34): 45-54, 2017

5 송선영, "인공지능 로봇과 인간의 관계에 대한 윤리적 성찰과 전망" 영어권문화연구소 10 (10): 61-83, 2017

6 한상기, "인공지능 기술의 사회적 이슈와 윤리 문제" 20 (20): 41-52, 2016

7 최현철, "인공적 도덕행위자(AMA) 개발을 위한 윤리적 원칙 개발 - 하향식 접근(공리주의와 의무론)을 중심으로 -" 한국윤리학회 1 (1): 31-53, 2016

8 최용성, "인공적 도덕 행위자에 관한 도덕철학·심리학적 성찰" 한국윤리교육학회 (46) : 93-129, 2017

9 송선영, "의료용 케어로봇과 환자 간의 서사와 공감 관계의 가능성" 인간환경미래연구원 (18) : 49-76, 2017

10 송선영, "수술 로봇의 윤리적 쟁점" 한국윤리학회 1 (1): 183-202, 2016

11 임상수, "소비자 윤리 관점에서 본 인공지능 시대의 윤리교육" 한국윤리학회 1 (1): 89-116, 2017

12 조태린, "비윤리적 언어 표현의 의미 자질에 따른 하위 유형 연구 - 대화형 인공지능의 윤리적 언어 표현을 위한 기초 연구(2) -" 한민족문화학회 63 (63): 147-184, 2018

13 조병욱, "로봇저널리즘의 윤리 기준에 대한 제언" 2 (2): 5-55, 2017

14 변순용, "로봇윤리헌장의 필요성과 내용에 대한 연구" 한국윤리학회 1 (1): 295-319, 2017

15 변순용, "로봇윤리의 이론적 기초를 위한 근본 과제 연구" 한국윤리학회 1 (1): 1-26, 2013

16 변순용, "데이터 윤리에서 인공지능 편향성 문제에 대한 연구" 한국윤리학회 1 (1): 143-158, 2020

17 조태린, "대화형 인공지능의 윤리적 언어 표현을 위한 기초 연구 - 단어 단위의 비윤리적 언어 표현의 유형 분류 중심으로 -" 한국어문학회 (140) : 65-96, 2018

18 Park, N., "Unethical language use in human-artificial intelligence (AI) interaction" 2019

19 Davision, W. P., "The third-person effect in communication" 47 (47): 1-15, 1983

20 Bonnefon, J. F., "The social dilemma of autonomous vehicles" 352 (352): 1573-1576, 2016

21 Reeves, B., "The media equation: How people treat computers, television, and new media like real people and places" Cambridge University Press 1996

22 Hall, J. A., "Strategic misrepresentation in online dating: The effects of gender, self-monitoring, and personality traits" 27 (27): 117-135, 2010

23 Walther, J. B., "Self-generated versus other-generated statements and impressions in computer-mediated communication: A test of warranting theory using Facebook" 36 (36): 229-253, 2009

24 Toma, C. L., "Self-affirmation underlies Facebook use" 39 (39): 321-331, 2013

25 Hill, J., "Real conversations with artificial intelligence: A comparison between human―human online conversations and human―chatbot conversations" 49 : 245-250, 2015

26 Ho, A., "Psychological, relational, and emotional effects of self-disclosure after conversations with a chatbot" 68 : 712-733, 2018

27 Greene, J. D., "Our driverless dilemma" 352 (352): 1514-1515, 2016

28 Wallach, W., "Moral machines: Teaching robots right from wrong" Oxford University Press 2009

29 Go. E., "Humanizing chatbots: The effects of visual, identity and conversational cues on humanness perceptions" 97 : 304-316, 2019

30 Gunkel, D. J., "Human-machine communication: Rethinking communication, technology, and ourselves" Peter Lang 221-236, 2018

31 Vishwanath, A., "Habitual Facebook use and its impact on getting deceived on social media" 20 (20): 83-98, 2015

32 Yudkowsky, E., "Global catastrophic risks" Oxford University Press 308-345, 2008

33 Dörr, K. N., "Ethical challenges of algorithmic journalism" 5 (5): 404-419, 2017

34 Lee, K. M., "Can robots manifest personality?: An empirical test of personality recognition, social responses, and social presence in human―robot interaction" 56 (56): 754-772, 2006

35 Lee, K. M., "Can a robot be perceived as a developing creature?: Effects of a robot’s long-term cognitive developments on its social presence and people’s social responses toward it" 31 (31): 538-563, 2005

36 Guzman, A. L., "Artificial intelligence and communication: A human-machine communication research agenda" 22 (22): 70-86, 2019

37 변순용, "AI로봇의 도덕성 유형에 근거한 윤리인증 프로그램(ECP) 연구" 한국윤리학회 1 (1): 73-90, 2019

38 Hancock, J. T., "AI-mediated communication: Definition, research agenda, and ethical considerations" 25 (25): 89-100, 2020

39 Forsyth, D. R., "A taxonomy of ethical ideologies" 39 (39): 175-184, 1980

40 Rogers, E. M., "A history of communication study: A biographical approach" Free Press 1997