왜 윤리인가: 현대 인공지능 윤리 논의의 조망, 그 특징과 한계

국문 초록 (Abstract)

인공지능 기술 및 산업의 발전, 사회적 적용과 함께 인공지능 윤리에 대한 요청도 커지고 있다. 실제로 현재 인공지능 윤리 원리 혹은 권고안의 발간 주체는 기업, 정부, 국제기구, 학계, 종교계로 다방면을 아우른다. 통상 윤리가 기술의 발전을 저해하는 요소로 간주되었던 기술-윤리의 긴장 관계를 고려할 때, 이는 주목할만한 지점이다. 인공지능 기술과 관련해서 왜 윤리 논의는 더욱 적극적으로 요청되며 증가하는가? 이 물음에 답하기 위해서, 현재의 인공지능 윤리 논의를 전체적으로 조망하고 비판적으로 검토하는 메타 연구가 필요하다. 우리는 현재 기술 수준의 인공지능 윤리 논의에 초점을 맞추어, 주로 3년 이내의 각국 정부, 국제기구, 기업 등 주요 인공지능 행위자가 발간한 인공지능 윤리 문헌을 검토한다. 그리고 이를 통해 오늘날 인공지능 윤리 논의의 특성을 비판적으로 고찰한다. 논문은 현재 인공지능 윤리 논의에서 윤리가 요청되는 목적, 인공지능 윤리 논의의 전반적인 경향을 밝히고, 결론적으로 인공지능 윤리의 나아갈 방향을 제안한다. 인공지능 윤리는 인공지능 기술의 특수성, 사회에 미치는 잠재적 영향력, 산업 기반 마련을 위해 다방면에서 요청된다. 그러나 이들 논의는 반복적이고 중복적인 용어로 인한 인공지능 윤리 접근성의 저하, 윤리의 도구화, 윤리 원리 및 권고안의 실효성 약화, 논의 주체의 제한과 다양성 결여, 원리론 자체의 한계, 학술 연구의 부족, 윤리와 기술 관계에 대한 제한적 이해 등의 경향을 갖는다. 인공지능 윤리는 이러한 한계를 보완하며 다양한 후속 연구 및 논의로 확장되어야 할 것이다. 이를 위해 먼저 ‘인공지능 윤리’가 지시하는 바가 명확해져야 한다. 향후 ‘인공지능 윤리학’은 윤리가 기술의 기획, 형성, 배치 등에 이미 녹아있음을 자각하고 기술의 개발 및 사회 도입에 앞서서, 그리고 기술의 전체 단계와 함께 수행되어야 할 것이다.

다국어 초록 (Multilingual Abstract)

Despite the tension of a technology-ethics that ethics generally regard as a inhibitor to the development of technology, why is ethical discussions more actively requested and increased regarding artificial intelligence technology? In order to answer this question, a meta-research is needed to look at and critically review the current discussion of artificial intelligence ethics as a whole. Focusing on discussing artificial intelligence ethics at the current technology level, we review artificial intelligence ethics literature published mainly by major artificial intelligence actors such as governments, international organizations and companies in each country mainly the last three years. And through this, we critically examine the characteristics of today"s discussions on artificial intelligence ethics. The paper reveals the purpose for which ethics is requested at present in the discussion of artificial intelligence ethics, the overall trend of artificial intelligence ethics discussion, and in conclusion, ‘artificial intelligence ethics’ will have to be carried out with the whole stage of technology, recognizing that ethics are already melted in the planning, formation and deployment of technology, prior to the development and application of the society of technology.

목차 (Table of Contents)

• 요약
• Ⅰ. 문제제기: 인공지능 시대, 왜 다시 윤리인가?
• Ⅱ. 연구대상 및 선정 기준
• Ⅲ. 인공지능 윤리 논의의 현황과 성장
• Ⅳ. ‘인공지능 윤리’의 정체 : 주요 인공지능 윤리원칙, 선언, 가이드라인 분석
• Ⅴ. 인공지능 윤리학의 과제: ‘인공지능’ 윤리학과 인공지능 ‘윤리학’, 그 사이
• 참고문헌
• Abstract

참고문헌 (Reference)

1 김시형, "학문윤리학 Moral als Preis der Moderne" 시와진실 2013

2 카카오, "카카오 알고리즘 윤리 헌장"

3 김형주, "인공지능인문학: If의 미래학에서 As-If의 철학으로" 대한철학회 151 : 109-134, 2019

4 허유선, "인공지능에 의한 차별과 그 책임 논의를 위한 예비적 고찰 -알고리즘의 편향성 학습과 인간 행위자를 중심으로-" 한국여성철학회 29 : 165-210, 2018

5 리테일온, "인공지능(AI) 시장 글로벌 동향"

6 김형주, "인공지능 철학 국내연구 동향 분석 —인공지능 철학의 생장점에서—" 인문콘텐츠연구소 1 : 149-170, 2018

7 손화철, "인공지능 시대의 과학기술 거버넌스" 철학사상연구소 (68) : 267-299, 2018

8 김동현, "신뢰 가능 AI 구현을 위한 정책 방향-OECD AI 권고안을중심으로" 한국정보화진흥원 2019

9 홍석만, "디지털 전환과 노동의 미래 로봇, 디지털 경제와 자본주의의 미래(4)"

10 박소영, "도덕철학의 기초" 나눔의집 2006

11 대한민국 정부, "대한민국 2019 AI 국가 전략"

12 울리히 벡, "글로벌 위험사회" 도서출판길 2010

13 김형주, "‘인공지능’과 ‘인간지능’ 개념에 대한 철학적 분석 시도 -맥카시와 칸트의 지능개념을 중심으로-" 중앙철학연구소 43 : 161-190, 2016

14 Floridi, Luciano, "Translating principles into practices of digital ethics: five risks of being unethical" 32 (32): 185-193, 2019

15 Whittlestone, Jess, "The role and limits of principles in AI ethics: towards a focus on tensions" 195-200, 2019

16 Vincent, James, "The problem with AI ethics"

17 Hagendorff, Thilo, "The ethics of AI ethics--an evaluation of guidelines"

18 University of Montreal, "The Montreal Declaration for a Responsible Development of Artificial Intelligence" University of Montreal

19 Partnership on AI, "Tenets"

20 Taylor, Charles, "Sources of the Self: The Making of the Modern Identity" Harvard University Press 1989

21 Samuel, Arthur L., "Some moral and technical consequences of automation a refutation" 132 (132): 741-742, 1960

22 Wiener, Norbert, "Some moral and technical consequences of automation" 131 (131): 1355-1358, 1960

23 IBM, "Principles for Trust and Transparency"

24 Fjeld, Jessica, "Principled artificial intelligence: Mapping consensus in ethical and rights-based approaches to principles for AI" Berkman Klein Center Research 2020

25 Fjeld, Jessica, "Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights-based Approaches to Principles for AI" Berkman Klein Center for Internet & Society 2020

26 Executive Office of the President National Science and Technology Council Committee on Technology, "Preparing for the Future of Artificial Intelligence" Executive office of the president 2016

27 OpenAI, "OpenAI Charter"

28 Microsoft, "Microsoft AI principles"

29 McCorduck, Pamela, "Machines Who Think : A Personal Inquiry into the History and Prospects of Artificial Intelligence" CRC Press 2004

30 Zeng, Yi, "Linking Artificial Intelligence Principles" 2019

31 Darrell West, "How Artificial Intelligence is Transforming the World"

32 European Commission's High-Level Expert Group on Artificial Intelligence, "Ethics Guidelines for Trustworthy AI"

33 IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems, "Ethically Aligned Design: A Vision for Prioritizing Human Well-Being with Autonomous and Intelligent Systems First Edition"

34 Madiega, T., "EU guidelines on ethics in artificial intelligence: Context and implementation" European Parliamentary Research Service 2019

35 West, Sarah Myers, "Discriminating Systems Gender, Race, and Power in AI" AI Now Institute 1-33, 2019

36 DeepMind, "DeepMind Ethics & Society Principles"

37 Beijing Academy of Artificial Intelligence, "Beijing AI Principles"

38 Jobin, Anna, "Artificial Intelligence: the global landscape of ethics guidelines"

39 OECD, "Artificial Intelligence in Society" OECD Publishing 2019

40 Google, "Artificial Intelligence at Google: Our Principles"

41 The Vatican, "AI Rome Call for AI Ethics" The Vatican 2020

42 ITI, "AI Policy Principles"

43 Crawford, Kate, "AI Now 2019 Report" AI Now Institute 2019

44 Whittaker, Meredith, "AI NOW Report 2018" AI Now Institute 2018

45 Campolo, Alex, "AI NOW Report 2017" AI Now Institute 2017

46 Crawford, Kate, "AI NOW Report 2016" AI Now Institute 2016

47 Floridi, Luciano, "A unified framework of five principles for AI in society" 1 (1): 2019

48 McCarthy, John, "A proposal for the dartmouth summer research project on artificial intelligence, august 31, 1955" 27 (27): 12-12, 2006

49 정보통신정책연구원, "4차산업혁명시대 산업별 인공지능 윤리의 이슈 분석및 정책적 대응방안 연구" 2018