선택에 관여하는 인공지능이 사용자 평가에 미치는 영향 = Artificial Intelligence Recoomendation Agent: The mediating effect of psychological reactance and the moderating effect of source credibility

다국어 초록 (Multilingual Abstract)

Artificial intelligence automation technology, which is emerging as the core technology of the 4th industrial revolution, has been applied to replace human in various fields such as cyber security, healthcare, and commerce. While such an automated system positively affects human welfare, it has recently been mentioned that it can infringe upon the autonomy of human self-determination and selection and cause psychological reactance. This study was designed to investigate the influence of threat of individual’s choice freedom by artificial intelligence on user evaluation and the mediating role of psychological reactance. Also, the moderating role of source credibility in the relationship between perceived psychological reactance and user evaluation of artificial intelligence was examined. The results from 108 participants provided evidence that (a) threat of choice freedom negatively influence on perceived psychological reactance, (b) perceived psychological reactance negatively influence on user evaluation of artificial intelligence, (c) perceived psychological reactance partially mediated the relationship between threat of choice freedom and user evaluation, (d) source credibility moderated the relationship between threat of choice freedom and perceived psychological reactance and (e) the mediation effect of psychological reactance was moderated by source credibility. Based on these findings, theoretical and practical implication were presented and limitations with direction for future research were discussed.

국문 초록 (Abstract)

4차 산업혁명의 핵심기술로 대두되고 있는 인공지능의 자동화 기술은 사이버보안, 헬스케어, 커머스 등 사회 다양한 분야에서 인간을 대체하여 적용되고 있다. 이러한 자동화 시스템은 인간 복지에 긍정적으로 작용하는 반면, 최근에는 인간의 자기 결정과 선택에 대한 자율성을 침해하고 심리적 반발을 일으킬 수 있다고 언급되고 있다. 본 연구에서는 인공지능의 자동화 기술로 인해 발생할 수 있는 인간의 선택 자율성에 대한 위협이라는 부정적 상황이 인공지능에 대한 평가에 어떻게 영향을 미치는지를 심리학적으로 살펴보았다. 연구 결과, 인공지능 자동화 기술에 의해 침해당한 개인의 선택 자율성은 지각된 심리적 반발에 부적으로 영향을 미친다는 것을 확인하였으며 지각된 심리적 반발은 인공지능에 대한 사용자 평가에 부적인 영향을 미치는 것으로 나타났다. 사용자의 선택권 박탈에 의한 자율성 침해는 지각된 심리적 반발을 매개하여 인공지능에 대한 사용자 평가에 유의미한 영향을 주는 것으로 나타났으며, 인공지능에 대한 신뢰도에 영향을 미치는 정보원 신뢰도는 사용자의 선택권 박탈에 의한 자율성 침해가 지각된 심리적 반발을 경유하여 인공지능에 대한 사용자 평가에 미치는 간접효과를 조절하는 것으로 확인되었다. 본 연구에서는 인간과 인공지능의 조화로운 공생 관계를 이루기 위해 인공지능의 자동화 범위에 대한 고찰을 제안하고, 정보원 신뢰도를 통해 지각되는 심리적 반발을 감소시키는 방법을 제시하고자 한다.

참고문헌 (Reference)

1 최지은, "항상 설득메시지는 강할수록 좋은가?: 메시지 정보원과 소비자 반발성향의 조절효과를 중심으로" 한국상품학회 30 (30): 163-174, 2012

2 김경은, "통제소재와 과제흥미가 심리적 반발심과 과제 지속에 미치는 영향" 서울대학교 대학원 2012

3 정태일, "칸트철학에서 인간 존엄성에 대한 관점" 3 (3): 159-184, 2010

4 김재영, "정보원 출처에 따른 광고태도의 매개효과" (53) : 31-46, 2001

5 김상현, "정보 전달자의 사회적 거리감, 정보원신뢰도, 메시지의 양면성이 소비자의 설득효과에 미치는 영향:정보수용자의 관여도가 높은 상황을 중심으로" 한국광고학회 26 (26): 35-59, 2015

6 이규동, "자유 위협과 개인화에 대한 사용자의 지각이 상품 추천 서비스 수용에 미치는 영향" 한국경영정보학회 17 (17): 123-145, 2007

7 변현수, "인터넷 사용자의 신뢰, 충동, 몰입이 쇼핑몰 방문후 결과에 미치는 영향" 대한경영학회 21 (21): 1523-1542, 2008

8 최지은, "인터넷 검색 목표와 소비자의심리적 반발 성향이 팝업광고에 대한 짜증에 미치는 영향" 한국광고학회 26 (26): 7-24, 2015

9 조영임, "인공지능 기술 동향 및 발전 방향" 정보통신기술진흥센터 13-26, 2016

10 이은영, "온라인 환경에서의 정보특성이 구전효과에 미치는 영향에 관한 연구 : 소비자 제품지식의 조절효과를 중심으로" 한국광고학회 16 (16): 145-171, 2005

11 권혁인, "온라인 쇼핑몰의 AI 기반 큐레이션 서비스에 대한 소비자 혁신저항이사용의도에 미치는 영향" 국제e-비즈니스학회 19 (19): 91-108, 2018

12 박성화, "온라인 소비자 커뮤니티의 구전 수용 과정 연구 : 정보원 신뢰(Source Trust)를 중심으로" 연세대학교 대학원 2009

13 서희정, "온라인 동영상 광고의 강제노출이 광고태도에 미치는 영향: 맥락일치성에 따른 심리적 반발의 조절된 매개효과" 한국광고학회 29 (29): 73-93, 2018

14 서혜선, "심리적 반발수준에 따른 메시지 명시성의 효과" 2005 (2005): 30-31, 2005

15 서영수, "소비자의 스마트폰 수용시점에 따른 만족도와 추천의도 연구" 건국대학교 대학원 2013

16 강나윤, "레스토랑 온라인 이용후기의 메시지측면성이 정보신뢰도와 레스토랑 방문의도에 미치는 영향" 한국호텔외식관광경영학회 23 (23): 1-22, 2014

17 김현숙, "금연을 위한 공익광고 캠페인에 있어서 청소년 수용자의 심리적 저항에 대한 연구" 한국광고홍보학회 14 (14): 5-32, 2012

18 Rijsdijk, S. A., "“Honey, have you seen our hamster?” Consumer evaluations of autonomous domestic products" 20 (20): 204-216, 2003

19 이민화, "[전문가 기고 _ 이민화 KAIST 교수, 벤처기업협회 명예회장] 인공지능과 4 차 산업혁명 그리고 인공지능 혁명의 본질" 57 : 14-16, 2016

20 김영대, "[Zoom in] 인공지능, 생활로 가져온 말하는 스피커" 2017 (2017): 116-117, 2017

21 장필성, "[EU] 2016 다보스포럼 : 다가오는 4 차 산업혁명에 대한 우리의 전략은?" 26 (26): 12-15, 2016

22 IDC, "Worldwide Spending on Cognitive and Artificial Intelligence Systems Forecast to Reach $77.6 Billion in 2022, According to New IDC Spending Guide"

23 Bruner, G. C., "Web commercials and advertising hierarchy-of-effects" 40 (40): 35-42, 2000

24 Heiskanen, E., "User involvement in radical innovation : are consumers conservative?" 10 (10): 489-509, 2007

25 Bhattacherjee, A., "Understanding information systems continuance: an expectation-confirmation model" 351-370, 2001

26 Johnson, D. S., "Understanding how technology paradoxes affect customer satisfaction with self‐service technology : The role of performance ambiguity and trust in technology" 25 (25): 416-443, 2008

27 Lin, J. C. C., "Towards an understanding of the behavioural intention to use a web site" 20 (20): 197-208, 2000

28 Schweitzer, F., "To be or not to be in thrall to the march of smart products" 33 (33): 830-842, 2016

29 Friestad, M., "The persuasion knowledge model : How people cope with persuasion attempts" 21 (21): 1-31, 1994

30 Burgoon, M., "The persuasion handbook" 213-232, 2002

31 Hmel, B. A., "The meaning of autonomy : On and beyond the interpersonal circumplex" 70 (70): 277-310, 2002

32 Hovland, C. I., "The influence of source credibility on communication effectiveness" 15 (15): 635-650, 1951

33 USB, "The evolution of artificial intelligence"

34 Chan, R. Y., "The effectiveness of environmental claims for services advertising" 20 (20): 233-250, 2006

35 Braidotti, R., "The Posthuman" Polity Press 2013

36 Rijsdijk, S. A., "The PDMA handbook of new product development" Wiley 297-309, 2013

37 오미영, "TV 드라마 PPL에 대한 심리적 반발에 관한 연구" 한국언론학회 55 (55): 384-409, 2011

38 Deci, E. L., "Support of autonomy and the control of behavior" 53 : 1024-1037, 1987

39 Chiou, J. S., "Should a company have message boards on its web sites?" 17 (17): 50-61, 2003

40 Ryan, R. M., "Self-determination theory and the facilitation of intrinsic motivation, social development, and well-being" 55 (55): 68-, 2000

41 Deci, E. L., "Self-determination theory" 1 (1): 416-433, 2011

42 Brehm, J. W., "Responses to the loss of freedom: A theory of psychological reactance" General Learning Press 1972

43 Hong, S. M., "Refinement of the Hong psychological reactance scale" 56 (56): 173-182, 1996

44 Pavey, L., "Reactance, autonomy and paths to persuasion: Examining perceptions of threats to freedom and informational value" 33 (33): 277-290, 2009

45 Fitzsimons, G. J., "Reactance to recommendations : When unsolicited advice yields contrary responses" 23 (23): 82-94, 2004

46 Brehm, J. W., "Psychological reactance: Theory and applications" ACR North American Advances 1989

47 Brehm. S. S., "Psychological reactance: A theory of freedom and control" Academic Press 1981

48 Nora Wiium, "Psychological Reactance and Adolescents' Attitudes Toward Tobacco-Control Measures" Wiley 39 (39): 1718-1738, 2009

49 Wegner, D. M., "Précis of the illusion of conscious will" 27 (27): 649-659, 2004

50 Wicklund, R. A., "Prechoice preference reversal as a result of threat to decision freedom" 14 (14): 8-, 1970

51 Jones, R. A., "Persuasiveness of one-and two-sided communications as a function of awareness there are two sides" 6 (6): 47-56, 1970

52 deCharms, R., "Personal causation and the origin concept" 1992

53 Davis, F. D., "Perceived usefulness, perceived ease of use, and user acceptance of information technology" 319-340, 1989

54 Dillard, J. P., "On the nature of reactance and its role in persuasive health communication" 72 (72): 144-168, 2005

55 Kelley, H. H., "Nebraska symposium on motivation" University of Nebraska Press 1967

56 Searle, John R., "Minds, Brains, and Programs" Bradford 1981

57 Leachman, S. A., "Medicine : The final frontier in cancer diagnosis" 542 (542): 36-, 2017

58 Minsky, M. L., "Matter, minds, models" MIT Press 1968

59 Belch, G. E., "Introduction To Advertising And Promotion Management" Irwin 1990

60 Deci, E. L., "Intrinsic motivation and self-determination in human behavior" Springer Science & Business Media 1985

61 Hodgins, H. S., "Handbook of self-determination research" 87-, 2002

62 Müller, V. C., "Fundamental issues of artificial intelligence" Springer 555-572, 2016

63 Wicklund, R. A., "Freedom and reactance" Lawrence Erlbaum 1974

64 Elliott, M. T., "Factors that affect attitude toward a retail web site" 13 (13): 40-51, 2005

65 Haley, E., "Exploring the construct of organization as source : Consumers' understandings of organizational sponsorship of advocacy advertising" 25 (25): 19-35, 1996

66 Murray, H. A., "Explorations in personality" Oxford 1938

67 Koestner, R., "Distinguishing reactive versus reflective autonomy" 64 (64): 465-494, 1996

68 Rimmer, T., "Different questions, different answers? Media use and media credibility" 64 (64): 28-44, 1987

69 Park, H. J., "Desire for control and Smart products" 301-302, 2015

70 Wendlandt, M., "Consumer reactance against loyalty programs" 24 (24): 293-304, 2007

71 Häubl, G., "Consumer decision making in online shopping environments : The effects of interactive decision aids" 19 (19): 4-21, 2000

72 Dhar, R., "Consumer choice between hedonic and utilitarian goods" 37 (37): 60-71, 2000

73 Clee, M. A., "Consumer behavior and psychological reactance" 6 (6): 389-405, 1980

74 André, Q., "Consumer Choice and Autonomy in the Age of Artificial Intelligence and Big Data" 5 (5): 28-37, 2018

75 Hanna, N., "Consumer Behavior: An Applied Approach" Prentice-Hall Inc. 2001

76 Ohanian, R., "Construction and validation of a scale to measure celebrity endorsers' perceived expertise, trustworthiness, and attractiveness" 19 (19): 39-52, 1990

77 Reinders, M. J., "Consequences of forcing consumers to use technology-based self-service" 11 (11): 107-123, 2008

78 Gotlieb, J. B., "Comparative advertising effectiveness : The role of involvement and source credibility" 20 (20): 38-45, 1991

79 Endsley, M. R., "Autonomous driving systems : a preliminary naturalistic study of the Tesla Model S" 11 (11): 225-238, 2017

80 Weiner, B., "Attributional thoughts about consumer behavior" 27 (27): 382-387, 2000

81 Russell, S. J., "Artificial intelligence: a modern approach" Pearson Education Limited 2016

82 Lee, K., "Artificial intelligence, automation, and the economy"

83 Steele, C. M., "Advances in experimental social psychology Vol. 21" Academic Press 261-302, 1988

84 ARM, "AI TODAY, AI TOMORROW"

85 Brehm, J. W., "A theory of psychological reactance" 1966

86 박종서, "4차 산업혁명 시대를 이끄는 핵심 기술동향"

87 이경상, "4차 산업혁명 시대를 이끄는 핵심 기술동향"

88 김원준, "4차 산업혁명 시대를 이끄는 핵심 기술동향"