인간과 인공지능은 감정이입을 통해 상호작용이 가능한가? -돌봄과 치료의 영역을 중심으로-

이은영 ( Eun Young Lee ) 한국하이데거학회 2022 현대유럽철학연구 Vol.- No.64

인간과 인공지능은 감정이입을 통해 상호작용이 가능한가? 감정이입 및 공감능력이 인간의 본질 또는 진정한 인간의 모습으로 제시될 수 있다면(적어도 에디트 슈타인과 리프킨이 강조하듯이), 따라서 감정이입이 인간 상호작용의 중요한 지점이 될 수 있다면, 인공지능도 인간에게 그것을 통한 상호작용이 가능한가의 문제가 제기될 수 있다. 만일 인공지능이 인간에게 감정이입을 통한 상호작용이 가능하다면, 그것이 왜 돌봄과 치료 영역에서 논의되어야 하는가. 그것은 돌봄의 실천적 영역인 의료현장에서 공감을 통한 의사소통이 의료인과 환자 사이에 인간관계의 신뢰와 치료 과정에 필수적이기 때문일 것이다. 그런 한에서 이 글은 의료인과 환자가 상호 원활한 의사소통을 진행할 수 없는 말기환자의 돌봄 문제에서 인간과 인공지능의 상호작용이 공감과 감정이입을 통해 어느 정도 유효한지 논의하는데 목표를 두고 있다. 그 과정에서 인공지능 로봇은 인간과 감정 교환을 통한 관계 형성을 진행할 수 있다는 주장이 성립된다. 다시 말해서 인공지능과 인간의 감정표현을 통한 관계형성의 가능성이 인정되는 지점에서 인공지능 로봇은 인간과 관계 형성이 가능하며, 인간과 인공지능의 상호작용이 가능하다고 인정하는 영역에서는 이것을 인공지능이 인간과 감정교환을 통해 인간을 이해할 수 있다고 주장할 수 있다. 만일 이러하다면 인공지능 로봇은 인간과 감정이입이 가능하게 된다. 하지만 인공지능 로봇과 인간의 그것이 가능하지 않다고 인정하는 영역에서는 인공지능 로봇이 empathy로서 감정이입을 통해서 인간을 이해하기 보다는 감정교환 행위를 통해서 인간으로 하여금 인공지능 로봇이 인간 자신을 이해하고 있다고 착각하게 한다고 주장할 것이다. 그럼에도 불구하고 코로나 상황에서 인공지능 로봇은 돌봄 영역과 로봇을 통한 치료의 영역인 ‘치료 로봇’(therapeutic robot)의 영역에서 상당한 기여를 하고 있는 것도 사실이다. 그런 한에서 인공지능 로봇의 발전이 어느 정도까지 진행될지, 인공지능 로봇이 돌봄을 요구하는 환자들에게 어느 정도 치료효과를 부여할 수 있는지 기대되는 것도 사실이다. Can humans and artificial intelligence interact with each other? If empathy and sympathy can be presented as human nature or true human form (at least as Edith Stein and Rifkin emphasize), therefore making empathy an important aspect of human interaction, can artificial intelligence also interact with humans through empathy? If so, why is it discussed in the field of patient care? The reason may be because communication through empathy in the medical field, which is a practical area of care, is essential for trust in the relationship between medical personnel and patients and for the treatment process. Particularly, terminally ill patients cannot verbally communicate smoothly to medical personnel (in this case, the category of human is defined as a patient in a state of pain and who needs care). Thus, the degree of the effectiveness of the interaction between humans and artificial intelligence through sympathy and empathy must be determined. In the process, artificial intelligence robots are believed to proceed with forming relationships with humans through emotional exchange. As a result, a relationship may be formed between artificial intelligence and human emotion expression, enabling artificial intelligence robots to establish relationships with humans. Moreover, in areas where humans and artificial intelligence are recognized, artificial intelligence can understand humans through emotional exchange. Thus, artificial intelligence robots can empathize with humans. However, do artificial intelligence robots truly empathize with humans? In other words, can artificial intelligence robots understand humans who exist as others through empathy? Arguing that humans misinterpret that artificial intelligence robots understand humans through emotional exchange rather than understanding humans through empathy would be more reasonable. Nevertheless, amid the COVID-19 pandemic, artificial intelligence is expected to develop in the field of care and therapy through robots. Thus, the extent to which they can provide effective therapy to patients must be determined.

인공 지능에서 인공 감정으로

천현득(Hyundeuk Cheon) 한국철학회 2017 철학 Vol.0 No.131

인공 감정에 관한 철학적 탐구가 필요한 시점이다. 인간의 고유한 영역으로 간주되던 인지적 과제에서 기계의 추월을 염려하는 처지가 되자, 사람들은 이제 이성이 아니라 감정에서 인간의 고유성을 찾으려한다. 하지만 최근 인공지능 로봇에 감성을 불어넣는 작업이 새로운 화두로 떠오르고 있다. 이 글은 인공 감정의 실현가능성과 잠재적인 위험을 논의한다. 먼저, 감성 로봇의 개발 현황과 주요한 동기들을 개괄하고, 왜 로봇의 감정이 문제가 되는지 살펴본다. 진정한 감정-소유 로봇이 가능한지 검토하기 위해 감정을 선험적으로 정의하기보다는 감정이 수행하는 몇 가지 핵심 역할을 소개하고 이로부터 어떤 대상에 감정을 부여할 수 있는 기준들을 제안한다. 나는 이런 기준에 비추어 진정한 감정 로봇이 근미래에 실현될 가능성이 낮다고 주장한다. 그러나 감정-소유 로봇이 등장하기 이전이라도, 어느 정도의 자율성을 가진 로봇과 맺는 일방적 감정 소통은 잠재적으로 위험할 수 있으며, 이에 대비하는 것이 시급하다고 주장한다. As artificial intelligence outperforms humans in some cognitive tasks which have been regarded as properly belonging to the human being, there is growing anxiety that people experience. Now, many people attempt to place the uniqueness of the humans in emotion rather than reason or intelligence. Since artificial emotions and emotional robots are emerging as new topics in artificial intelligence and robotics, however, philosophical treatment of them is required. I begin with discussing what has motivated to develop emotional robots and why emotions matter in robotics. After reviewing the current status of emotional robots, I examine whether the emotion-possessing robots are possible. The possibility of artificial emotions depends on what emotions really are. Instead of stipulating the definition of emotions, I suggest criteria on which we can assign emotions to other people, animal, or alien objects including artificial agents by considering the key roles played by emotions in intelligent beings. On these criteria, I argue, it is unlikely for genuinely emotional robots to be realized in the near future. Still, even if emotional robots would not appear shortly, unidirectional emotional bonds with social robots equipped with some degree of autonomy are potentially detrimental, which ought to be seriously considered in an ethical discussion of robots.

인공지능 수용의도에서 정부신뢰의 역할

황서이,남영자 한국디지털정책학회 2020 디지털융복합연구 Vol.18 No.8

The purpose of this study is to discuss implications for government policy aimed at increasing public’s intention to accept AI. Knowledge regarding AI and feelings regarding AI were found to influence acceptance to intention towards AI. Hierarchical regression analysis was then conducted to explore the moderation effect of confidence in government on knowledge and feelings regarding AI. Results showed that as advanced knowledge regarding AI has a positive influence on acceptance intention towards AI and negative feelings regarding AI has a negative influence on acceptance intention towards AI. Feelings regarding AI had the highest impact on acceptance intention towards AI, followed by confidence in government and knowledge regarding AI. Results also revealed that a high level of confidence in government regulations was associated with greater acceptance intention towards AI and a low level of confidence in government regulations acceptance intention towards AI was more influenced by feelings regarding AI than by knowledge regarding AI. Furthermore, religion had a significant influence on acceptance intention towards AI, which provides one insightful direction for future research. 본 연구는 인공지능 수용의도를 증가시킬 수 있는 정책적 시사점을 제시하고자 하였다. 이를 위해 인공지능에 대한 지식수준과 감정적 요인이 인공지능 수용의도에 미치는 영향을 확인하였고, 이에 대한 영향을 정부신뢰가 조절하는지 검증하고자 위계적 회귀분석을 활용하였다. 연구결과는 다음과 같다. 첫째, 인공지능에 대한 지식수준이 높을수록 수용의도가 증가하였고, 인공지능에 대한 감정이 부정적으로 형성될수록 인공지능의 수용의도가 감소하였다. 그리고 수용의도에 미치는 영향은 인공지능에 대한 감정, 정부신뢰, 지식 순으로 나타났다. 둘째, 규제에 대한 정부신뢰가 높을수록 수용의도가 증가하였으며, 규제에 대한 정부신뢰가 낮은 집단일수록 인공지능에 대한 감정이 수용의도에 미치는 영향이 더 큰 것으로 나타났다. 한편, 인구통계학적 요인 중 종교가 인공지능 수용의도에 유의미한 영향을 미치는 것으로 나타나 후속연구에 대한 필요성을 제안하였다. 이 연구는 전반적인 인공지능에 대한 지식과 감정, 그리고 규제에 대한 정부신뢰라는 변인을 통해 인공지능에 대한 인식과 판단을 실증 분석하여 인공지능 연구를 위한 기초자료를 제공하는데 의의가 있다.

인공 감정 모델의 설계

이인근,서석태,정혜천,권순학 한국지능시스템학회 2007 한국지능시스템학회 학술발표 논문집 Vol.17 No.1

인간이 생성한 음성, 표정 영상, 문장 등으로부터 인간의 감정 상태를 인식하는 연구와 함께, 인간의 감정을 모방하여 다양한 외부 자극으로 감정을 생성하는 인공 감정(Artificial Emotion)에 관한 연구가 이루어지고 있다. 그러나 기존의 인공 감정 연구는 외부 감정 자극에 대한 감정 변화 상태를 선형적, 지수적으로 변화시킴으로써 감정 상태가 급격하게 변하는 형태를 보인다. 본 논문에서는 외부 감정 자극의 강도와 빈도뿐만 아니라 자극의 반복 주기를 감정 상태에 반영하고, 시간에 따른 감정의 변화를 Sigmoid 곡선 형태로 표현하는 감정 생성 모델을 제안한다. 그리고 기존의 감정 자극에 대한 회상(recollection)을 통해 외부 감정 자극이 없는 상황에서도 감정을 생성할 수 있는 인공 감정 시스템을 제안한다.

인공지능 디바이스의 조명효과에 대한 사용자이 감정 평가 분석

현윤아,반영환,유훈식 한국감성과학회 2019 감성과학 Vol.22 No.3

Artificial intelligence (AI) technology has been evolving to recognize and learn the languages, voice tones, and facial expressions of users so that they can respond to users' emotions in various contexts. Many AI-based services of particular importance in communications with users provide emotional interaction. However, research on nonverbal interaction as a means of expressing emotion in the AI system is still insufficient. We studied the effect of lighting on users' emotional interaction with an AI device, focusing on color and flickering motion. The AI device used in this study expresses emotions with six colors of light (red, yellow, green, blue, purple, and white) and with a three-level flickering effect (high, middle, and low velocity). We studied the responses of 50 men and women in their 20s and 30s to the emotions expressed by the light colors and flickering effects of the AI device. We found that each light color represented an emotion that was largely similar to the user's emotional image shown in a previous color-sensibility study. The rate of flickering of the lights produced changes in emotional arousal and balance. The change in arousal patterns produced similar intensities of all colors. On the other hand, changes in balance patterns were somewhat related to the emotional image in the previous color-sensibility study, but the colors were different. As AI systems and devices are becoming more diverse, our findings are expected to contribute to designing the users emotional with AI devices through lighting. 인공지능기술은 사용자의 언어, 목소리 톤, 표정을 인지하고 학습하여 다양한 맥락에서 사용자의 감정에 대응할 수 있도록 발전하고 있다. 여러 인공지능 기반 서비스 중에서 특히 사용자와의 커뮤니케이션이 중요한 서비스 다수 는 감정을 표현하는 인터랙션을 제공한다. 그러나 인공지능 시스템의 감정을 표현하는 수단으로서의 비언어적 인터 랙션에 관한 연구는 아직 미비하다. 이에 조명효과 중 특히 색상과 깜빡임 운동을 중심으로 인공지능 디바이스의 감성 인터랙션을 연구하였다. 본 연구에서 구현한 인공지능 디바이스 프로토타입은 red, yellow, green, blue, purple, white 6가지의 조명 색상과 느림, 중간, 빠른 세 단계 속도의 깜빡임 효과로 감정을 표현한다. 프로토타입을 활용하여 20대부터 30대 남녀 50명을 대상으로 인공지능 디바이스의 색상별, 속도별 조명 효과가 표현하고 있는 감정에 응답 하는 실험을 진행하였다. 실험 결과 각 조명 색상은 기존 색채감성연구에서 드러난 감성적 이미지와 대체로 유사한 감정을 나타내는 것으로 평가되었다. 조명의 깜빡임 속도는 감정의 각성과 밸런스의 변화에 영향을 주었으며, 이 때 각성의 변화 양상은 모든 색상에서 유사한 기조를 보였다. 밸런스 변화 양상은 기존 색채감성연구의 감성적 이미 지와 어느 정도 관련이 있지만 색상 별 차이가 있는 것으로 관찰되었다. 인공지능 시스템을 탑재한 사물의 종류와 인공지능 디바이스가 점점 다양해지는 현 시점에서, 본 연구결과는 조명을 통한 인공지능의 감성 인터랙션을 설계할 때 기여할 수 있을 것으로 기대된다.

인공지능에 대한 지식, 감정, 수용의도 관계에서 위험인식의 매개 및 조절효과 분석

황서이,남영자 한국콘텐츠학회 2020 한국콘텐츠학회논문지 Vol.20 No.8

The objective of this empirical study is to examine the mediating and moderating effects of perceived risks on the relationship between knowledge, feelings and acceptance intention towards AI. Subjects in their teens to forties were surveyed and the final sample comprised 1,969 subjects. Data were analyzed using Mediation using Multiple Regression and Moderated Multiple Regression. Results showed that people’s knowledge and feelings towards AI affected their acceptance intention of AI. Results also showed that the perceived risks of AI partially mediated and moderated the relationship between feelings and acceptance intention towards AI and moderated but not mediated the relationship between knowledge and acceptance intention towards AI. Overall, these results suggest that people’s perceived risks of AI are associated more strongly with their feelings towards AI than their knowledge towards AI. Implications and directions for future research were discussed in relation to increasing general population’s acceptance intention towards AI. 본 연구는 인공지능에 대한 지식과 감정적 요인 그리고 수용의도 간의 관계에서 위험인식이 어떤 영향을 미치는지 그 과정을 살펴보고자 매개 및 조절효과를 실증 분석하였고, 인공지능의 수용성을 높일 수 있는 시사점을 제시하였다. 이를 위해 10대부터 40대까지 설문조사를 실시하여 1,969명의 유효 표본을 확보하였고, 분석방법으로는 매개회귀분석과 조절회귀분석을 활용하였다. 분석결과에 따르면, 첫째, 인공지능에 대한 지식과 감정은 인공지능 수용의도에 유의한 영향을 보였다. 둘째, 인공지능에 대한 감정과 수용의도의 관계에서 위험인식은 부분매개효과 및 조절효과를 확인하였다. 셋째, 인공지능에 대한 지식과 수용의도의 관계에서 위험인식은 조절효과만 유의하게 나타났다. 종합적으로, 인공지능에 대한 감정이 부정적으로 형성될수록 개인이 느끼는 위험인식이 높아지게 되고, 높아진 위험인식은 인공지능의 수용의도를 낮출 수 있는 과정을 반영하고 있었다. 또한 인공지능에 대한 감정변수의 영향력이 지식변수보다 더욱 강한 영향을 미치고 있음을 확인하였고, 인공지능에 대한 위험인식이 낮은 집단일수록 인공지능에 대한 지식과 감정에 대한 영향력이 더욱 뚜렷하게 나타났다. 분석결과를 바탕으로 연구의 시사점과 향후 연구를 위한 제언을 논의하였고, 인공지능의 성공적인 사회적 안착을 위해 보다 다양하고 확장적인 연구들을 기대한다.

인공감정을 적용한 게임 난이도 조절에 관한 연구

박준형(Jun-Hyoung Park),현혜정(Hye-Jung Hyun),여지혜(Ji-Hye Yeo),고일주(Il-Ju Ko) 한국컴퓨터정보학회 2011 한국컴퓨터정보학회 학술발표논문집 Vol.19 No.1

최근 게임 산업에서는 게임을 인공지능적인 측면으로 접근하는 방식 중 하나로 인공감정을 주목하고 있다. 인공감정은 감정자극과 감정, 그리고 감정의 표현 방식이라는 총 3가지 기본요소로 이루어져 있다. 본 연구에서는 인공감정을 사람들에게 꾸준하게 인지도가 상승하고 있는 캐주얼 게임에 적용시켜 보았다. 캐주얼 게임은 다른 게임들에 비해 게임 속에서 감정을 느낄 수 있는 환경요소가 한정적이고, 표현할 수 있는 감정이 적어 인공감정에 대한 플레이어의 반응을 실험하기에 적합한 게임 장르이다. 본 연구에서는 쉽게 제작 가능한 버튼 클릭 방식의 캐주얼 게임을 만들었다. 그리고 게임에 플레이어의 행동을 통해 감정적 영향을 받는 인공감정이 적용된 게임 에이전트를 제작했다.

감정을 느끼지 못하는 인공지능의 예술도 진정한 예술이 될 수 있을까?

정혜윤 동국대학교 동서사상연구소 2023 철학·사상·문화 Vol.- No.41

In this essay, I argue the belief that AI cannot create true artworks only because it cannot feel emotions as human beings cannot be held. In other words, if artworks by AI cannot be accepted as qualified members of the art world, it is not because AI cannot feel emotions as human beings. For this purpose, I first present how social robots, the representative AI which challenges the area of human emotions perform their expected function, and then examine the strategies adopted by AI art programs. I argue that it is due to the implicit intuition that the essence of artworks lies in the expression of emotions artists undergo that people treat AI artworks more strictly than social robots. I show that this intuition has its root deeply in art history, but also indicate that there has been another, contrasting perspective that does not find the essence of artworks in the expression of artists. Afterward, I call attention to contemporary artworks whose primary concern is neither expressing nor displaying emotions, but the assertion of the ideas. Artworks of this kind show that AI doesn’t have to challenge the area of human emotions. The discussion in this essay ultimately proves that the deficiency of AI in its emotional capacities does not generate any trouble whether the artworks it produces crucially require the expression and the display of emotions or not. 이 글은 인공지능이 인간처럼 감정을 느낄 수 없기 때문에 예술 분야의 진정한 일원이 될 수 없다는 믿음이 옳지 않다는 것을 주장한다. 다시 말해, 인공지능에 의한 예술을 우리가 진정한 예술로서 받아들일 수 없다면, 그 이유는 적어도 인공지능이 감정이라는 인간의 역량을 결여하고 있기 때문은 아니라는 것이다. 이를 위해 이 글에서는 먼저 감정의 영역에 도전하는 대표적인 인공지능, 사교로봇의 양상을 제시한 후 예술 분야의 인공지능들에서 채택되고 있는 감정 전략들을 살펴본다. 그리고 사교로봇에 비해 예술 분야의 인공지능에 더욱 엄격한 잣대가 적용되는 이유로 예술에 대한 사람들의 암묵적인 직관, 즉 예술은 ‘예술가가 체험한’ 감정의 표현이라는 생각을 지목하고, 이에 대해 고찰한다. 그리고 이러한 직관과 정면으로 충돌하는 다른 직관도 예술에 대한 우리의 사고를 지배해 왔음을 지적하고 이에 대해 설명한다. 그러고 나서 감정의 표현이나 전시를 일차적인 목표로 하지 않는 다양한 예술 현상에 주의를 환기하여 예술 분야의 적법한 일원이 되기 위해 인공지능이 반드시 감정의 영역에 도전해야 하는 것은 아님을 밝힌다. 이러한 논의는 결국 인공지능이 인간처럼 감정을 느낄 수 없다는 사실은 감정의 표현 혹은 전시가 중요한 예술의 경우와 그렇지 않은 경우 모두에서 문제가 되지 않음을 보여준다.

인공 지능에서 인공 감정으로‒감정을 가진 기계는 실현가능한가?‒

천현득 한국철학회 2017 철학 Vol.0 No.131

As artificial intelligence outperforms humans in some cognitive tasks which have been regarded as properly belonging to the human being, there is growing anxiety that people experience. Now, many people attempt to place the uniqueness of the humans in emotion rather than reason or intelligence. Since artificial emotions and emotional robots are emerging as new topics in artificial intelligence and robotics, however, philosophical treatment of them is required. I begin with discussing what has motivated to develop emotional robots and why emotions matter in robotics. After reviewing the current status of emotional robots, I examine whether the emotion-possessing robots are possible. The possibility of artificial emotions depends on what emotions really are. Instead of stipulating the definition of emotions, I suggest criteria on which we can assign emotions to other people, animal, or alien objects including artificial agents by considering the key roles played by emotions in intelligent beings. On these criteria, I argue, it is unlikely for genuinely emotional robots to be realized in the near future. Still, even if emotional robots would not appear shortly, unidirectional emotional bonds with social robots equipped with some degree of autonomy are potentially detrimental, which ought to be seriously considered in an ethical discussion of robots. 인공 감정에 관한 철학적 탐구가 필요한 시점이다. 인간의 고유한 영역으로 간주되던 인지적 과제에서 기계의 추월을 염려하는 처지가 되자, 사람들은 이제 이성이 아니라 감정에서 인간의 고유성을 찾으려한다. 하지만 최근인공지능 로봇에 감성을 불어넣는 작업이 새로운 화두로 떠오르고 있다. 이 글은 인공 감정의 실현가능성과 잠재적인 위험을 논의한다. 먼저, 감성 로봇의 개발 현황과 주요한 동기들을 개괄하고, 왜 로봇의 감정이 문제가 되는지 살펴본다. 진정한 감정-소유 로봇이 가능한지 검토하기 위해 감정을 선험적으로 정의하기보다는 감정이 수행하는 몇 가지 핵심 역할을 소개하고 이로부터 어떤 대상에 감정을 부여할 수 있는 기준들을 제안한다. 나는 이런 기준에 비추어 진정한 감정 로봇이 근미래에 실현될 가능성이 낮다고 주장한다. 그러나 감정-소유로봇이 등장하기 이전이라도, 어느 정도의 자율성을 가진 로봇과 맺는 일방적감정 소통은 잠재적으로 위험할 수 있으며, 이에 대비하는 것이 시급하다고 주장한다.

인공 감정 모델의 설계

이인근(In K. Lee),서석태(Suk T. Seo),정혜천(Hye C. Jeong),권순학(Soon H. Kwon) 한국지능시스템학회 2007 한국지능시스템학회논문지 Vol.17 No.5

인간의 감정을 모방하여 다양한 외부 자극에 대해 인위적으로 감정을 생성하는 인공 감정에 관한 연구가 최근에 시작되어 이루어지고 있다. 그러나 기존의 인공 감정 연구에서는 외부 감정 자극에 대한 감정 상태를 선형적, 지수적으로 변화시킴으로써 감정 상태가 급격하게 변하는 단점을 갖고 있다. 본 논문에서는 외부 감정 자극의 강도와 빈도뿐만 아니라 자극의 반복 주기를 감정 상태에 반영하고, 시간에 따른 감정의 변화를 시그모이드 곡선 형태로 표현하는 인공 감정 생성 모델을 제안한다. 그리고 기존의 감정 자극에 대한 회상을 통해 외부 감정 자극이 없는 상황에서도 감정을 생성할 수 있는 인공 감정 시스템을 제안하고 컴퓨터 모의실험 결과를 통해 그 효용성을 보인다. Researches on artificial emotion which generates emotion artificially from various external excitations imitating human emotion has been initiated in recent years. But the conventional studies in which the emotion state is changed exponentially or linearly by external emotion excitation have a drawback that the variation of emotion state is changed rapidly and abruptly. In this paper, we propose an artificial emotion generation model which reflects not only strength and frequency of external emotion excitations but also period of it in the emotion state and represents the emotion state with a sigmoid curve w.r.t. time. And we propose an artificial emotion system which generates emotion at the situation of no external emotional excitations through recollection of past emotional excitations, and show its effectiveness through computer simulation results.