온라인 상에서 나타나는 외국 및 외국인에 대한 혐오 인식 - 2019-2021년도 온라인 뉴스 기사 댓글 텍스트 마이닝 분석을 중심으로 -

이연호,정석호 한국사회복지학회 2022 한국사회복지학 Vol.74 No.1

본 연구는 2019~2021년도 온라인 뉴스 기사 댓글을 중심으로 외국인 혐오표현의 실태를 파악하고 이를 유형별로 분류하고자 한다. 이를 통하여 현재 외국인 혐오표현과 관련된 사회복지 대안을 마련하고 방향성을 제시하고자 한다. 이에 본 연구에서는 LDA(잠재디레클레할당방식)을 통하여 총 82,773건의 네이버 및 다음의 일자별 상위 뉴스 기사의 댓글을 수집하여 주제를 도출하고 연도별로 변화 추이 및 혐오표현 유형들을 살펴보았다. 그 결과 ‘정치적 혐오’, ‘이해관계적 혐오’ ‘역사적 혐오’, ‘생리적 혐오’, ‘유형화되지 않은 혐오’가 연도별로 나타났다. 특히 코로나19 팬더믹과 관련하여 특정 국가에 원인을 전가하는 생리적 혐오가 나타나고 있었다. 이해관계적 혐오에서는 제도적인 명칭에 반감을 느끼고 혐오표현을 표출하고 있었으며, 차별로 이어질 가능성을 시사하였다. 외국인 혐오표현은 전 세계적으로 나타나고 있는 현상이며, 한국에서도 온라인에서 나타나고 있는 것을 확인할 수 있었다. 이에 외국인 혐오표현 제한과 예방을 위해 사회복지 정책적 전략 마련이 필요하다.

혐오 감정 동사 유의어의 의미 연구 -혐오 감정 동사와 공기하는 명사와의 공기 관계 분석을 통해 -

최윤(Choi, Youn) 중앙어문학회 2024 語文論集 Vol.98 No.-

본 연구는 혐오 감정에 해당하는 동사들이 사용된 문장의 공기어 분석을 통해 혐오 감정 동사 유의어들의 의미를 비교하고 이들의 특성을 살피는 것을 연구 목적으로 한다. 혐오 감정 동사 유의어의 의미 분석을 위해 국립국어원의 ’모두의 말뭉치’를 사용하여, 문어말뭉치 데이터를 분석하였다. 본 연구는 특히 양적 연구 방법론의 적용에 있어 연구의 객관성을 높이기 위해 최대한 많은 자료에서 혐오 감정 타동사와 함께 등장하는 목적어 명사를 정확히 추출하여 분석하였다. 이러한 방법론을 적용하여 추출된 목적어 공기 명사들의 공기 관계를 분석함으로써 각 혐오 감정 동사가 어떤 명사와 어떠한 관계를 맺으며 사용되는지, 그 특징을 파악하고, 이를 통해 혐오와 관련된 의미 영역을 확인하였다. 이 과정에서 혐오 감정 동사의 유의어들의 공기 빈도 및 공기 관계를 수치 시각 자료를 통해 분석함으로써 혐오 감정 동사 유의어 내 개별 어휘들의 의미적 특성을 분석하였다. 본 연구는 혐오 감정 동사와 그 유의어들이 공기하는 명사를 통해 어떻게 의미가 형성되고 확장되는지를 보여줌으로써, 혐오 감정 동사의 통사 의미적 네트워크를 이해하는 데 도움이 될 수 있다. 결과적으로, 이 연구는 혐오 감정 동사와 관련된 언어적 현상을 보다 깊이 있게 이해하고, 해당 어휘들의 사용 양상과 의미 구조를 명확하게 해석하는 데에 있어, 연구방법론과 분석의 영역을 확장하는 데 기여할 수 있다. This study aims to compare and examine the characteristics of hate emotion verb synonyms through the analysis of collocates in sentences where hate emotion verbs are used. To analyze the meanings of hate emotion verb synonyms, data from the ’Corpus of Everything’ provided by the National Institute of Korean Language was utilized, specifically analyzing written corpus data. To enhance the objectivity of this study, quantitative research methodologies were applied, and object nouns that appear with transitive hate emotion verbs were precisely extracted and analyzed from a large volume of data. By analyzing the collocation relationships of these extracted object nouns, the study identifies the relationships and characteristics of how each hate emotion verb is used with various nouns, thereby defining the semantic domains associated with hate emotions. During this process, the study analyzed the collocation frequencies and relationships of hate emotion verb synonyms through numerical and visual data, thus investigating the semantic characteristics of individual lexemes within hate emotion verb synonyms. This research demonstrates how meanings are formed and expanded through nouns that collocate with hate emotion verbs, thereby aiding in understanding the syntactic and semantic networks of hate emotion verbs. Consequently, this study deepens the understanding of linguistic phenomena related to hate emotion verbs and clarifies the usage patterns and semantic structures of these lexemes, contributing to the expansion of research methodologies and analytical domains.

혐오해도 되는 마지노선?:‘우리’ 안의 장애 혐오

전혜은(Jun, Hye-Eun) 숙명인문학연구소 2021 횡단인문학 Vol.9 No.1

이 글은 특정 사회적 소수자 집단을 겨냥한 혐오에 맞서는 이론적 작업들이 그 소수자적 특성을 위한 맞춤형 논거를 만드느라 부지불식간에 다른 소수자들을 배제하는 경향에 주목한다. 특히 반-혐오 담론 안에서도 장애가 ‘혐오하면 안 된다’는 피상적 수준에 그칠 뿐, 혐오를 파훼하는 이론의 구축 과정에서 도구화되거나 ‘혐오해도 되는 마지노선’으로 눈에 보이지 않게 쫓겨나는 양상, 더 심각하게는 그 반-혐오 담론의 핵심 원리로서 장애 혐오가 구조화되는 양상을 비판적으로 분석한다. 이 글은 이런 비판 작업의 초벌 단계로서, 페미니즘 안에서의 반-혐오 담론 중 일부를 검토한다. 먼저 페미니즘 안에서 장애를 장애물과 적을 나타내는 은유로 도구화하는 양상과, 이런 용법이 장애가 있는 사람들 자체를 정치적 걸림돌로 취급하는 태도로 발전되는 양상을 비판적으로 살펴본다. 그다음 혐오에 맞설 대항담론을 구축해온 페미니스트 법철학자 마사 C. 누스바움(Martha C. Nussbaum)의 작업에 초점을 맞춰, 반(反)혐오 담론의 이론적 논거를 공급하는 주축으로 어떻게 장애 혐오가 은밀하게 깔려있는지를 분석한다. 마지막 절에서는 장애 혐오를 인식하지 못하게 막는 틀을 해체하는 작업이 팬데믹 시대에 어떻게 더욱 복잡하고 어려워지는지를 살펴보면서 이럴 때일수록 반-혐오 담론에 장애 관점의 통합이 중요함을논한다. This article focuses on the inclination, displayed in many works that theorize hatred against certain minorities, to exclude other minorities unwittingly to develop arguments tailored to the characteristics of certain groups. Even within anti-hate discourses disability is given superficial treatment, merely toolized or made invisible as the “limit line of hate” in the course of anti-hate theory development; worse, anti-disability hatred is built into these discourses as their core principle. As a preliminary step to critically analyzing these tendencies, this paper reviews some feminist anti-hate discourses, examining the ways disability is used as metaphors for obstacles and enemies and how they evolve into the treatment of people with disabilities as political hindrances. Then, focusing on the work of the feminist legal philosopher Martha C. Nussbaum and her counter-discourse against hate, I analyze how anti-disability hatred is covertly hidden in the central argument of anti-hate discourse. Lastly, I discuss the increased difficulty in the pandemic era in deconstructing the framework that renders anti-disability hatred unrecognizable, stressing that it has become all the more important to incorporate a disability perspective into anti-hate discourses.

청소년의 혐오표현 노출실태 및 대응 방안 연구

김영한,이유진,조아미,임성택 한국청소년정책연구원 2020 한국청소년정책연구원 연구보고서 Vol.- No.-

이 연구는 편견과 차별, 혐오표현에 관한 청소년 대상 최초의 대규모 조사로서 다양한 유형의 혐오집단과 혐오표현 형태에 대한 청소년의 노출 실태를 파악하여 이에 필요한 정책적 대응방안을 마련하고자 하였다. 연구방법은 문헌연구를 통하여 혐오표현 문제의 개념적 논의와 주요 연구내용을 구상하였고, 외국사례 분석을 통해 교육프로그램과 제도적 장치에 대한 시사점을 도출하였다. 조사연구로써 전국단위의 설문조사를 통해 초·중·고등학교 청소년 6,000명에 대한 혐오 실태를 분석하였고, 청소년 면접조사와 전문가 면접조사를 실시했다. 설문조사 결과에 따르면, 혐오표현 문제가 앞으로 우리 사회에 어떤 변화를 가져올지에 대해 더욱 확대되고, 더 큰 사회문제가 되고, 인권침해를 할 것이라고 전망하는 청소년이 많았다. 청소년이 혐오나 차별 표현을 가장 많이 경험하는 곳은 인터넷, 커뮤니티, SNS이고, 다음으로 신문, 방송 등 대중매체로 미디어가 노출경험의 대부분을 차지하고 있다. 혐오나 차별 표현을 하는 사람은 언론인이나 정치인도 많았지만 가장 많은 사람은 친구였다. 소수집단의 혐오표현 피해는 범죄청소년, 페미니스트, 성소수자의 순으로 심각하다고 인식하고 있다. 혐오표현 대응방안 중에는 교육현장에서의 혐오표현 교육 필요성을 가장 높게 인식하고 있다. 전문가 면접조사 결과에 따르면, 대부분 차별금지법 제정에 찬성하는 입장이고, 청소년을 위해서도 반드시 차별금지법이 필요하다는 의견을 제시했다. 청소년 혐오표현은 과거에 비해 증가했고, 향후로 더욱 증가할 것이라고 전망했다. 혐오표현의 원인으로는 학업성적 중심의 학교문화와 질서, 나이와 서열을 중시하는 문화, 혐오표현이 정당하다는 잘못된 믿음, 집단 내에서 강해보이고 싶거나 일탈적인 하위문화를 공유하는 청소년기 발달특성과 재미로 혐오표현을 하는 측면을 제시했다. 청소년 면접조사 결과에 따르면, 청소년에게 혐오표현을 한 가해자들은 그들 주위에 있는 친구, 교사, 지인, 가족, 친척 등 평범한 사람들이었다. 피해를 당한 장소도 온라인 뿐 아니라 교실이나 학교, 학원, 길거리, 집, 직장 등 일상 생활공간이었다. 피해를 당한 이유는 자신이 가진 약점 때문이라 생각하고 있고, 자퇴를 고민했으며, 스트레스로 인해 잔병치레를 하기도 했고, 왕따 피해를 당하기도 했다. 그로 인해 트라우마가 생기고, 두려움이 2년 이상 지속되었다. 이상의 연구결과를 토대로 다음과 같은 정책과제가 도출되었다. 첫째, 법 제도적 대응방안으로써 정책 추진 기반 조성을 위하여 포괄적 차별금지법 제정, 정부부처의 협업체계 구축, 청소년 시설 종사자에 대한 관리 강화, 학생인권조례 제정 활성화 등을 추진해야 한다. 둘째, 미디어 대응방안으로써 자율규제 및 인식개선을 위해 청소년 보호를 위한 온라인 자율규제의 내실화, 청소년 미디어 리터러시 역량강화, 사회적 인식개선을 위한 미디어 홍보 강화 등을 추진해야 한다. 셋째, 교육적 대응방안으로써 인권감수성 함양을 위해 혐오표현 예방교육 실시, 여성혐오 예방을 위한 포괄적 성교육 실시, 청소년 혐오표현 예방 대응 가이드라인 보급 활성화, 혐오표현 대항문화 활성화 등을 추진해야 한다. 넷째, 피해자 지원방안으로써 소수집단 청소년 보호를 위해 피해자 신고 및 상담 ․ 심리치료 지원, 회복적 정의 실천 프로그램 운영, 특별 보호가 필요한 소수집단 청소년 지원 강화 등을 추진해야 한다.

혐오의 유형적 정의와 범죄성 판단기준에 대하여

이정념(Jungnyum Lee) 인문사회과학기술융합학회 2018 예술인문사회융합멀티미디어논문지 Vol.8 No.5

혐오와 관련된 문제들은 가해자 내지 가해 집단과 피해자 내지 피해 집단이 얽혀 있는 법적 측면만이 아닌 심리적이고 감정적인 부분들까지 고려해야 하는 복잡한 특성들을 담고 있다는 점에서 일반 범죄와는 다른 특수성을 띠고 있다. 형사법학의 맥락에서 다양한 많은 범죄유형이 존재하는 가운데, 어떤 범죄들은 누군가의 인종, 민족성, 종교, 피부색, 성 정체성, 성적 기원 등에 반한 편견 내지 선입견으로부터 기인한 경우도 있다. 이러한 범죄들은 특정인 또는 특정집단이 지니는 정체성이나 타인에 의해 인지된 차이들에 의해 발생된 혐오범죄로서의 성격을 띤다고 보아야 한다. 혐오범죄를 어떻게 이해하는가에 따라 혐오로부터 무엇을 보호해야 하는지 결정될 수 있을 것인데, 이를 위해서는 가해자에게 발현된 혐오의 동기가 어떠한 요소에 의한 것인지, 혐오범죄의 피해자 내지 피해 집단이 일반적으로 어떠한 특성을 띠고 있는지, 어떻게 혐오범죄가 구성되고 있는지에 대한 검토가 필요하다. 이미 유럽연합 회원국들뿐만 아니라 미국, 캐나다, 오스트레일리아 등 많은 나라에서는 혐오범죄의 규율을 위한 다양한 논의들이 이루어져 오고 있다. 본 논문은 혐오로부터 무엇을 보호해야 하는지를 살펴보고 혐오의 유형적 정의와 혐오의 범죄성 판단기준을 논하는 한편 혐오와 혐오범죄에 관한 논의가 이루어져야 할 방향에 대해 언급하고 있다. The problems associated with hate have different characteristics. Ordinary crimes may contain complex psychological and emotional aspects to be considered beyond the merely legal aspects that are intertwined with the perpetrator and the victim. While there are many classifications of crimes in the context of criminal jurisprudence, certain crimes are motivated by bias or prejudice against race, ethnicity, religion, age, color, sex, gender identity, sexual orientation, etc. These specific crimes should be considered as hate crimes that are directed against people or groups because of their identity or perceived difference. Determining the scope of protection against hate depends on the definition and understanding of hate crimes. It is necessary to consider the concrete motivation for the hate of the actor, the general characteristics of the victim or the victim group of the possible hate crime and the organization of a hate crime. There are already many discussions in the EU, in the United States, Canada, and Australia etc. on the regulation of hate crimes. This paper reviews what should be protected against hate, typical definitions of hate, and standards of judgment on the criminal nature of hate. Moreover, this paper suggests guidelines for the definition of punishable hate and the hate speeches.

‘혐오 시대’ 넘어서기

이승훈 ( Lee¸ Seung Hun ) 동양사회사상학회 2021 사회사상과 문화 Vol.24 No.1

이 글은 우리 사회의 혐오 현상을 분석하고 있다. 혐오를 낳는 사회의 구조적, 문화적 배경을 구체화하고, 혐오 현상을 극복하기 위한 대안을 제시하고 있다. 하지만 혐오 현상 그 자체에 대한 구체적인 경험 분석을 목표로 하는 것은 아니다. 혐오 현상이 나타나게 된 우리 사회의 구조와 변화의 모습을 이론적으로 접근하는 데 일차적인 목표가 있다. 현대 사회의 혐오 현상의 첫 번째 배경으로 ‘다원화’를 들 수 있다. 다원화는 과거 개인의 삶과 정체성에 안정감을 제공해줬던 ‘당연함’의 문화를 흔들리게 한다. 항상 다른 방식의 삶을 선택할 수 있는 가능성을 제공해주기 때문이다. 다원화는 개인의 선택과 자율성을 증대시키지만, 동시에 당연함이 사라짐으로 인한 불안과 불안정도 낳는다. 현대 사회의 혐오는 이런 다원화에 대한 부정적 반응이다. 둘째로 신자유주의 체제가 낳는 경쟁과 불의 경험, 그리고 이로부터 야기된 일상화된 사회적 무시도 혐오를 발생시키는 문화적 배경이라 할 수 있다. 사회적 무시로 인한 개인의수치심과 모욕감은 타자를 인정의 대상이 아닌 혐오의 대상으로 보게 한다. 아직도 남아 있는 유사 가족주의의 전통 문화는 집단 외부의 타자에 대한 사회적 무시를 더욱 강화하는 경향이 있다. 혐오 현상이 등장하게 된 이러한 배경을 고려할 때, 이에 맞서기 위한 방법으로는 크게 두 가지를 제안할 수 있을 것이다. 먼저 ‘심미적 경험’을 통하여, 혐오를 가능케하는 전통적 맥락과 단절하는 일이다. ‘심미적 경험’은 고착된 인식의 틀을 깨고, 타자에 대한 구체적인 인식과 동감을 가능하게 한다. 혐오가 감정의 문제이기도 하다는 점에서 심미적 접근은 혐오 극복을 위한 하나의 전략이 될 수 있을 것이다. 다른 하나는 다름과 차이에 근거한 사회적 연대를 형성하는 일이다. 차이를 혐오의 대상이 아니라, 동등한 인정이 대상으로 만들어야 한다. 이는 ‘포괄적 우리’라는 담론 공동체 형성하는 일이자, 새로운 헤게모니를 구축하는 과제이기도 하다. 심미적 경험은 인정 관계의 확산과 ‘차이의 연대’ 형성에도 중요한 역할을 할 수 있을 것이다. This paper analyzes the phenomena of disgust in our society. It specifies the structural and cultural backgrounds that have given rise to them and suggests alternatives to them. It is not aimed at the concrete analysis of a certain disgust. It takes as the primary goal to theoretically approach to the structure of our society and its change through which the disgust phenomena have emerged. The first background forming disgust in modern society is ‘pluralization.’ The pluralization of our society dismantles the culture of ‘taken-for-grantedness’ which has offered the sense of stability to the lives and identities of individuals in the past. Pluralization increases individual choice and autonomy, but at the same time it also creates anxieties caused by the disappearance of naturalness. The disgust of modern society is a negative reaction to this process of pluralization. The competitions, injustices, and the routinized social contempts caused by the neo-liberalism are also said to be crucial cultural factors that have created disgust. The sense of shamefulness and the sense of insultedness brought about by social contempts make others into objects of disgust, not objects of recognition. The traditional culture of quasi-familism that still remains tends to further strengthen social contempts toward people outside the group. Given the backgrounds in which the disgust has emerged, two main ways will be suggested to confront the prevalent phenomena of disgust. The first one is through the aesthetic experiences, which are expected to disconnect from the traditional context that has enabled the disgust. ‘Aesthetic experience’ breaks off the fixed framework of perception and enables the concrete recognition and sympathy for others. An aesthetic approach could be a strategy for overcoming the disgust, given the fact that the disgust is also a matter of emotion. The second one is to form social solidarity based on differences. Differences should not be subject to disgust, but to equal recognition. This is the task of forming a discourse community called as ‘inclusive we’ and building a new hegemony. An aesthetic experience could play an important role in spreading the recognition and forming the ‘solidarity of differences’.

일본에서의 혐오표현 규제에 관한 연구

김연진(Kim, Yeon Jin),지성우(Ji, Seong Woo) 성균관대학교 법학연구소 2020 성균관법학 Vol.32 No.4

“약속이란 사람끼리 하는 것이다. 사람과 조센징 사이에 약속이란 성립하지 않는다(約束というものは人間同士がするものなんですよ。人間と朝鮮人では約束は成立しません)”. 이는 ‘재일 특권을 허용하지 않는 시민모임(在日特権を許さない市民の会)’이 교토조선제1초급학교 앞에서 외친 말이다. 최근 일본 극우단체들은 거리에서 빈번하게 혐한시위를 하고 있으며, 시위의 양상은 점차 과격해지고 있다. 혐오표현(ヘイトスピーチ)은 혐오범죄(ヘイト․クライム)로 이어질 수 있어 규제의 필요성이 대두되고 있다. 일본 헌법 제21조에서는 표현의 자유에 대해 규정하고 있으나, 일본 헌법 제13조의 ‘공공의 복지’와 일본 헌법 제14조의 평등권 규정은 혐오표현 규제를 위한 헌법적 근거가 된다. 또한, 「본국 외 출신자에 대한 부당한 차별적 언동의 해소를 위한 시책 추진에 관한 법률(本邦外出身自に対する不当な差別的言動の解消に向けた取組の推進に関する法律)(이하 ‘헤이트스피치해소법(ヘイトスピーチ解消法)’이라 함)」(2016. 6. 3)을 마련하여 혐오표현을 규제하고 있다. 온라인상 혐오표현은 2001년에 제정된「특정전기통신역무제공자의 손해배상책임의 제한 및 발신자 정보의 개시에 관한 법률(特定電気通信役務提供者の損害賠償責任の制限及び発信者情報の開示に関する法律)(이하 ‘프로바이더책임제한법(プロバイダー責任制限法)’이라 함)」을 통하여 규제되고 있다. 「프로바이더책임제한법」에서는 ‘송신차단조치’ 및 ‘발신자 정보 개시청구’를 통해 온라인상 혐오표현에 적절히 대처하고 있다. 이외에도 일본 「형법」의 모욕죄와 명예훼손죄, 위력에 의한 업무방해죄 등으로도 혐오표현은 규제되고 있다. 혐오표현에 관한 일본 지방공공단체(地方公共団体)의 조례로는 대표적으로 「오사카시(市) 헤이트스피치대처에 관한 조례(大阪市ヘイトスピーチへの対処に関する条例)」(2014. 9. 3)와「가와사키시(市) 차별 없는 인권 존중 마을 만들기 조례(川崎市差別のない人権尊重のまちづくり条例)」(2019. 12. 12)가 있다. 「가와사키시(市) 차별 없는 인권 존중 마을 만들기 조례」는 최초로 혐오표현자에 대한 벌금형을 부과하는 등 형사처벌규정을 마련하였다는 점에서 의의가 있다. 인간의 존엄성 및 평등권을 침해하는 경우에는 표현의 자유가 제한되어야 할 것이다. 그러나, 혐오표현의 규제를 강화하게 되면 표현의 자유의 위축현상이 일어나므로 실제 규제는 일부의 한정적인 혐오표현을 대상으로 하여야 할 것이다. 또한, 혐오표현은 ‘해악성’으로 말미암아 제한에 있어 엄격한 심사방식을 따르기보다는 ‘내용중립적 규제’에 의하여야 한다. “Promise is made by people, not by Japanese-Korean and people(約束というものは人間同士がするものなんですよ。人間と朝鮮人では約束は成立しません)”. These are slogans that ‘The Civic Group that does not allow Japan Privileges(在日特権を許さない市民の会)’, the far-rightists, chanted in front of Kyoto Chosun Primary School. These days, Japan far-rightists are staging anti-Korean protests and propaganda on the street with frequent. The discussion on regulating hate speech(ヘイトスピーチ) is gradually being made as hate speech could connect to hate crime(ヘイト․クライム). Japan Constitution article 21 stipulates freedom of speech, but ‘public welfare’ of article 13 and article 14 regarding equal right provide constitutional basis for regulating hate speech. 「Laws on the Promotion of Measures for the Elimination of Unfair Discriminatory Words and Behaviors against Non-Japanese Persons(本邦外出身自に対する不当な差別的言動の解消に向けた取組の推進に関する法律)(thereafter, ‘Resolution Law on Hate Speech’)」(2016. 6. 3) are made in order to regulate hate speech. Online hate speech is being regulated by 「Law on Restricting Liability of Telecommunication Service Provider(特定電気通信役務提供者の損害賠償責任の制限及び発信者情報の開示に関する法律)(thereafter, ‘Restriction Law on Provider’s Liability(プロバイダー責任制限法)’)」. 「Restriction Law on Provider’s Liability」 is properly handling online hate speech by regulating ‘Transmission Block Action’ and ‘Sender Information Disclosure’. Japan 「Criminal Law」 also regulates hate speech by defamation, insults and forcible obstruction of business. Ordinance of Japanese local authorities on hate speech are 「Osaka City Ordinance on Dealing with Hate Speech(大阪市ヘイトスピーチへの対処に関する条例)」(2014. 9. 3) and 「Kawasaki City Ordinance on the Creation of a Village of Respect for Human Rights without Discrimination(川崎市差別のない人権尊重のまちづくり条例)」(2019. 12. 12) typically. 「Kawasaki City Ordinance on the Creation of a Village of Respect for Human Rights without Discrimination(川崎市差別のない人権尊重のまちづくり条例)」 included regulation for criminal punishment which imposed monetary penalty and it is meaningful in that it was first prescribed. Freedom of speech should be regulated if any expression violates human dignity and equal rights. If the restriction on hate speech is strengthened, chilling effect on freedom of speech will be occurred, however. Actual regulation should target some limited hate speech. Hate speech should be subject to ‘content neutral regulation’ rather than following the strict screening as hate speech involves “harmfulness”.

온라인 커뮤니티와 혐오의 문화정치 : 일간베스트저장소와 메갈리아의 사례를 중심으로

장소연,류웅재 한국소통학회 2017 한국소통학보 Vol.16 No.1

이 연구는 오늘날 전 지구적으로 나타나고 있는 혐오의 문제에 주목하고, 하나의 사례로서 한국에서 생산되고 있는 혐오 담론을 신자유주의라는 맥락을 통해 탐색하고자 하였다. 이를 위해 이 연구는 한국의 인터넷 커뮤니티 사이트인 일간베스트저장소와 메갈리아 사이트를 사례로 혐오 담론이 생산되고 있는 정치적, 경제적, 문화적 배경을 살펴보고자 했다. 우선 선행 연구를 통해 신자유주의 체제 하에 확장된 세계화의 영향이 지역적 층위에서 어떻게 발현되었는지, 그리고 이러한 시대적 상황에서 경제 위기는 혐오 담론과 어떠한 연관성이 있는지 살펴보았다. 또한 한국 사회에서 혐오 담론이 어떻게 생성되었는지, 나아가 그 사회문화적 파급효과는 무엇인지 살펴보았다. 연구방법으로는 페어클로우의 비판적 담론분석의 틀을 활용하여 텍스트적 실천, 담론적 실천, 사회적 실천의 층위에서 일베와 메갈리아 사이트의 게시글과 댓글을 분석하였다. 일베와 메갈리아 사이트의 이용자들은 혐오 발화를 통해 신자유주의 체제 아래 자신들의 미래와 경제적, 사회적 지위에 대한 불안을 표출하고 있음을 알 수 있었다. 이러한 경제적, 사회적 지위에 대한 불안함은 역설적이게도 개인이 저항하거나 대응하기 어려운 구조의 문제에 분노하기보다, 가시적이고 비교적 상대하기 쉬운 소수자들, 또는 개인들을 향한 조롱과 분노를 내포한 혐오의 언술로 발화되고 있음을 알 수 있었다. 이러한 발화 유형은 신자유주의 체제로 인해 발생한 구조적 모순을 외면하거나 사사화하고, 극단적이며 왜곡된 정체성의 정치를 확장하고자 하는 모습을 보여주고 있었다. This study examines the issues and problems of hatred, currently emerging all over the globe. Especially, we analyzed the discourse of hatred in South Korea in the context of neoliberalism. In so doing, this study examines the political, social and cultural background in which such discourses of hatred are produced by focusing on the cases of 'Ilbe' and 'Megalia', two Korean online community sites. First, we examined the effect of globalization under the neoliberal system through the precedent studies for analysis. We also looked at how the economic crisis relates to the discourse of hatred in this period. For this, we analyzed the ‘Ilbe' and 'Megalia', known for controversial online community sites, actively creating the discourse of hatred today. In terms of a methodological consideration, we utilized Norman Fairclough's critical discourse analysis in analyzing the posts and comments of 'Ilbe' and 'Megalia' sites. Users of 'Ilbe' and 'Megalia' sites were expressing their undue anxiety through hate speeches about their unstable economic and social status under the neoliberal system. The discourse of hatred or patterns of hate speeches shows a certain tendency that critical social and structural contradictions arising from the neoliberal economic system were trivialized and/or privatized, and tends to expand an extreme and distorted form of identity politics.

혐오(hate)에 어떻게 대응할 것인가? - 혐오에 관한 법과 정책 -

홍성수(Sung Soo Hong) 충남대학교 법학연구소 2019 法學硏究 Vol.30 No.2

한국사회에서 혐오(hate)가 사회현상으로 등장한 것은 2013년 이후이다. 그 이전에 혐오는 주로 무언가를 싫어하는 개인적인 감정을 뜻하는 것이었으나, 2013년 이후부터는 특정 개인이나 집단에 대한 차별적인 혐오라는 말로 사용되기 시작했다. 이 논문에서는 이것을 일상적 의미에서의 혐오와 구분하여 ‘사회현상으로서의 혐오’라고 부르고자 한다. 이러한 혐오는 개인의 개인적이고 일시적인 감정이 아니라, 이데올로기화되어 있어 확산성을 가지고 있고 심지어 세대를 넘어 전승되기도 하는 사회구조적 현상이며, 소수자 집단이나 그 구성원인 개인에 대한 차별적 인식에서 기반한다. 이러한 혐오는 혐오표현, 차별행위, 증오범죄, 집단살해의 형태로 나타난다고 할 수 있는데, 먼저 이에 관련한 현행 법령상의 규제가 어떠한 상황인지 살펴보았다. 혐오표현과 관련하여, 현행법에서는 장애인차별금지법, 방송법, 방송통신위원회의 설치 및 운영에 관한 법률, 정보통신망 이용촉진 및 정보보호 등에 관한 법률, 언론중재 및 피해구제 등에 관한 법률 등을 이행하기 위한 하위법규 또는 옥외광고물에 관한 법률 등에서 혐오표현을 규율하고 있는 내용을 일부 찾아 볼 수 있다. 차별과 관련해서는 국가인권위원회법이 부분적으로 차별금지법의 역할을 하고 있으며, ‘장애인차별금지 및 권리구제에 관한 법률’, ‘남녀고용평등과 일·가정 양립 지원에 관한 법률’, ‘양성평등기본법’, ‘고용상 연령차별금지 및 고령자고용촉진에 관한 법률’ ‘기간제 및 단기간 근로자 보호 등에 관한 법률’, ‘파견근로자 보호 등에 관한 법률’ 등이 개별적 차별금지법의 역할을 하고 있다. 증오범죄 관련해서는 현행법에서는 특별한 규정을 찾아 볼 수 없으며, 집단살해와 관련해서는 국제형사범죄법이 제정되어 있다. 위와 같이 혐오에 관련한 법제가 일부 있기는 하지만, 체계적으로 정비되어 있는 것은 아니며, 포괄적 차별금지법이 없다 보니 혐오에 관한 여러 문제들을 체계적으로 대응하기 어려운 상황이라고 할 수 있다. 차별금지법이 있어야 혐오에 기반한 여러 문제에 대한 체계적이고 포괄적인 대응이 가능해진다. 이 때 차별금지법을 관할하는 국가인권위원회는 차별행위의 대한 구제기관이기도 하지만, 혐오에 기반한 여러 문제를 다루는 일종의 컨트롤타워로서 역할을 할 수 있을 것이다. “Hate” firstly emerged as a social phenomenon in 2013. Previously, hate is simply a kind of individual attitudes toward something or somebody. However, since 2013, the term, hate, has been used as social phenomenon in terms of discrimination. This means an ideology which is widely influential to people and is even given to generation to generation. This hate leads to hate speech, discrimination, hate crime or genocide and law and policy should address these stages in systemic way. However, Korean law and policy fails to deal with these problems arising from hate and simply touches on hate speech in broadcasting, internet, and advertisement. To tackle with hate, comprehensive approaches to hate are needed, and importantly, comprehensive anti-discrimination act is very essential to address hate. Comprehensive anti-discrimination act will reinforce the function and power of National Human Rights Commission as a equal treatment body and this institution will play its role in addressing comprehensive spheres of hate as a kind of control tower for hate and discrimination.

편향적 인공지능: 네이버의 악플 탐지용 인공지능 ‘클린봇’이 판별한 혐오표현의 유형 분석

이신행(Lee, Shin Haeng) 사이버커뮤니케이션학회 2021 사이버 커뮤니케이션 학보 Vol.38 No.4

본 연구는 국내의 대표적 포털 사이트인 네이버에서 뉴스기사의 악성댓글을 탐지하고 걸러내기 위한 목적으로 개발한 인공지능 서비스 ‘클린봇’이 혐오표현을 어떻게 판별하는가를 분석했다. 그리고 온라인 혐오의 대상을 성소수자, 여성, 외국인으로 상정하고 각 대상이 다뤄지는 기사의 댓글에서 ‘클린봇’이 혐오표현을 악플로 탐지하는 양상을 비교했다. 이를 위해, 혐오표현을 낙인 이론에 기초해 라벨링, 스테레오타이핑, 분리하기, 조롱하기, 단순욕설의 다섯가지 유형으로 구분하고 각 유형의 혐오댓글이 악플 판별의 결과에 따라 어떻게 나타나는지 살펴보았다. 그 결과, ‘클린봇’은 단순욕설과 라벨링에 해당하는 혐오 댓글의 탐지에는 뛰어난 성능을 보이는 반면 스테레오타이핑과 분리하기의 댓글을 악플로 판별하는데는 부진함을 발견했다. 또한, ‘클린봇’의 편향된 혐오표현 탐지가 그 대상에 따라서 다른 양상을 보이고 있음도 발견했다. 단순욕설과 조롱하기의 모욕형 혐오표현의 경우 성소수자에게 향한 댓글에서 여성과 외국인에 대한 댓글에 비해 악플로의 판별이 더욱 적극적으로 일어난 것이다. 반면 스테레오타이핑과 분리하기로 특징되는 낙인형 혐오표현은 여성과 외국인에 대한 댓글에서 성소수자에 대한 댓글에 비해 악플로의 판별이 빈번하게 일어났다. 끝으로 악플로 탐지된 혐오댓글의 유형 분석과 대상에 따른 판별 양상의 차이에서 도출한 결과를 바탕으로 건전한 댓글 문화 형성과 여론 왜곡의 방지를 위해 개발 중인 인공지능의 한계를 논의하고 이를 극복하기 위한 방안을 제시했다. This study explored how ‘Cleanbot’, an artificial intelligence (AI) service developed to detect and filter malicious comments in news articles on NAVER as the most popular portal site in South Korea, classifies hate speech. We also compared the behavior of ‘Cleanbot’ detecting hate speech as malicious in the comments against different targets, assuming that the frequent target of online hate includes sexual minorities, women, and foreigners. Based on stigma theory, hate speech was divided into five types—labeling, stereotyping, separation, mocking, and swearing—and how each type appeared in the AI-detected malicious comments. As a result, we found that ‘Cleanbot’ showed excellent performance in detecting hate comments corresponding to swearing and labeling, but was sluggish in detecting stereotyping and separation as malicious. In addition, ‘Cleanbot’ showed different patterns of detection depending on the target of hate speech. When comments directed to sexual minorities were insult-type hate speech like swearing and mocking, they were more likely discriminated as malicious than comments directed at women and foreigners. On the other hand, stigma-type hate speech, which was represented by stereotyping and separation, was more frequently discriminated as malicious in comments on women and foreigners than those on sexual minorities. Finally, based on the results, we discussed the limitations of AI being developed to encourage healthy commenting culture and control distortion of public opinion, and suggested a way to overcome them.