http://chineseinput.net/에서 pinyin(병음)방식으로 중국어를 변환할 수 있습니다.
변환된 중국어를 복사하여 사용하시면 됩니다.
BERT 모델의 감성 분류 정확도 향상을 위한 감성 단어 마스킹 방안
이원민(Won-Min Lee),온병원(Byung-Won On) 한국정보기술학회 2021 Proceedings of KIIT Conference Vol.2021 No.6
감성 분석(Sentiment Analysis)이란 텍스트의 정보를 추출하고 감성에 따라 분류하는 과정으로 최근에는 딥러닝을 이용한 연구가 활발히 이루어지고 있다. 그중 BERT는 구글에서 공개한 전이 학습을 통해 좋은 성능을 발휘하는 딥러닝 모델로, 감성 분석에서 많이 사용되는 모델이다. 해당 모델은 마스크 언어 모델 태스크를 수행할 때 랜덤 마스킹을 통한 학습 데이터를 생성한다. 이때 감성 단어로 마스킹을 진행하면 감성에 집중된 학습 데이터를 생성할 수 있고, 감성 분석의 정확도를 높일 수 있다. 따라서 감성 단어로 마스킹을 진행해서 학습 데이터를 생성하고 마스크 언어 모델 태스크를 수행하는 감성 분류에 최적화된 모델을 제안한다. 제안 방안으로 감성 분석을 진행 한 결과, 기존의 방식보다 향상된 성능을 보였다. Sentiment Analysis is a process of extracting text information and classifying it according to emotion. Recently, research using deep learning has been actively conducted. Among them, BERT is a deep learning model released by Google that shows good performance through transfer learning, and is a model that is widely used in sentiment analysis. The model generates training data through random masking when performing the mask language model task. At this time, if masking is performed with emotional words, it is possible to generate learning data focused on the emotions, and to increase the accuracy of the emotion analysis. Therefore, we propose a model optimized for emotional classification that generates training data by masking with emotional words and performs the mask language model task. As a result of conducting emotional analysis as a proposed method, it showed improved performance compared to existing methods.
이원민(Won-Min Lee),온병원(Byung-Won On) 한국정보기술학회 2021 Proceedings of KIIT Conference Vol.2021 No.11
인공지능 시장의 성장과 함께 챗봇에 관한 연구가 활발히 진행되고 있다. 최근 챗봇은 사용자에게 필요한 서비스를 제공해주는 기술을 넘어 사람의 감정을 비슷하게 표현하며 적절한 반응을 보이는 수준으로 기술이 개발되고 있다. 하지만 챗봇이 사람과 똑같이 감정을 이해하고 표현하는 것에는 한계가 존재한다. 본 논문에서는 BERT+GPT 파이프라인 모델을 통해 자동으로 생성된 대용량의 감정 학습데이터를 적용하여 인공지능 챗봇시스템을 구현하였고, 프로토타입 시스템을 통해 실제 챗봇이 사용자의 말에 대한 감정을 파악하고 이에 적절한 반응을 보임을 확인했다. With the growth of the artificial intelligence market, research on chatbots is being actively conducted. In recent years, chatbot technology is being developed to a level where it can respond appropriately by expressing human emotions in a similar way, beyond the technology that provides necessary services to users. However, there is a limit to the ability of chatbots to understand and express emotions just like humans. In this paper, an artificial intelligence chatbot system was implemented by applying a large amount of emotion learning data automatically generated through the BERT+GPT pipeline model. It was confirmed that there was a reaction.
감성 및 감정 단어 마스킹 기반 BERT와 GPT 파이프라인 방식을 통한 감정 문장 생성
이원민(Won-Min Lee),온병원(Byung-Won On) 한국정보기술학회 2021 한국정보기술학회논문지 Vol.19 No.9
Recently, due to advances in Artificial Intelligence(AI), there have been active studies on AI Chatbot, which has reached a level where it can similarly express human emotions. If AI Chatbot can accurately understand human emotions and respond accordingly, natural conversations between chatbots and humans are possible. Large-capacity, high-quality training data for emotion analysis is needed to train a deep learning model that automatically generates sentences. In this study, we proposes a new BERT+GPT pipeline method in which an emotion word masking-based BERT is used to automatically generate large-capacity, high-quality training data as the input of GPT that is used to generate response sentences containing human emotions. Our experimental results show that the proposed method improved up to 12% accuracy, compared to the existing BERT model, showing that most response sentences generated by GPT were better in both emotion consistency and natural meaning.
김경민(Kim Kyung-Min),이원민(Lee Won-Min),박승찬(Park Seung-Chan),김정철(Kim Jeong-Cheol),박영호(Park Yeong-Ho),김국진(Kim Kuk-Jin) 한국철도학회 2007 한국철도학회 학술발표대회논문집 Vol.- No.-
LIMs propelling the MAGLEV which has been developed in Korea have 3-series and 2-parallel connection, so that 6 LIMs per one vehicle are fed by one inverter. Thrust performance of the parallel-operated LIMs can be different from each other because of variant magnetic air gaps and electrical impedance. The thrust difference between the parallel LIMs cause a twist force on the vehicle. This paper proposes an algorithm to measure thrust of the parallel-operated LIMs. The method uses a digital signal processor(TMS320F2812), voltage and current sensors. As a result, thrust, flux and currents of the parallel-operated small LIMs which are manufactured in our laboratory are monitored by the developed measurement system.
딥러닝 기반의 감성 분석을 위한 대용량 학습 데이터 자동 구축 및 환류 시스템
이다희(Da-Hee Lee),이원민(Won-Min Lee),조준영(Jun-Young Jo),온병원(Byung-Won On) 한국정보기술학회 2020 Proceedings of KIIT Conference Vol.2020 No.10
감성 분석(Sentiment Analysis)이란 특정 대상에 대한 의견을 수집하고 감성에 따라 분류하는 과정으로 최근 딥러닝을 이용한 연구가 활발히 이루어지고 있다. 딥러닝이란 머신러닝 방법 중 하나로 인간의 신경망 원리를 따라 만든 것이다. 딥러닝 모델의 성능은 보통 학습 데이터가 많을수록 높아지는데 감성 분석을 위한 학습 데이터를 수집하는 것은 쉽지 않다. 이를 해결하기 위해서 딥러닝을 이용한 학습 데이터 구축 연구가 진행되어 왔지만, 딥러닝 모델의 성능에 따라 학습 데이터의 품질이 좌우된다. 본 논문에서는 감성 분석 모델 성능을 향상시키기 위하여 감성 인식 워드 임베딩을 사용하고, 딥러닝 기반의 감성 분석 모델로 대용량 학습 데이터를 자동 구축한다. 또한 구축된 학습 데이터를 사용자들이 평가하고 이를 환류하는 시스템을 제안한다. Sentiment Analysis is a process of collecting opinions on a specific object and classifying them according to their sentiments. Recently, research using deep learning has been actively conducted. Deep learning is one of the machine learning methods that is made according to the principle of human neural networks. The performance of a deep learning model usually increases as there are more train set, but it is not easy to collect train set for sentiment analysis. To solve this problem, studies on building train set using deep learning have been conducted, but the quality of train set depends on the performance of the deep learning model. In this paper, in order to improve the performance of the sentiment analysis model, we use the sentiment-aware word embedding and automatically construct a large-scale train set with the sentiment analysis model based on deep learning. In addition, we propose a system for users to evaluate the built-up train set and feedback it.