전차 교전 시뮬레이션 모델 확장 연구

최원준 국방대학원 2002 국내석사

근대 유럽 구상적 아방가르드 운동의 관점에서 본 건축

최원준 서울大學校 大學院 1997 국내석사

RFID 환경에서 태그 정보와 프라이버시 보호를 위한 백워드 채널 보호 방식

崔源晙 亞州大學校 情報通信專門大學院 2005 국내석사

수동형 RFID 태그는 스스로 전력을 갖고 있지 않기 때문에 연산 능력이 매우 약하고, 통신 신호는 크기가 약하고, 도달 거리가 짧다. 이런 특성을 이용하여, 대부분의 태그 보안 방법은 태그로부터 리더로 전달되는 무선 경로인 백워드(Backward) 채널은 도청의 가능성이 거의 없다는 가정하에 리더로부터 태그로 정보를 전달하는 포워드(Forward) 채널을 보호하는데 초점을 맞추고 있다. 그러나, 실제로 태그와 가까이에 있는 불법적인 리더는 정보를 불법적으로 수집할 수 있다. 본 논문에서는 이러한 근접거리에서 백워드 채널을 보호할 수 있는 방법을 제안한다. 제안방법은 태그정보의 충돌방지를 위하여 제안된 트리워킹 방식의 도청가능성을 제거하기 위하여 제안된 랜덤화된 트리워킹과 같은 기존 방식들에서 문제점을 해결하여 준다. 제안 방법의 효율성은 분석 모델을 사용하여 보였으며, 표준 코드시스템인 EPCglobal, ISO, uCode의 경우 도청가능성을 거의 ‘0’에 근접시킴을 보였다. Passive RFID tag does not have its own power.Therefore it has very poor computation abilities. and it can deliver signals in vert short range. Most RFId Tag security schemes assume that the backward channel from tags to a reader is safe from eavesdropping. However, eavesdrooppers near a tag can overhear message from the tah illegally. In this paper, we propose a mechanism to prdtect thr nackward channel from illegal eavedropping. Thr popposed scheme can cover the weakness of other conventional tree-walking-based security schemes that protect tag information in algorithm for RFID tags.We proved the efficiency and safeness of our proposed mechanism by using ab abalyical model. The proposed mechanis can secure standardized RFID tag systems such as EPChlobal,ISO and uCode against eavesdropping.

압력에 따른 물로켓 궤도분석

최원준 濟州大學校 敎育大學院 2008 국내석사

본 연구는 물로켓 궤도분석에 관한 연구로서, 추진력은 노즐을 빠져나가는 물의 압력과 노즐 단면적을 곱한 값으로 정의했다. 내부압력은 PASCO사의 MBL압력센서를 이용하여 측정하였다. 이 압력 데이터로부터 추진력을 수치적으로 계산하고 최고고도를 구하여 실험값과 비교하였다. 물 350 mL와 초기압력 200 ~ 350 kPa 조건에서 수치결과로부터 얻은 최고고도와 실험으로부터 얻은 최고고도는 3 % 이내에서 일치하였다. 이 조건에서 물로켓 발사실험을 중·고등학교 과학실험활동에 이용하면 좋은 과학교육 자료가 될 것이다. This research study is about on water rocket trajectory. Thrust of water rocket was multiplied by the value of eruption pressure and nozzle area. In order to measure pressure, by using the equipment Microcomputer Based Laboratory(MBL) sensors of PASCO. After calculating the data from this figures, the thrust is to obtain the highest altitude, compare to the value of the experiment. The initial terms of water is about 350 mL in 200 ~ 350 kPa pressure, the results obtained from the highest altitude of numerical and experiment results are matched within 3 %. Conditions of this experiment, water rocket launches to take advantage of activities in middle and high school science experiments, will be a good science education.

Pharmacopuncture of Magnolia officinalis reduces localized adiposity via AMPK signaling pathway in obesity

최원준 경희대학교 대학원 2022 국내석사

Excessive accumulation of local adipose tissue is also a risk factor for health and causes problems aesthetically. Recently, for various reasons, the need for non-invasive treatment for localized fat has emerged. The purpose of this study is to confirm whether MO pharmacopuncture reduces localized fat by promoting lipolysis and inhibiting adipogenesis based on the network pharmacology analysis. The network was built using genes related to the active compound of MO. Based on the result from network analysis, male C57BL/6J mice were fed with high fat diet for 8 weeks to induce obese condition. Then, 100 µL of 2 mg/mL MO pharmacopuncture was injected into the inguinal fat pad 3 times per week for 6 weeks. As a control group, Normal saline was injected into the right-side inguinal fat pad of HFD-induced obese mice. Through the Functional Enrichment Analysis, it was expected that the ‘AMPK signaling pathway’, a key regulator of lipid metabolism, would be affected by the MO Network. MO injections reduced the weight of inguinal fat pad. In addition, the diameter of adipocytes was reduced by MO injection of HFD-induced obese mice. The expression levels of Phosphorylation of AMP-activated protein kinase(p-AMPK), adipose triglyceride lipase (ATGL), hormone sensitive lipase (HSL), Monoglyceride lipase (MGL) were factors for evaluating whether MO promotes lipid catabolism. Also, the expression levels of sterol regulatory element-binding protein 1c (SREBP-1c), Fatty acid synthase (FAS), Phosphorylation of Acetyl-CoA carboxylase (p-ACC) were evaluated to confirm the inhibition of adipogenesis of MO. The expression levels of p-AMPK, HSL, ATGL and MGL were significantly increased after MO injection. In Also, The expression of SREBP-1c, p-ACC, p-mTOR, FAS, PPAR- γ was also found to be suppressed by MO injection. Our results demonstrated that the injection of MO promoted the expression of AMPK, which has beneficial effects on activation of lipolysis and inhibition of lipogenesis. This study proposes that Pharmacopuncture of MO can be a non-surgical alternative therapy in the treatment of local fat tissue. 국소 지방 조직의 과도한 축적은 심각한 미용적인 문제이기도 하며, 건강의 위험 요소이기도 하다. 최근에는 여러 가지 이유로 인해 비만 치료에 대한 비침습적 치료의 필요석이 대두되고 있다. 이번 연구의 목적은 MO(후박추출물) 약침이 지방분해를 촉진하고, 지방합성을 억제함으로써 고지방식이 비만유발 마우스에게 항비만 효과가 있는지를 확인하고자 함이다. 네트워크 약리학 분석을 위하여, 후박 주요 성분이 표적하는 유전자를 모아 비만과 관련있는 유전자를 비교분석하였다. Functional Enrichment analysis를 통하여 후박이 잠정적으로 효과있을 것으로 예상되는 작용 기전을 예측하였다. 예측된 결과를 기반으로 동물실험을 수행하기 위하여, 수컷 C57BL/6J 마우스로 8주간 고지방식이로 비만을 유발하였다. 그리고, 쥐의 좌측 서혜부 지방패드에 주3회씩 6주간 2 mg/mL 농도의 후박 약침을 100 µL씩 주입하였다. 식염수는 대조군으로서 우측 서혜부 지방패드에 같은 양 및 같은 횟수로 주입하였다. 유전자 네트워크 연구는 후박의 활성 화합물과 관련된 유전자를 사용하여 실행되었고 Functional Enrichment Analysis를 통해 후박 유전자 네트워크가 지질대사의 핵심 조절인자인 AMPK signaling pathway에 영향을 미칠 것으로 예상하였다. MO 약침은 고지방 식이 마우스의 서혜부 지방패드의 무게뿐만 아니라 지방세포의 크기도 감소시킴을 확인하였다. MO의 지질 분해 촉진 작용을 확인하기 위해 AMP-activated protein kinase(p-AMPK), adipose triglyceride lipase (ATGL), hormone‑sensitive lipase (HSL), Monoglyceride lipase (MGL)의 발현 수준을 평가한 결과, p-AMPK, ATGL, HSL, and MGL의 발현 수치는 후박 약침 주입 이후 유의미하게 증가하였다. 또한, 후박의 지질 합성 억제 작용을 확인하기 위해 sterol regulatory element-binding protein 1c(SREBP-1c), Fatty acid synthase (FAS), Phosphorylation of Acetyl-CoA carboxylase (p-ACC)의 발현 수준을 평가하여, p-ACC, FAS, SREBP-1c, PPAR- γ, p-mTOR의 발현 수치 역시 유의미하게 감소한 것을 확인하였다. 본 연구 결과를 통하여 후박 약침이 AMPK의 발현을 촉진함을 확인하였으며, 후박 약침으로 인하여 AMPK가 활성화됨에 따라, 그로 인해 유발되는 지질 분해 관련 인자들이 활성화되며, 지질 합성 관련 인자들이 억제됨을 확인할 수 있었다. 이번 연구는 후박 약침이 국소지방 약침 치료의 비수술적 대안이 될 수 있는 치료법임을 제시하하였다.

Cyclosporin A and Sanglifehrin A Enhance the Anticancer Effect of Cisplatin via Inhibiting Peptidyl Prolyl Cis-trans Isomerase Activity of Cyclophilin A in Glioma

최원준 경희대학교 대학원 2009 국내박사

Purpose: Glioma is the most common type of brain tumor in adults and treatment of high-grade gliomas is still palliative. We tried to examine whether cyclosporin-A (CsA) or sanglifehrin A (SFA) enhances cisplatin-induced apoptosis in C6 glioma cells, and whether it is via inhibition of PPIase activity of cyclophilin A (CypA) in glioma. Experimental Design: C6 rat glioma cell line was used as drug targets. Cell growth inhibition was monitored by MTT assay. Apoptotic cell death was verified by cellular and nuclear morphological changes using hoechst staining, and cleavage of PARP and caspase-3 using western blotting analysis. To assess the role of CypA in combination-induced cell death, CypA-siRNA was transiently transfected in C6 glioma cells. Immunohistochemistry was performed to check for expression of CypA in human high-grade glioma tissues. Results: The combination of cisplatin and either CsA or SFA significantly enhanced apoptotic cell death in C6 glioma cells in comparison with the single-agent treatment alone. Pre-incubation of cells with N-Acetyl-L-cycteine reduces the number of apoptotic cells induced by the combination treatment. Also, the combination treatment causes an increase in ROS generation and a decrease in intracellular glutathione levels. Furthermore, the combination treatment-induced apoptosis is via suppressing of PPIase activity of CypA. Interestingly, CypA expression was only observed in human GBM and C6 glioma cells, but not in normal human astrocytes, and was up-regulated in C6 glioma cells during hypoxia. Conclusions: Treatment with either CsA or SFA and cisplatin in combination may be an effective therapeutic strategy for patients with glioma.

제주 화산쇄설물의 물리적 특성에 대한 연구

최원준 제주대학교 2009 국내박사

제주 동북부 및 북부 중산간, 해안, 동부 지역 소화산(오름)에서 채취한 스코리아 시료들에 대한 철 화합물들의 물리적 특성을 조사한 결과를 요약하면 다음과 같다. X-선 회절 분석을 통해 채취된 제주 스코리아 시료들은 SiO₂, anorite와 같은 규산염 광물과 olivine, pyroxene, ilmenite, hematite와 magnetite 등의 광물이 분포되어 있음을 확인할 수 있었다. 한편, 함량이 적거나 동형치환, 다형광물 그리고 비정질 광물의 효과로 인하여 피크가 약하거나 위치가 다소 이동되어 일부 시료인 봉개 검은오름, 소수산, 송당칡오름 시료는 산화철을 미약하게 확인할 수 있었다. 따라서 스코리아 내의 철 화합물은 hematite 및 magnetite와 같은 단일 광물의 조성을 나타내기 보다는 다양한 점토광물 형태로 존재하고 있음을 알 수 있었다. 또한 봉개 검은오름, 어도오름, 저지오름, 녹남봉, 수월봉, 소산봉 둔지, 돚오름 시료에서는 hematite나 magnetite를 확인할 수 없었다. XRF 분석을 통해 일부 SiO₂ 함량이 57.54%, 57.53%인 중성암을 제외하고는 대부분 SiO₂가 28.08% ~ 49.84%인 염기성암 또는 초염기성암으로 분류되며, 전체 Fe화합물의 함량이 7.94 wt%에서 20.19 wt%로 분포되는 고철질 광물임을 알 수 있었다. 또한 중산간 지역의 MgO 분화지수와 비교한 중요 화합물의 변화가 다른 지역에 비해 비슷한 양상을 띠므로 중산간 지역 소화산들이 비슷한 성격을 띠고 있었다. IGUS분류에 의한 분석을 통해 제주 스코리아들은 전역이 대부분 현무암의 성격을 띠고 있으며, 특히 중산간 소화산들이 아주 비슷한 특성을 띠고 있음을 알 수 있었다. 즉 대부분의 스코리아는 고알루미나질 그리고 알카리 계열이며, 일부 해안 시료인 물메에서는 솔레아이트질도 확인되었다. Al₂O₃에 따른 Fe/Mn의 비율 값이 대부분 66% 이상이고, Mg수는 0.10~0.70인 현무암의 성격을 띠므로, 제주 스코리아는 상부 맨틀 이상에서 생성된 마그마의 작용에 의해서 생성된 것임을 알 수 있다. M?ssbauer 스펙트럼으로부터 olivine, pyroxene, ilmenite 그리고 다른 Fe^(2+),Fe^(3+)의 점토광물인 철 화합물에 의한 이중선들과 일부 시료들을 제외하고는 hematite와 magnetite에 의한 6중선을 볼 수 없었으며 이는 XRD결과와 일치하였다. Mössbauer 스펙트럼에 의한 총 면적비를 분석한 결과 중산간, 동부, 해안 지역의 총 철 화합물에 대한 평균 Fe^(3+)의 함량이 동북부 중산간(Aa)은 79.96%, 북부 중산간(Ab)은 79.96%, 동부(C)는 73.44%, 해안(B)은 67.31%로 나타나고 있어 해안지대로 갈수록 Fe^(2+)의 비율이 커짐을 알 수 있었다. 한편, 제주 화산활동에서 제1, 2기의 화산활동의 지형으로 분류되는 지역에 해당하는 소화산들에 나타나는 olivine, pyroxene, ilmenite을 포함하는 Fe^(2+)화합물의 총 면적비를 살펴보면 Fe^(2+)면적비가 높다. 즉, 서부지역 끝자락에 위치한 어도오름, 저지오름, 녹남봉, 수월봉들은 Fe^(2+)의 함량이 평균 70.58%, 그리고 동부지역 둔지, 돚오름에서는 Fe^(2+)의 함량이 평균 59.37%로 이루어져 있어 주 철 원자가 상태가 Fe^(2+)임을 보였다. 반면에 나머지 스코리아에 대한 M?ssbauer 면적비는 Fe^(3+)비율이 높고 이들 Fe^(3+)의 I.S. 값 범위는 0.19 mm/s ~ 0.35 mm/s 값을 나타내므로 나머지 중산간, 해안, 동부지역 스코리아 시료의 철 화합물들의 산화 상태는 대부분 Fe^(3+)상태임을 확인하였다. 또한 이들 스코리아들은 제주 화산암에 많이 포함된 Fe^(2+)화합물 olivine, pyroxene, ilmenite도 적은 양이지만 다양한 비율로 포함되어 있음을 알 수 있었다. 이는 대부분의 스코리아들은 Fe^(2+)인 지하 내부 암석으로 존재했던 2분출기의 화산암과 형성 시기가 비슷한 일부 소화산 시료와 달리 중산간과 동부 시료들 대부분의 스코리아의 생성 시기가 3, 4분출기의 화산 분출에 의한 화산쇄설물로 지표면에서 간헐적 분출에 의해 공기 중에서 생성되었기 때문이라 해석된다. Mössbauer 분석에 의하면 6중선이 나타나지 않는 해안 지대의 일부 시료, 동부 그리고 북부 중산간 일부 시료인 봉개 검은오름, 어도오름, 저지오름, 녹남봉, 수월봉, 소산봉 둔지, 돚오름 시료는 수중 분화 성격을 띤 소화산으로 추측된다. 따라서 Mössbauer 분광법을 통해 자성을 띤 6중선의 유무가 수중 분화 또는 육상 분화 소화산체인 제주 오름들의 구분 방법이 될 수 있을 것이다. XRF 분석에서도 다른 지역에 비해 비슷한 성격을 띠는 동북부 중산간 소화산의 스코리아 모두에서 6중선의 hematie와 magnetite가 나타남을 알 수 있고 1차광물 olivine, pyroxene, ilmenite의 I.S., Q.S. 값을 비교했을 때 비슷한 값을 가지는 것을 볼 수 있다. 이들 광물에 대한 Mössbauer 분석에 의해, olivine의 I.S. 값은 1.15~1.17 mm/s 그리고 Q.S. 값은 2.81~2.99 mm/s이었다. 또한 pyroxene의 I.S. 값은 1.13~1.15 mm/s 그리고 Q.S. 값은 2.46~2.53 mm/s이며, ilmenite의 I.S. 값은 1.12~1.13 mm/s 그리고 Q.S. 값은 0.84~0.87 mm/s로 분석되었다. 따라서 이들 중산간 소화산들은 비슷하거나 같은 근원 마그마에서 분출한 소화산들로 추정할 수 있고, 이것은 열점 분화 활동에 의한 제주 소화산체의 생성에 대해 중요한 자료가 될 수 있음을 알려준다. 북부 중산간 소화산의 스코리아에서도 대부분 비슷한 특징을 확인할 수 있었다. 따라서 Mössbauer 분광법을 통한 1차광물의 비교를 통해 제주 소화산체인 오름의 생성 원인 및 마그마의 성격을 알아볼 수 있는 방법으로 활용할 수 있다. Jeju is a volcanic island created through four different major volcanic eruptions since 1,200,000 years ago. Jeju has the top of Halla Mountain at its center and 360 small volcanoes, so-called small volcano(Orum) distributed over the whole Jeju island from mid-mountain(mid-Mt.) side to the seashore. Main element of the small volcanoes is scoria that contains the iron originated from the Earth's interior. Therefore, if we perform a careful study on the chemical composition and spectral Spectroscopy features of scoria iron compounds, we could figure out not only when the small vocanoes were created but also how different environment affect the forming of them. In this dissertation, scoria samples were taken from three different region of Jeju: the Northern and Eastern mid-Mt. area(A), the eastern area(B), the sea-side area(C). The chemical compositions in a sample can be identified by X-ray diffraction technique (XRD), X-ray fluorescence spectroscopy (XRF) and Mössbauer spectroscopy make it possible to investigate the state of the iron atoms in a sample and their magnetic properties too. (1) The results of X-ray diffraction (XRD) reveals that all sample include SiO₂ and a small amount of iron oxide. (2) X-ray fluorescence (XRF) analysis shows that the total amount of iron compounds varies from 7.94 wt% to 20.19 wt% depending on the region where they were taken. (3) X-ray diffraction and the Mössbauer spectra analysis lead us to conjecture that some small volcanoes in regions B and C were formed under the sea without being exposed to the air, and volcanoes in region A were created from the same hotspot under the ground. XRD analysis show much of the mineral silica are included, such as SiO₂, and anorite. So rather than a single type hematie and magnetie is a form of a variety of clay minerals. So, the compounds are the status of some of the iron atoms Fe^(2+) in olivine, pyroxene and ilmenite, Fe^(3+) in hematite and magnetite. Clay minerals are Fe^(2+) and Fe^(3+). This reasoning, including the iron and clay mineral characteristics that appear in the Fe^(2+), Fe^(3+) in the double-line with the results and will be detected by Mö ssbauer spectroscopy. By the Mössbauer spectrum, look at the average levels of Fe^(3+). The northeastern part of mid-Mt.(Aa) of 79.96%, northern mid-Mt.(Ab) of 79.96%, eastern(C) is 73.44%, sea-side(B) appears to have 67.31%. So as getting to the sea-side of Jeju island, the ratio of Fe^(2+) is growing. The most of scoria samples M?ssbauer spectrum area of Fe^(3+) is more than Fe^(2+). According to thesse samples' the I.S. value of 0.19~0.35 mm/s, most of samples iron state is Fe^(3+). In addition, they have some of Fe^(2+) compounds ilmenite, pyroxene, olivine also contains a small percentage. The reason, most of the sample, compared to the Jeju basalt 2st time is different. The most of samples generation time is 3st and 4st season in Jeju vocanic activity and was created out of the air by the eruption intermittently. Meanwhile, the ratio of Fe^(2+) is more than Fe^(3+) in some of Jeju small volcano is classified as 1st and 2st of activity in Jeju volcanic activity. Thease are adoorum, jejiorum, nocknambong, suwalbong located in the end of western and dunjiorum, dotorum in the eastern of Jeju island. The average levels of Fe^(2+) was 70.58% in located on the western tips, and the average levels of Fe^(2+) was 59.37% in loscted easern. There are guessed by underwater eruption samples, bonge gumunorum, adoorum, gujiorum, nocknambong, suealbong, sosunsanbog and dotorum in the sea-side, mid-Mt., and some of eastern area of Jeju island. Thease samples not shown the magnetic 6 lines by Mössbauer spectrum. And through this method, water and land forms can be formed to separate the small volcano(Orum). As estimated by the study, the existing generation of these mid-Mt. small volcanos was by the volcanic activity of Earth's interior is the same Hotspot. This reason was checked by Mössbauer spectroscopy, also. In other words, all the northeastern part of samples are similar to XRF analysis, and hematite and magnetite appears in Mössbauer spectrum. Meanwhile, Mössbauer analysis of the case, according to the I.S. value of the primary mineral pyroxene of I.S. value of 1.15~1.17 mm/s, Q.S. value of 2.81~2.99 mm/s, and olivine of I.S. value of 1.15~1.17 mm/s, Q.S. value of 2.46~2.53 mm/s, and ilmenite of I.S. value of 1.12~1.13 mm/s, Q.S. value of 0.84~0.87 mm/s, so they can see the value that is almost identical. Therefore, the existing generation of these small volcano, as estimated by the study, the same Jeju differentiated magma from the volcano, and the Earth's interior hotspot is a good workout by the physical evidence to show that the volcanic activity.

(A) study of data transmission efficiency over federated cloud infrastructure

최원준 University of Science and Technology 2017 국내박사

춤전용 소극장 기획공연에 따른 관람 만족도 조사

최원준 한양대학교 대학원 2012 국내석사

최근 생활수준의 향상에 따라 소비자의 문화예술 참여에 대한 관심의 증대, 여가생활에 대한 욕구가 높아지고 있다. 이는 공연예술에 대한 수요도 높아지게 되어 과거와 달리 일상적 생활 속에 공연장을 찾는 관람객이 증가하게 되었다. 본 연구는 소극장의 기획공연을 관람한 관객들을 대상으로 만족도를 조사하여 무용전용 극장에서는 기획공연을 정착화, 활성화 시키기 위하여 무용공연 관객을 대상으로 설문지 조사를 실시하였으며 다음과 같은 가설을 설정하였다. 가설 1. 소극장 무용공연 기획의 만족도는 공연의 전반적 만족도에 영향을 미칠 것이다. 가설 2. 소극장 무용공연기회의 만족도는 공연의 재 관람 의사에 영향을 미칠 것이다. 가설 3. 소극장 무용공연기획의 만족도는 공연의 추천의사에 영향을 미칠 것이다. 위의 가설의 검증하기 위하여 소극장 기획공연을 관람하러 온 관람객을 대상으로 설문조사를 하였으며 통계 처리함으로서 다음과 같은 결론을 도출 하였다. 소극장 기획공연의 만족도가 높으면 공연의 전반적 만족도, 공연의 재 관람 의사, 공연의 추천의사가 높아짐을 알 수 있었다. 이 결과는 소극장 기획공연의 만족도에 따라 공연에 대한 관객들의 전반적 만족도, 공연의 재관람 의사, 공연의 추천의사가 달라짐을 알 수 있었다. 관객과 예술가를 이어주는 공연기획은 기획단계에서부터 예술성 및 대중성의 고려와 홍보 등 관객을 배려하는 전문적인 기획력이 요구되어 관객의 만족을 통해 잠재관객의 참여도를 높이고 소극장의 기획공연을 관람한 관객들의 재 관람 동기유발을 촉진하여 춤전용 소극장 의 기획공연을 정착화,활성화 시키는데 다양한 노력이 요구 된다고 할수 있다. 춤전용 소극장 기획공연을 관람하러온 관객에게 감동과 만족감을 주기 위해서는 전문적인 기획력으로 예술성과 대중성 그리고 경제성의 모든 측면으로 공연이 기획되어져 관객을 만족시킬 수 있는 기획공연이 이루어 져야 할 것이다. 이러한 관점에서 본 연구는 춤전용 극장에서는 기획공연을 정착화, 활성화시키고, 관객의 요구를 충족시킬 수 있는 공연예술문화로 자리매김 할 수 있는 기초자료를 제공할 것으로 기대된다.

Sentiment BERT Using Actively Generated Pre-training Target : 능동적으로 생성된 사전 훈련 목적을 사용하는 감정 BERT

최원준 경북대학교 대학원 2022 국내석사

In the field of natural language processing, it is difficult for various deep learning models to solve problems by directly using labeled data. Therefore, like the way humans process new knowledge, the pre-training method is used, which is a method that utilizes knowledge learned in the past. As a result, using a large amount of text corpus, the model can understand the structure or meaning of the language and solve problems in various work fields of natural language processing. The pre-trained language model achieved performance improvement in various fields by using the structure and attention of the transformer. However, in BERT, one of the pre-trained language models, it was difficult to express the meaningful latent space distribution of the hidden state for the input output without fine-tuning. In addition, previous studies have shown that additional performance improvement is possible depending on the pre-training target, data, and model structure. In this paper, we use BERT as the base model and add the supervised learning training target of the downstream task in the pre-training step. A large amount of labeled data for pre-training was generated using self-training, a semi-supervised learning method, and was trained using TPU-v3-8. Using PCA and t-SNE, we show that the additional pre-training objective can improve the performance of the existing model in the sentiment classification task and improve the sentence expression of the model in the latent space in the experiment. 자연어처리 분야에서 다양한 딥러닝 모델은 라벨링된 데이터를 바로 이용하여 문제를 해결하기는 힘들다. 따라서 인간이 새로운 지식을 처리하는 방식처럼 과거에 배운 지식을 활용하는 방식인 pre-training 방식을 이용한다. 그 결과 많은 양의 텍스트 말뭉치를 이용하여 모델이 해당 언어에 대한 구조나 의미를 이해할 수 있으며 자연어처리의 다양한 작업 분야의 문제들을 해결할 수 있게 한다. pre-trained language model은 transformer의 구조와 Attention을 이용함으로써 다양한 분야에서 성능향상을 이루었다. 하지만 pre-trained language model 중 하나인 BERT에서는 fine-tuning을 하지 않고는 입력된 출력에 대한 hidden state의 의미있는 잠재공간의 분포를 표현하기 힘들다. 이전 연구들에서 사전 훈련 목표, 데이터 그리고 모델 구조에 따라 추가적인 성능향상이 가능함을 보여주었다. 이 논문에서는 BERT를 base 모델로 이용하고 pre-training 단계에서 downstream task의 supervised learning 훈련 목표를 추가한다. pre-train을 하기 위한 많은 양의 라벨링된 데이터는 semi-supervised learning의 방법인 self-training을 이용하여 생성하였으며 TPU-v3-8을 이용하여 학습하였다. 실험에서 추가 pre-training objective가 해당 감정 분류 작업에서 기존 모델의 성능을 향상시키며 잠재공간에서의 모델의 문장표현을 개선시킬 수 있음을 PCA와 t-SNE를 이용하여 보여준다.