Sequence-to-Sequence 모델 기반으로 한 한국어 형태소 분석의 재순위화 모델

최용석 ( Yong-seok Choi ),이공주 ( Kong Joo Lee ) 한국정보처리학회 2018 정보처리학회논문지. 소프트웨어 및 데이터 공학 Vol.7 No.4

Sequence-to-sequence(Seq2seq) 모델은 입력열과 출력열의 길이가 다를 경우에도 적용할 수 있는 모델로 한국어 형태소 분석에서 많이 사용되고 있다. 일반적으로 Seq2seq 모델을 이용한 한국어 형태소 분석에서는 원문을 음절 단위로 처리하고 형태소와 품사를 음절 단위로 출력한다. 음절 단위의 형태소 분석은 사전 미등록어 문제를 쉽게 처리할 수 있다는 장점이 있는 반면 형태소 단위의 사전 정보를 반영하지 못한다는 단점이 있다. 본 연구에서는 Seq2seq 모델의 후처리로 재순위화 모델을 추가하여 형태소 분석의 최종 성능을 향상시킬 수 있는 모델을 제안한다. Seq2seq 모델에 빔 서치를 적용하여 K개 형태소 분석 결과를 생성하고 이들 결과의 순위를 재조정하는 재순위화 모델을 적용한다. 재순위화 모델은 기존의 음절 단위 처리에서 반영하지 못했던 형태소 단위의 임베딩 정보와 n-gram 문맥 정보를 활용한다. 제안한 재순위화 모델은 기존 Seq2seq 모델에 비해 약 1.17%의 F1 점수가 향상되었다. A Korean morphological analyzer adopts sequence-to-sequence (seq2seq) model, which can generate an output sequence of different length from an input. In general, a seq2seq based Korean morphological analyzer takes a syllable-unit based sequence as an input, and output a syllable-unit based sequence. Syllable-based morphological analysis has the advantage that unknown words can be easily handled, but has the disadvantages that morpheme-based information is ignored. In this paper, we propose a reranking model as a post-processor of seq2seq model that can improve the accuracy of morphological analysis. The seq2seq based morphological analyzer can generate K results by using a beam-search method. The reranking model exploits morpheme-unit embedding information as well as n-gram of morphemes in order to reorder K results. The experimental results show that the reranking model can improve 1.17% F1 score comparing with the original seq2seq model.

설명(explication)의 논리 구조시퀀스 이론을 중심으로

김휘택 중앙대학교 외국학연구소 2015 외국학연구 Vol.- No.33

This article aims to show that the explanatory sequence can adopt the logic of the answer from the narrative and argumentative sequences, positioning them as subsequences of the explanatory sequence. For the content of an explanation to be persuasive, strategies that make an admissible speech to the caller are necessary. This is one strategy suggested by the theory of the sequence: to place the narrative or argumentative sequence as a subsequence of the explanatory sequence. The significance of this study lies in the attempt to overcome the definitions of particular sequences and illustrate the relationships between them. Clarifying the relationship of combinatorial sequences is important to understand not only the structure of the text but also the textual meaning. As research on the relationships between the sequences has proceeded, we have arrived at the need to methodologically classify these results. If this classification clarifies the sequential relationships and their effects on meaning in the text, we can establish a new grammar of the text.

공간시퀀스에 영향을 주는 빛 요인에 관한 연구

김영진 ( Youngjin Kim ),김주연 ( Jooyun Kim ) 한국공간디자인학회 2018 한국공간디자인학회논문집 Vol.13 No.2

(연구배경 및 목적) 공간 계획에 있어 시각적인 의미에 대한 부여 및 전달은 매우 중요한 부분이며 공간에 대한 시점에 따라 시퀀스를 경험하게 되므로 공간을 체험하고 경험한다는 것은 공간영역에 대한 의미를 전달 받는 것이다. 이와 같은 측면에서 공간의 시퀀스와 빛 환경에 대한 영역은 많은 연구의 필요성을 대두시켜 연구가 진행되어 왔으나 공간시퀀스와 빛 요인에 대한 연구내용이 부족하며 공간시퀀스에 영향을 주는 빛 환경 요인에 대한 연구를 필요로 한다. 따라서 본 연구에서는 공간시퀀스와 빛 환경에 대한 주제로 선행 연구된 학술적 연구논문을 항목별로 분석하여 향후 공간시퀀스와 빛 요인에 대한 세분화된 요인을 연구할 필요성에 대한 데이터 베이스적인 측면에서 자료의 정립을 목적으로 한다. (연구방법) 연구의 범위는 국내에서 공간시퀀스와 빛 요인을 주제어로 하여 선행 연구된 학술 논문에 대하여 조사 및 분석하고 조사된 사이트를 기반으로 수집하여 학술적 연구논문의 범위로 설정하여 분석 및 종합하였고 연구 방법에 있어서는 공간시퀀스와 빛 요인의 주제를 항목별 분류 및 세부 내용을 구분하여 분석하는 방법으로 연구하였다. (결과) 연구를 통하여 공간시퀀스와 빛 요인에 대한 연구측면에서 인체 영역을 기준으로 하는 연구 결과를 통하여 신체의 요소와 시지각에 의한 연구내용에 대한 부분이 중요하였고 특히 체험을 공간 시퀀스의 빛 요인의 복합적 요소와 연관 지었으며 공간구문 및 조망 빛 요소에 의하여 공간시퀀스의 빛 요인 측면에서 연구에 대한 영역과 내용을 분류하여 향후 종합적인 빛 환경을 요소화하여 세부적 연구를 할 수 있는 방향성을 설정하였다. (결론) 공간시퀀스와 빛 요인의 관련성 있는 연구 내용을 통하여 공간시퀀스는 빛 요인에 의하여 인체에 가장 많은 영향을 미치므로 인지적 측면에서 빛 환경 실험 연구가 매우 필요하며 인체에서 인지하는 자연광원인 빛이나 인공광원인 조명에 의하여 발생하는 시지각적인 영역에 대한 연구 내용을 추가 연구해야 한다는 사실이 종합되어 향후 연구에 있어서는 빛 요인인 인공광인 조명과 인체의 관계성을 기반으로 한 새로운 연구가 진행되어야 하겠다. (Background and Purpose) In space planning, granting and conveying visual meaning are very important, and we experience a sequence according to the point of view of space. Thus, experiencing space means receiving the meaning of the space area. In this respect, the area for the sequence of space has created the necessity for considerable research. While research has been carried out in the space field, the contents of research on sequence focus on the space plan or components, requiring research on other factors that affect the spatial sequence. Therefore, the purpose of this study is to generate a database on spatial sequence by summarizing the theories of scholars who have previously studied the subject of spatial sequence and analyzing academic research papers by item to subdivide the sequence field in the future. (Method) Regarding the scope of the study, we collected and analyzed academic research papers in Korea with spatial sequence as a keyword based on the investigation and analysis site of the papers. For the research method, we applied the method of classifying and analyzing the subject of spatial sequence by item and in detail. (Result) In terms of research on spatial sequence, much of the research content focused on factors related to the human body and visual perception, and in particular, many studies focused on experiences with the complex factors of space. It was also found that spatial sequences are classified into types, and research on the structure and characteristics of space is concurrently being conducted to present an index by referring to the subject or spatial form. (Conclusion) Since spatial sequences have the greatest effect on the human body owing to light factors, according to related research on spatial sequences and the light environment, it is necessary to study light factors experimentally from a cognitive perspective. In future research, the relationship between human body illumination and artificial light, which is a light factor, should be examined.

A Novel Similarity Measure for Sequence Data

Pandi, Mohammad. H.,Kashefi, Omid,Minaei, Behrouz Korea Information Processing Society 2011 Journal of information processing systems Vol.7 No.3

A variety of different metrics has been introduced to measure the similarity of two given sequences. These widely used metrics are ranging from spell correctors and categorizers to new sequence mining applications. Different metrics consider different aspects of sequences, but the essence of any sequence is extracted from the ordering of its elements. In this paper, we propose a novel sequence similarity measure that is based on all ordered pairs of one sequence and where a Hasse diagram is built in the other sequence. In contrast with existing approaches, the idea behind the proposed sequence similarity metric is to extract all ordering features to capture sequence properties. We designed a clustering problem to evaluate our sequence similarity metric. Experimental results showed the superiority of our proposed sequence similarity metric in maximizing the purity of clustering compared to metrics such as d2, Smith-Waterman, Levenshtein, and Needleman-Wunsch. The limitation of those methods originates from some neglected sequence features, which are considered in our proposed sequence similarity metric.

논증시퀀스와 광고 분석

김휘택(Kim. Hui-Teak) 한국문화융합학회 2017 문화와 융합 Vol.39 No.5

장-미셀 아당의 시퀀스 이론은 시퀀스라는 중간 단위를 통해 텍스트의 구조를 보여준다. 이 시퀀스가 중간 단위라고 불리는 이유는 시퀀스가 문장과 텍스트 전체의 중간에 위치하기 때문이다. 시퀀스는 수사학의 전통과 학교교육의 교과서 많이 다루어졌던 분석 단위이기 때문에 텍스트 문법보다 비교적 안정적으로 적용할 수 있다. 우리는 본고에서 논증과 관련된 이론들을 통해서 두 광고(iPhone 4, Galaxy S2)를 비교하였다. 광고는 반드시 논증적인 것이어야 한다. 이러한 전제를 바탕으로, 첫 번째 광고(iPhone 4)는 충분히 이러한 광고의 성격을 잘 보여준다. 그리고 이 광고에서 발화문들은 논증 시퀀스의 구조에 정확히 부합한다. 반면에, 두 번째 광고(Galaxy S2)는 작은 소녀의 행위와 관련된 이야기 시퀀스에 가깝다. 이 광고는 이야기 시퀀스를 통해서 휴대폰 자체의 품질보다는 휴대폰의 LCD 품질의 우수함을 보여주고 있다. 따라서 iPhone 4의 광고가 광고 본연의 역할을 Galaxy S2의 광고 보다 잘 수행하고 있다는 것을 알 수 있다. 본고는 광고라는 논증적 성격의 실체가 아당의 시퀀스 이론으로 밝혔으며, 이를 통해 시퀀스 이론의 적용과 관련된 유연성을 다시 한 번 확인하는 계기가 되었다. The sequence theory of Jean-Michel Adam shows the structure of text through an intermediate unit, called “sequence”. The sequence is considered as an intermediate unit because the sequence is located midway between the sentence and the entire text. As the sequence is an analysis unit that has been dealt with much in rhetoric tradition and school education textbooks, it can be applied more reliably than the sentence unit of text grammar. In this paper, we compare two advertisements (iPhone 4, Galaxy S2) through theory related to argumentation. Advertising must be argumentative. Based on these assumptions, the first advertisement (iPhone 4) is enough to show the nature of these advertisements. And the utterances in this advertisement exactly match the structure of the argument sequence. On the other hand, the second ad (Galaxy S2) is close to the story sequence related to the behavior of the little girl. This advertisement shows the quality of the mobile phone LCD rather than the quality of the phone itself through the narrative sequence. Therefore, it can be seen that the advertisement of iPhone 4 performs the role of advertisement better than the advertisement of Galaxy S2. This article reveals the reality of the argumentative nature of advertising as a sequence theory of Jean-Michel Adam, which once again confirmed the flexibility related to the application of sequence theory.

확장된 LSTM 오토인코더 기반 이상 시퀀스 탐지 기법

이주연(Jooyeon Lee),이기용(Ki Yong Lee) 한국전자거래학회 2021 한국전자거래학회지 Vol.26 No.1

최근 센서 측정 데이터, 구매이력 등과 같이 시간 정보를 포함하는 시퀀스(sequence) 데이터가 다양한 응용에서 발생되고 있다. 주어진 시퀀스들 중 다른 시퀀스들과 매우 상이한 이상(anomalous) 시퀀스를 탐지하는 기법들은 지금까지 많이 연구되어왔으나 이들 대부분은 주로 시퀀스 내 원소들의 순서만을 고려하여 이상 시퀀스를 찾는다는 한계가 있다. 따라서 본 논문에서는 원소들의 순서와 원소들 간의 시간 간격 모두를 고려하는 새로운 이상 시퀀스 탐지 기법을 제안한다. 본 논문에서 제안하는 방법은 확장된 LSTM 오토인코더 모델을 사용한다. 이 모델은 시퀀스를 해당 시퀀스 내 원소들의 순서와 시간 간격 모두를 효과적으로 학습할 수 있는 형태로 변환하는 층을 추가로 가진다. 제안방법은 확장된 LSTM 오토인코더 모델로 주어진 시퀀스들의 특징을 학습한 뒤, 해당 모델이 잘 복원하지 못하는 시퀀스를 이상 시퀀스로 탐지한다. 본 논문에서는 정상 시퀀스와 이상 시퀀스를 혼합한 가상 데이터를 사용하여 제안 방법이 전통적인 LSTM 오토인코더만을 사용하는 방법과 비교하여 100%에 가까운 정확도를 나타냄을 보인다. Recently, sequence data containing time information, such as sensor measurement data and purchase history, has been generated in various applications. So far, many methods for finding sequences that are significantly different from other sequences among given sequences have been proposed. However, most of them have a limitation that they consider only the order of elements in the sequences. Therefore, in this paper, we propose a new anomalous sequence detection method that considers both the order of elements and the time interval between elements. The proposed method uses an extended LSTM autoencoder model, which has an additional layer that converts a sequence into a form that can help effectively learn both the order of elements and the time interval between elements. The proposed method learns the features of the given sequences with the extended LSTM autoencoder model, and then detects sequences that the model does not reconstruct well as anomalous sequences. Using experiments on synthetic data that contains both normal and anomalous sequences, we show that the proposed method achieves an accuracy close to 100% compared to the method that uses only the traditional LSTM autoencoder.

대화 시퀀스와 텍스트의 구조분석

김휘택 ( Hui Teak Kim ) 한국기호학회 2014 기호학연구 Vol.40 No.-

본 논문의 목적은 장 미셀 아당(Jean-Michel Adam)의 시퀀스 이론 중에서 대화 시퀀스의 텍스트 내 역할과 효과를 밝히는 데 있다. 대화 시퀀스는 대화를 일종의 시퀀스로 구조화 한 것이다. 이 시퀀스는 친교 시퀀스와 교류 시퀀스로 구성된다. 이 시퀀스는 우리가 일상에서 수행하는 대화가 쉽게 구조화되지 않는다는 한계에서 고안되었다. 특히 대화가 텍스트 내에서 도입되었을 때, 독자에게 ``행위`` 자체를 생생하게 전달한다는 대화 시퀀스만의 독특한 역할은 텍스트 언어학에서 대화 시퀀스의 중요성을 가늠케 한다. 본고는 대화 시퀀스의 특징과 텍스트 내 역할을 밝히기 위해, 실제 텍스트에 이를 적용하였다. 대화 시퀀스는 아직 많은 연구 성과가 나타나지 않은 만큼, 대화 시퀀스와 다른 시퀀스들의 관계를 좀더 연구한다면, 시퀀스 이론의 외연 확장에도 기여할 수 있을 것이다. Cet article a pour but d`illustrer le role et les effets de la sequence dialogale dans le texte. Cette sequence est un resultat de la structuration du dialogue. Cette sequence est concue a cause de la limite ou des dialogues quotidiens ne peuvent guere etre structures. Lorsque le dialogue est introduit dans le texte, l`importance de la sequence dialogale dans la linguistique textuelle consiste a transmettre vivement 《 l`action ≫ aux lecteurs a travers le texte. Cet article a dedie une partie a l`application reelle au texte. Etant donne que la sequence dialogale ne produit guere encore etudiee, si l`on recherche la relation entre cette sequence et les autres sequences, cela contribue a elargir l`extension de la theorie des sequences.

Bacillus stearothermophilus Acetylxylan Esterase 유전자(estⅠ)의 염기 서열 결정

이정숙,최용진 한국산업미생물학회 1997 한국미생물·생명공학회지 Vol.25 No.1

강력한 xylan 분해 분리 균주인 Bacillus stearothermophilus의 acetylxylan esterase 유전자(estⅠ)의 염기 서열을 결정 분석하였다. estⅠ 유전자는 810 bp의 270개의 아미노산을 지시하는 ORF로 구성되어 있으며 ATG initiation codon의 9 bp 윗쪽에 SD-sequence로 추정되는 AGGAGG, 그리고 53 bp 더 윗쪽에는 promoter로 추정되는 염기 서열의 존재를 확인할 수 있었다. 추정 -10 element(TCCAAT)와 -35 element(TTGAAT)는 Bacillus subtilis promoter consensus sequence와 높은 유사성을 나타내고 있다. estⅠ 유전자의 G+C 함량은 51%, codon의 세번째 자리의 G+C 분포량은 60.2%로 고온성 세균의 G+C 함량의 일반적인 경향을 보이고 있다. 한편, 염기 서열로부터 산출된 EstⅠ의 분자량은 30 kDa으로 정제 효소의 SDS-PAGE로부터 측정된 분자량인 29 kDa과 큰 차이를 보이지 않았다. 또한 상기 ORF의 N-말단 아미노산 서열은 MAMIQIQFFSQ로서 정제 EstⅠ 단백질의 N-말단 서열과 완전 일치되고 있다. 또 EstⅠ 효소의 아미노산 서열을 분석해 본 결과 지금까지 보고되고 있는 다른 esterase와 lipase 등의 촉매 부위의 conserved sequence(GXSXG)와 일치되는 GLSMG(123-127 codons)를 가지고 있어 이 부분이 EstⅠ 효소의 촉매 부위일 것으로 추정된다. 또한, estⅠ 유전자의 염기 서열은 지금까지 보고되고 있는 유일한 acetylxylan esterase 유전자인 Caldocellum saccharolyticum xylC와 55.7%, 그리고 아미노산 서열은 57%의 동일성을 나타내고 있다. The nucleotide sequence of the estⅠ gene encoding acetylxylan esterase Ⅰ of Baillus stearothermophilus was determined and analyzed. The estⅠ gene was found to consist of a 810 base pair open reading frame coding for a polypeptide of 270 amino acids with a deduced molecular weight of 30 kDa. This was in well agreement with the molecular weight (29 kDa) estimated by SDS-PAGE of the purified esterase. The coding sequence was preceded by a putative ribosome binding site 10 bp upsteam of the ATG codon. Further 53 bp upsteam, the transcription initiation signals were identified. The putative -10 sequence (TCCAAT) and -35 seqence (TTGAAT) corresponded closely to the respective consensus sequences for the Bacillus subtilis major RNA polymerase. The G+C content of the coding region of the estⅠ was 51% whereas that of the third position of codons was 60.2%. The N-terminal amino acid sequence of the EstⅠ dedeced from the nucleotide sequence perfectly matched the corresponding region of the purified esterase described previously. Comparison with the amino acid sequence of other esterases and lipases reported so far allowed us to identify a sequence, GLSMG at positions 123 to 127 of the EstⅠ which was reported to be the highly conserved active site sequence for those enzymes. The nucleotide sequence of the estⅠ revealed 55.7% homology to that of the xylC coding for the acetylxylan esterase of Caldocellum saccharolyticum.

텍스트 구조분석에서 대화 시퀀스의 위상과 역할

김휘택 국제언어인문학회 2013 인문언어 Vol.15 No.3

This article aims to illustrate the status and the role of dialogue sequence based on Jean-Michel Adam’s theory of textual linguistics. There are many doubts as to whether a dialogue itself can become the object of study or the unit of analysis in textual linguistics. However it is important to denote that the statement ‘already’ considered as the subject of fundamental study of linguistics is produced at the moment when it is enunciated, i.e. dialogue. In addition, because there are so many parameters in a dialogue that has to be taken into account, it is difficult to prototype all of them for the study of a text. Textual linguistics should consider these problems when adopting the method of text analysis for the study of the dialogue. In this respect, Adam’s proposal to take dialogue as one of the sequences is significant, in that, if we can analyze the dialogue in a systematic way, we may be able to ameliorate the structure of the texts substantially. This paper proposes two features of the dialogical sequence. First, the phatic sequence is placed at the beginning and at the end. Moreover, the dialogue is defined as an act. These particularities of the dialog allow us to grasp the characters’ activity depicted in the text. To ensure the status of the dialogue as a unit of analysis, we need to prove that the dialogical sequence plays the same role as the other sequences. The paper analyzes an extract of a Korean fiction, “Wandoogi.” The analysis showed that the dialogue sequence can dominate the other sequences. In other words, a dialogue sequence can assimilate the role of an embedding sequence. The dialogue sequence should be given a specific position in textual analysis due to its mediating attributes.

OFDM 통신시스템의 PAPR 저감을 위한 더미 시퀀스 삽입

이재은,유흥균,정영호,함영권 한국전자파학회 2003 한국전자파학회논문지 Vol.14 No.12

OFDM(orthogonal frequency division multiplexing) 통신 방식은 무선 고속 데이터 전송에 적합한 방식이다. 하지만 높은 PAPR(peak-to-average power ratio)의 발생으로 HPA(high power amplifier)에서 비선형 왜곡된다. 따라서 본 논문에서는 일정량의 부반송파를 PAPR 저감을 위해 사용하지만 별도의 부가정보 전송이 필요하지 않는 DSI(dummy sequence insertion) OFDM을 제안한다. DSI 방식은 기존 PTS(partial transmit sequence)나 SLM(selected mapping) 방식에서의 부가 정보와 달리 단지 PAPR 감소에만 사용되는 특정한 더미 데이터 시퀀스(dummy data sequence)를 전송한다. 더미 시퀀스로 상보 시퀀스(complementary sequence)와 상관 시퀀스(correlation sequence)를 사용하고 좀더 효과적 인 PAPR 저감을 위해 플리핑(flipping) 방법을 사용한다. 또한 DSI 방식은 기존의 블록코딩 방식보다 나은 전송 효율(spectral efficiency)을 갖는다. 그리고 DSI 방식은 처리시간 및 계산량을 줄이기 위해 threshold 기법을 적용한다. 하지만 PAPR 저감 성능은 기존 방식보다 떨어진다. 하지만 제안한 DSI 방식의 중요한 장점은 더미 데이터 시퀀스의 손상에 의해 BER특성이 영향을 받지 않는다는 것이다. 결론적으로 DSI 방식은 OFDM 보다 낮은 PAPR을 갖고 기존의 PIS나 SLM에 비해 처리시간을 감소시키고 BER성능 개선이 이루어진다. OFDM(orthogonal frequency division multiplexing) communications system is very attractive for the high data rate transmission in the frequency selective lading channel. Since OFDM has high PAPR(peak-to-average power ratio), OFDM signal may be distorted by the nonlinear HPA(high power amplifier). In this paper, we propose the DSI(dummy sequence insertion) method for OFDM communication system. Some sub-carriers are inserted for PAPR reduction. They carry the specified dummy data sequence which are used for only PAPR reduction and do not work as side information like the conventional PTS(partial transmit sequence) or SLM(selected mapping) method. We use the complementary sequence and the combination of the correlation sequence as the dummy sequence. Flipping technique is used for the DSI method to get the effective PAPR reduction. It is important that BER of the proposed method is independent of the damage of the dummy data sequence. And DSI method has better spectral efficiency than the conventional block coding. On the other hand, threshold PAPR method is applied to cut down the processing time. However, this DSI method is not better than the conventional PTS method in the respect of the PAPR reduction performance. The DSI method includes the threshold PAPR lower than the PAPR of the OFDM signal, reduces the processing time and improves the BER performance.