KNN-AdaBoost 모델과 AdaBoost-SVM 모델을 통한 준교사학습 비교

유회중(Hoe Joong You),권영만(Young Man Kwon) 한국IT마케팅학회 2014 한국IT마케팅학회 학술대회 Vol.2014 No.1

The supervised-learning and unsupervised-learning when analyzed in the case of the one without as there are output information is combined data, the error rate is not easily trust that a comparison learning history. Therefore I suggest the semi-supervised- learning that gave me that were mixed compared to history unsupervised-learning and supervised-learning. In addition, the semi-supervised learning that gave are mutually comparing model that combines the model and AdaBoost and SVM bound the KNN algorithm and AdaBoost algorithm, to check the semi-supervised learning of the error rate is low binding model.

기계학습의 소개: 예측모형을 위한 지도학습 이론을 중심으로

이선복 이화여자대학교 교육과학연구소 2022 교육과학연구 Vol.53 No.3

Recent developments in machine learning and information and communications technology have dramatically improved the accuracy of predictive models. Therefore, various fields in social science including psychology are paying more attention to predictive models based on machine learning. The goal of this article was to introduce the key concepts and theoretical framework of supervised learning to those researchers who do not have much background on the topic. To that end, this article introduced supervised learning with three main themes. First, supervised learning can be defined based on the framework of a traditional optimization problem. Second, the key task of supervised learning is to learn the relationships and patterns that can be generalized to previously unseen data. Third, optimal predictive models can be meaningfully defined only when discussed in relation to the ultimate goals for using the models. Focusing on these main themes, this article introduced the definition of machine learning, statistical learning, performance metrics, ensemble methods, class imbalance data, and representation learning. In the discussion, some limitations of a machine learning approach were also discussed. 최근 기계학습과 정보통신기술의 발달로 인해 예측모형의 정확도가 크게 향상되었다. 이에 따라 교육 분야를 포함한 사회과학 전반에 걸쳐 지도학습에 기반한 예측모형에 관한 관심이 점차 높아지고 있다. 이 논문의 목적은 지도학습을 처음 접하는 사회과학 분야 연구자들에게 지도학습의 기본개념과 이론적 틀을 소개하는 것이다. 이를 위해 이 논문은 다음과 같은 핵심 주제를 중심으로 지도학습을 소개하고자 하였다. 첫째, 지도학습은 전통적인 최적화 문제로 정의된다. 둘째, 지도학습의 가장 큰 과제는 데이터로부터 일반화 가능한 관계나 패턴만을 학습하여 학습된 관계나 패턴이 새로운 데이터에도 잘 적용될 수 있도록 하는 것이다. 셋째, 최적의 예측모형이란 예측모형을 사용해서 이루고자 하는 목적과 관련지어서만 의미 있게 정의될 수 있다. 이러한 핵심 주제를 중심으로 이 논문에서는 기계학습의 정의, 인공지능에서 학습의 필요성, 통계적 학습이론, 지도학습의 다양한 성능평가지표, 앙상블 방법, 클래스 불균형 데이터, 지도학습의 학습과정, 표현학습을 소개하였다. 논의에서는 지도학습에 기반한 예측모형을 교육 분야 연구에 적용할 수 있는 방법과 한계점에 대해 논의하였다.

학습콘텐츠 자동분류를 위한 액티브러닝 성능 비교

강은숙(Eun-Sook Kang),고대식(Dae-Sik Ko) 한국정보기술학회 2021 한국정보기술학회논문지 Vol.19 No.7

Recently, the untact education system has emerged as a socially essential infrastructure and the need for personalized learning has been on the rise. In this paper, a method of automatically classifying learning contents using deep learning based on active learning has been studied and classified in order to build a personalized learning platform. Uncertainty approach of active learning, where the approach to screening learning data is the key and Core-set approach representative of diversity approach have been tested. Compared to the classification model using machine learning, the performance of the classification model using deep learning is superior and active learning applying the core-set approach showed an effect of 90.7% in reducing the time required to reach the deep learning baseline accuracy of 97.5% or higher. Therefore, as possible to automatically classify learning contents accurately and quickly using active learning-based deep learning, it is expected that it will be used as a core technology for personalized learning platform services.

머신러닝 기술을 이용한 사이버위협 대응 방안에 관한 연구

이광형(Kwang Hyoung Lee),정용훈(Young Hoon Jung) 한국산학기술학회 2023 한국산학기술학회논문지 Vol.24 No.10

최근 IoT, ICT 환경에서 정교하게 진화하고 있는 사이버위협은 증가하고 있으며, 이에 보안 운영 환경이 감당하기 힘든 수준으로 복잡해지고, 이로 인해 분석할 데이터는 증가하고 있다. 또한 보안 전문 인력 부족 및 성숙도 부족에 따른 휴먼에러가 증가하고 있다. 본 논문에서는 머신러닝 비지도학습과 준지도학습 모델을 이용하여 정교하게 진화하는 사이버위협에 대응할 수 있도록 하였다. 본 논문에서 사용된 비지도학습 모델은 세션정보(L4), 프로토콜 헤더정보(L7), 파일 등의 정보를 수집하고, 이를 위협정보와 비교하여 유사한 위협을 매핑 및 라벨링하여 이상행위를 탐지하는데 사용하였다. 클러스터링 기술을 통해 모델링을 수행하고, 생성된 모델은 재학습을 통해 모델 업데이트하여 분석속도가 향상될 수 있으며, 생성된 모델은 준지도학습에 재학습하여 모델을 업데이트할 수 있도록 하였다. 준지도학습 모델은 비지도 학습 모델의 시간별 클러스터링 기반 탐지기법은 평소와 다른 행위를 탐지하는데 유용하고, 공격유형별 지도학습 기반탐지 기법은 네트워크 기반 행위가 특정 공격에 해당하는지 구별하여 탐지하는데 유용하다. 준지도학습은 지도학습 모델과 비지도학습 모델을 적절히 혼합하여 탐지 정확도와 노이즈(탐지)를 줄일 수 있는 장점이 있다. Cyber threats are evolving more sophisticatedly in the IoT and ICT environments. As a result, the security operating environment is becoming unmanageably complex, and the data to be analyzed is increasing. In addition, human errors are increasing due to a lack of security professionals and maturity. This study used unsupervised and semi-supervised machine learning models to respond to sophisticated cyber threats. The unsupervised learning model used in this paper collects information, such as session information (L4), protocol header information (L7), and files, and compares this with threat information to map and label similar threats and detect abnormal behavior. Modeling is performed through clustering technology, and the analysis speed can be improved by updating the generated model through re-learning. The generated model can be re-trained through semi-supervised learning to update the model. The temporal clustering-based detection technique of the unsupervised learning model in the semi-supervised learning model is useful for detecting behavior that is different from usual, and the supervised learning-based detection technique for each attack type is useful for distinguishing and detecting whether network-based behavior corresponds to a specific attack. Semi-supervised learning can reduce the detection accuracy and noise (detection) by appropriately mixing supervised learning models and unsupervised learning models.

Quark Gluon Jet Discrimination with Weakly Supervised Learning

이상훈,이상만,이윤재,박인규,WATSON IAN JAMES,양승진 한국물리학회 2019 THE JOURNAL OF THE KOREAN PHYSICAL SOCIETY Vol.75 No.9

Deep learning techniques are currently being investigated for high energy physics experiments, to tackle a wide range of problems, with quark and gluon discrimination becoming a benchmark for new algorithms. One weakness is the traditional reliance on Monte Carlo simulations, which may not be well modelled at the detail required by deep learning algorithms. The weakly supervised learning paradigm gives an alternate route to classication, by using samples with different quark{ gluon proportions instead of fully labeled samples. This paradigm has, therefore, huge potential for particle physics classication problems as these weakly supervised learning methods can be applied directly to collision data. In this study, we show that realistically simulated samples of dijet and Z+jet events can be used to discriminate between quark and gluon jets by using weakly supervised learning. We implement and compare the performance of weakly supervised learning for quark{gluon jet classication using three different machine learning methods: the jet image-based convolutional neural network, the particle-based recurrent neural network and and the feature-based boosted decision tree.

웨이퍼 결함 패턴 분류를 위한 보간법 기반의 준지도 대조학습

김정현,이제혁 한국지능정보시스템학회 2024 지능정보연구 Vol.30 No.1

웨이퍼 빈 맵의 결함 패턴은 반도체 제조 공정 과정에서의 불량 정보와 불량 위치 정보를 제공하기 때문에 매우 중요한 정보이다. 현재 WBM 결함 패턴 분류 작업은 현업 엔지니어에 의해 분류되고 있다. 그러나, WBM 분류 작업은 많은 시간과 비용을 요구하는 문제가 존재한다. 이러한 문제를 해결하기 위해 준 지도학습을 활용한 연구가 진행되고 있다. 대표적인 연구 방법으로 수도 레이블링을 활용하는 준 지도학습 방법이 있다. 이는 적은 레이블이 존재하는 데이터를 활용 하여 지도학습 진행 후, 레이블이 없는 데이터를 활용하여 수도 레이블을 생성한다. 이를 통해 얻은 수도 레이블과 레이블이 존재하는 데이터를 활용하여 모델을 재 학습하는 방법을 수도 레이블링을 활용한 준 지도학습이라 한다. 하지만 수도 레이블링을 활용한 준 지도학습의 경우 생성된 수도 레이블에 따라 모델의 성능이 달라진다는 문제점이 있다. 또한 이미지 분야에서 이미지에 증강을 적용 시 이미지의 의미론적 정보를 잃는 문제가 발생할 수 있다. 본 연구에서는 Wafer Interpolation Contrastive Learning(WaICL) 모델을 제안한다. 제안된 모델은 수도 레이블링을 활용한 준 지도학습 모델과 자가 지도학습의 대조 학습을 결합하여 수도 레이블 의존성 문제를 완화하며, 대조 학습 단계에서 보간법 방법을 사용하여 이미지의 의미론적 정보를 잃는 문제를 완화하였다. 또한 적은 레이블을 활용한 제안 방법론의 실험 결과가 지도학습과 비슷한 성능을 보여 레이블링이 어려운 분야에서 레이블링 문제를 해결할 수 있음을 확인하였다. The defect pattern of Wafer Bin Map (WBM) is crucial as it provides information about defects and their locations in the semiconductor manufacturing process. Currently, defect pattern classification in WBM is manually performed by industry engineers, posing challenges in terms of time and cost. To address this issue, research utilizing semi supervised learning is underway. A prominent approach involves pseudo labeling, which involves utilizing a small set of labeled data for supervised learning, generating pseudo-labels for unlabeled data, and then retraining the model using both the pseudo labels and labeled data. However, a drawback of pseudo labeling is that the model’s performance can vary based on the generated pseudo labels. Additionally, applying image augmentation in the field of images may lead to the loss of semantic features. In this study, we propose the Wafer Interpolation Contrastive Learning (WaICL) model. The proposed model alleviates the dependency on pseudo-labels by combining pseudo-labeling from semi supervised learning with self-supervised contrastive learning. In the contrastive learning stage, an interpolation method is employed to mitigate the loss of semantic features in images. Experimental results of the proposed methodology using limited labels demonstrate performance similar to supervised learning, confirming its potential to address labeling challenges in areas where labeling is difficult.

자기지도학습을 이용한 준지도학습에 관한 연구

김대학 한국데이터정보과학회 2023 한국데이터정보과학회지 Vol.34 No.6

We considered a semi-supervised learning by using self-supervised learning which is widely applied in machine learning areas. We suggest a data generative method from unlabeled data and irrelevant negative data via self-supervised learning. Also we suggest a mutual information using contrastive predictive coding for the use of negative data. For the good generation of data, we used Wasserstein information rather than Kullback-Libler divergence and discussed self-supervised learning method which leads superior performance of classification. Simulation result shows the applicability of suggested method.

학습 장학의 개념 탐색

정수현 한국인격교육학회 2023 인격교육 Vol.17 No.1

The purpose of this study is to contribute to the discussion of new paradigm of supervision suitable for the era in which the initiative of learners is emphasized by suggesting the meaning, necessity, and procedures of learning supervision in contrast with existing supervision as teaching-centered supervision. First, focusing on the fact that supervision is guidance and advice for teaching-learning activities, this study tries to reveal the characteristics of learning supervision by distinguishing learning-centered supervision from teaching-centered supervision and comparing learning supervision with learning consulting. Subsequently, the necessity of learning supervision is presented in terms of restoring the nature of supervision, change in the educational paradigm according to changing conditions, and relieving the excessive responsibility of teachers. The types and principles of learning supervision are exemplified and the example of the process of learning supervision presented. Finally, suggestions for the settlement of learning supervision are presented. 이 연구의 목적은 기존의 장학이 교수 중심 장학이라고 보고 그와 대비되는 학습 장학의 의미와 필요성, 절차 등에 대해 제안함으로써 학습자의 주도성이 강조되는 시대에 적합한 장학의 새로운 패러다임에 대한 논의에 이바지하고자 하는 데 있다. 우선, 장학이 교수-학습 활동에 대한 지도․조언이라는 점에 착안하여 교수 중심 장학과 학습 장학을 구분하고 학습 장학과 학습 컨설팅을 비교하여 학습 장학의 특성을 드러내고자 하였다. 이어서 학습 장학의 필요성을 장학의 본질 회복, 여건 변화에 따른 교육 패러다임의 변화, 교사의 과도한 책임 완화 측면에서 제시하였다. 학습 장학의 유형과 원리, 절차도 예시하였다. 마지막으로 학습 장학의 정착을 위한 제언을 제시하였다.

머신러닝 알고리즘 분석 및 비교를 통한 Big-5 기반 성격 분석 연구

김용준 한국인터넷방송통신학회 2019 한국인터넷방송통신학회 논문지 Vol.19 No.4

In this study, I use surveillance data collection and data mining, clustered by clustering method, and use supervised learning to judge similarity. I aim to use feature extraction algorithms and supervised learning to analyze the suitability of the correlations of personality. After conducting the questionnaire survey, the researchers refine the collected data based on the questionnaire, classify the data sets through the clustering techniques of WEKA, an open source data mining tool, and judge similarity using supervised learning. I then use feature extraction algorithms and supervised learning to determine the suitability of the results for personality. As a result, it was found that the highest degree of similarity classification was obtained by EM classification and supervised learning by Naïve Bayes. The results of feature classification and supervised learning were found to be useful for judging fitness. I found that the accuracy of each Big-5 personality was changed according to the addition and deletion of the items, and analyzed the differences for each personality. 본 연구에서는 설문지를 이용한 데이터 수집과 데이터 마이닝에서 클러스터링 기법으로 군집하여 지도학습을이용하여 유사성을 판단하고, 성격들의 상관 관계의 적합성을 분석하기 위해 특징 추출 알고리즘들과 지도학습을 이용하는 것을 목표로 진행한다. 연구 수행은 설문조사를 진행 후 그 설문조사를 토대로 모인 데이터들을 정제하고, 오픈 소스기반의 데이터 마이닝 도구인 WEKA의 클러스터링 기법들을 통해 데이터 세트를 분류하고 지도학습을 이용하여 유사성을 판단한다. 그리고 특징 추출 알고리즘들과 지도학습을 이용하여 성격에 대해 적합한 결과가 나오는지에 대한 적합성을 판단한다. 그 결과 유사성 판단에 가장 정확도 높게 도움을 주는 것은 EM 클러스터링으로 3개의 분류하고 Naïve Bayes 지도학습을 시킨 것이 가장 높은 유사성 분류 결과를 도출하였고, 적합성을 판단하는데 도움이 되도록 특징추출과 지도학습을 수행하였을 때, Big-5 각 성격마다 문항에 추가되고 삭제되는 것에 따라 정확도가 변하는 모습을 찾게되었고, 각 성격 마다 차이에 대한 분석을 완료하였다.

독점 멀티 분류기의 심층 학습 모델을 사용한 약지도 시맨틱 분할

최현준,강동중 한국인터넷방송통신학회 2019 한국인터넷방송통신학회 논문지 Vol.19 No.6

Recently, along with the recent development of deep learning technique, neural networks are achieving success in computer vision filed. Convolutional neural network have shown outstanding performance in not only for a simple image classification task, but also for tasks with high difficulty such as object segmentation and detection. However many such deep learning models are based on supervised-learning, which requires more annotation labels than image-level label. Especially image semantic segmentation model requires pixel-level annotations for training, which is very. To solve these problems, this paper proposes a weakly-supervised semantic segmentation method which requires only image level label to train network. Existing weakly-supervised learning methods have limitations in detecting only specific area of object. In this paper, on the other hand, we use multi-classifier deep learning architecture so that our model recognizes more different parts of objects. The proposed method is evaluated using VOC 2012 validation dataset. 최근 딥러닝 기술의 발달과 함께 신경 네트워크는 컴퓨터 비전에서도 성공을 거두고 있다. 컨볼루션 신경망은단순한 영상 분류 작업뿐만 아니라 객체 분할 및 검출 등 난이도가 높은 작업에서도 탁월한 성능을 보였다. 그러나 그러한 많은 심층 학습 모델은 지도학습에 기초하고 있으며, 이는 이미지 라벨보다 주석 라벨이 더 많이 필요하다. 특히semantic segmentation 모델은 훈련을 위해 픽셀 수준의 주석을 필요로 하는데, 이는 매우 중요하다. 이 논문은 이러한 문제를 해결하기 위한 네트워크 훈련을 위해 영상 수준 라벨만 필요한 약지도 semantic segmentation 방법을 제안한다. 기존의 약지도학습 방법은 대상의 특정 영역만 탐지하는 데 한계가 있다. 반면에, 본 논문에서는 우리의 모델이사물의 더 다른 부분을 인식하도 multi-classifier 심층 학습 아키텍처를 사용한다. 제안된 방법은 VOC 2012 검증 데이터 세트를 사용하여 평가한다.