돌연변이 소프트웨어 테스팅 기반의 심층 신경망 테스트 데이터 평가

이민수(Min-soo Lee),이찬근(Chan-gun Lee) 한국정보과학회 2020 정보과학회 컴퓨팅의 실제 논문지 Vol.26 No.3

최근 효과적인 심층신경망 테스팅을 위해 심층 신경망 모델이 잘못 동작하게 유발하는 테스트 데이터를 자동 생성하는 다양한 연구가 활발히 진행되었다. 특히 심층 신경망 모델의 데이터 셋의 다양성과 품질에 대한 연구가 활발히 진행되고 있다. 본 논문은 심층 신경망에 기반한 버그 담당자 추천 시스템의 품질 좋은 테스트 데이터를 자동적으로 생성하는 방법을 제안하고 돌연변이 소프트웨어 테스팅을 활용하여 자동 생성된 데이터의 품질을 평가 및 분석한다. 그리고 이 데이터가 심층 신경망에 어떤 영향을 미치는지 실제 오류 사례를 이용하여 분석한다. Recently, various studies for effective deep neural network testing have been actively conducted to automatically generate test data uncovering the cases wherein deep neural networks misbehave and measure the diversity and quality of data sets. In this paper, we propose a method for automatically generating high quality test data for a bug fixer recommendation system based on deep neural networks, and evaluate and analyze the quality of automatically generated data by applying mutation software testing. We also analyze the quality by comparing the actual error situation for the generated data and the actual error situation for original data from the bug fixer recommendation system.

비대칭 자기부호화 심층 신경망을 활용한 도로노면파손 객체 인식 알고리즘 개발과 도로주행실험

심승보,전찬준,강성모,류승기 사단법인 인문사회과학기술융합학회 2019 예술인문사회융합멀티미디어논문지 Vol.9 No.1

In modern times, road pavement is mainly made of asphalt. Such roads enable stable high-speed travel of the vehicle due to excellent road surface packaging and provide a good ride for the driver. However, the road surface is repeatedly damaged by various causes. The typical problems are cracks, deformation, and road surface flaws, which bring about traffic accidents causing various personal injury. In order to prevent it, an efficient road surface management technique is required and various methods have been developed. Among them, a method using a black box type image acquisition skill has been proposed these days. Although various image processing techniques have existed using this method, image recognition technology based on deep neural network has been most actively studied these days. This paper also introduces the results of the image recognition algorithm using the deep neural network and the its real driving tests. The first is the asymmetric auto-encoded deep neural network for determining the road surface damage location. This deep neural network takes the image as input and determines whether the road surface is damaged or not, and detects the damaged area. The second is the road test that is performed in outdoor road envir 최근의 국내외 도로는 우수한 노면 포장 상태로 인해 차량의 안정적인 고속 주행을 가능하게 하고 운전자에게는 좋은 승차감을 제공하려는 추세이다. 그러나 이러한 도로 표면 상태는 여러 가지 요인에 의해 파손과 손상이 반복적으로 일어난다. 그 대표적인 현상은 균열, 변형, 노면 흠 등이 있는데, 이는 각종 인적 물적 피해를 야기하는 교통사고의 원인이 되고 있다. 이를 예방하기 위한 효율적인 도로 노면 관리 기술이 필요하고 여러 방법들이 고안되었는데, 최근에는 블랙박스 형태의 영상 취득 장치를 활용한 방법이 활발히 제안되고 있다. 이러한 방법에서는 여러 가지 영상 처리 기술이 연구되었지만, 그 중에서도 심층 신경망을 활용한 영상 인식 기술이 요즘 가장 활발히 연구되고 있다. 본 논문에서는 심층 신경망을 활용한 연구와 이를 이용한 실제 주행실험 결과를 분석하였다. 먼저, 도로 노면 파손 위치를 판별하기 위한 비대칭 자기부호화 심층 신경망 모델을 개발하였고, 이 심층 신경망은 영상을 입력으로 받아서 도로 노면 파손 유무를 판단하고 파손 영역을 검출하는 기능을 수행한다. 다음으로 제안 모델의 실용화 가능성을 검증하기 위해 실제 도로 환경에서의 실험을 수행하고 그에 따른 영상기반의 탐지 성능을 분석하였다.

심층 신경회로망 모델을 이용한 일별 주가 예측

황희수 한국융합학회 2018 한국융합학회논문지 Vol.9 No.6

심층 신경회로망은 적합한 수학적 모델에 대한 어떠한 가정 없이 데이터로부터 유용한 정보를 추출해서 예측에 필요한 입출력 관계를 정의할 수 있기 때문에 최근 시계열 예측 분야에서 주목 받고 있다. 본 논문에서는 주가의 일별 종가 를 예측하기 위한 심층 신경회로망 모델을 제안한다. 제안된 심층 신경회로망은 예측 정밀도를 높이기 위해 단일 층의 오토 인코더와 4층의 신경회로망이 결합된 구조를 갖는다. 오토인코더 층은 주가 예측에 필요한 최적의 입력 특징을 추출하고 4층의 신경회로망은 추출된 특징을 사용해 주가 예측에 필요한 동특성을 반영하여 주가를 출력한다. 제안된 심층 신경회로 망의 학습은 층별로 단계적으로 이뤄지며 최종 단계에서 전체 심층 신경회로망에 대해 한 번 더 학습이 실행된다. 본 논문에 제안된 방법으로 KOrea composite Stock Price Index (KOSPI) 일별 종가를 예측하는 심층 신경회로망을 구현하고 기존 방법과 예측 정확도를 비교, 평가한다. The application of deep neural networks to finance has received a great deal of attention from researchers because no assumption about a suitable mathematical model has to be made prior to forecasting and they are capable of extracting useful information from large sets of data, which is required to describe nonlinear input-output relations of financial time series. The paper presents a new deep neural network model where single layered autoencoder and 4 layered neural network are serially coupled for stock price forecasting. The autoencoder extracts deep features, which are fed into multi-layer neural networks to predict the next day's stock closing prices. The proposed deep neural network is progressively learned layer by layer ahead of the final learning of the total network. The proposed model to predict daily close prices of KOrea composite Stock Price Index (KOSPI) is built, and its performance is demonstrated.

풍력 터빈 나셀의 화재 감지를 위한 계층적 심층 신경망

도은찬,박수현,오기용 한국비파괴검사학회 2024 한국비파괴검사학회지 Vol.44 No.4

최근 풍력 터빈의 설치가 증가하여 화재 사고 또한 빈번해지면서, 기존 자동화재탐지 설비의 낮은감지 정확도와 긴 감지 시간이 문제가 되고 있다. 이를 해결하기 위해 다양한 인공지능 기반 화재 감지 기법이 제안되었으나, 여전히 비화재보가 높다는 한계가 존재한다. 본 연구에서는 이러한 문제 해결을 위한 계층적 화재 감지 심층 신경망을 제안한다. 제안 심층 신경망은 먼저 분류 심층 신경망을 통해 오경보율을 효과적으로 낮추고, 추론 결과에 따라 연기 및 화재 위치 추론에 특화된 객체 탐지 심층 신경망을 작동하여 화원의 정확한 위치를 탐지한다. 이러한 화원 위치 추론 결과를 바탕으로 자율형 조준 소화 시스템에 적용할 수 있다. 제안 심층 신경망의 학습 및 검증을 위해 화재 이미지 세트를 구축하였으며 여타 다른 심층 신경망과 분류 정확도, 객체 탐지 정확도, 오경보율을 비교하여 검증하였다. 향후 나셀 뿐만 아니라 상태 감시가 필요한 다양한 산업 환경에도 확장 적용이 가능할 것으로 사료된다. As global demand for renewable energy continues to rise, the number of installed wind turbines is rapidly increasing, leading to a higher incidence of fire accidents in wind turbines. However, conventional fire-detection methods, such as smoke and flame detectors, suffer from low detection accuracy and long response times. To address these limitations, several fire detection methods based on artificial intelligence have been proposed. However, these approaches often rely on object-detection neural networks, that result in high false-alarm rates for pseudo-fire images. In this study, a hierarchical deep neural network for fire-condition monitoring is proposed, which reduces the false alarm rate and accurately identifies the locations of smoke and fire. The proposed neural network initially employs a fire-classification neural network to classify situations into three categories: fire, smoke or normal. By analyzing the overall image information, false alarms are effectively reduced. Based on the classification results, an object-detection neural network specializing in smoke and fire detection is then activated to identify their locations. The inferred information on fire locations can be utilized to operate autonomous targeted fire-suppression systems. Fire image sets are constructed to train and validate the proposed neural network. The performance of the proposed neural network is verified by comparing its classification accuracy, object-detection accuracy, and false-alarm rates with those of other neural networks. The proposed approach can be applicable to the nacelles of wind turbines and also various industrial environments requiring condition monitoring.

인공 신경망 기술로 살펴보는 인성 교육의 함의점 모색

권오성 한국정보교육학회 2021 정보교육학회논문지 Vol.25 No.1

인공 신경망 기술은 인간의 감각 처리와 내적인 변화를 기계적으로 실현하려는 컴퓨터 기술 분야로서 신경과 학, 인성 및 도덕 교육과도 충분한 관련성을 갖는다. 인성 교육이 인간의 내면을 바람직한 방향으로 유도하는 노 력이라고 할 때 인공신경망은 그러한 사고 과정과 특성을 설명하는 실험 도구로서 손색이 없다. 이에 본 연구는 AI 인공신경망 기술의 동작 원리를 기본으로 인성 교육과 관련된 함의 요소를 찾고 그 현상을 설명하고자 한다. 최근 AI 연구는 전통적인 기호주의보다는 심층신경망 등 연결주의 지능 분야에 집중되는 경향이 있다. 본 논문 역시도 이러한 시대적 흐름에 따라 심층 신경망의 독특한 동작 특성을 인성 교육의 중요 요소와 관련지어 설명 하고자 한다. 구체적인 함의 요소로 “오버피팅 : 편중된 학습능력의 해소”, “활성화 함수 ; 학습자의 개별성과 다 양성 확보”, “아날로그 연산 : 학습자의 이성과 감성의 균형”을 제시한다. 본 논문과 같이 AI 인공신경망 관점에 서 인성 교육과의 함의점을 찾는 노력은 AI 정보 교육의 외연을 넓히고 타 교과와의 융합 도구로 그 의미를 갖는다. Artificial neural network technology is a field of computer technology that seeks to mechanically realize human sensory processing and internal changes, and has sufficient relevance to neuroscience, character and moral education. Assuming that character education is an effort to guide the human inner side in a desirable direction, artificial neural networks are excellent as an experimental tool to explain such thought processes and characteristics. Therefore, this study seeks to find implications related to character education and explain the phenomenon based on the operating principle of AI artificial neural network technology. Recently, AI research tends to focus on connectionist intelligence, such as deep neural networks, rather than traditional symbolism. This paper also attempts to explain the unique behavioral characteristics of deep neural networks in relation to important elements of character education in accordance with this trend of the times. As a specific element of implications, “Overfitting: Resolving the concentrated learning ability”, “Activation function; Ensuring individuality and diversity of learners” and “Analog processing: balance between learner's reason and emotion”. As in this paper, efforts to find the implications of personality education from the perspective of AI artificial neural networks have meaning as a tool for fusion with other subjects and broaden the extension of AI information education.

텍스트 마이닝에서 심층 신경망을 이용한 문서 분류

이보희,이수진,최용석 한국통계학회 2020 응용통계연구 Vol.33 No.5

The document-term frequency matrix is a term extracted from documents in which the group information exists in text mining. In this study, we generated the document-term frequency matrix for document classification according to research field. We applied the traditional term weighting function term frequency-inverse document frequency (TF-IDF) to the generated document-term frequency matrix. In addition, we applied term frequency-inverse gravity moment (TF-IGM). We also generated a document-keyword weighted matrix by extracting keywords to improve the document classification accuracy. Based on the keywords matrix extracted, we classify documents using a deep neural network. In order to find the optimal model in the deep neural network, the accuracy of document classification was verified by changing the number of hidden layers and hidden nodes. Consequently, the model with eight hidden layers showed the highest accuracy and all TF-IGM document classification accuracy (according to parameter changes) were higher than TF-IDF. In addition, the deep neural network was confirmed to have better accuracy than the support vector machine. Therefore, we propose a method to apply TF-IGM and a deep neural network in the document classification. 문서-용어 빈도행렬은 그룹정보가 존재하는 문서들의 용어를 추출한 것으로 일반적인 텍스트 마이닝에서의 자료이다. 본 연구에서는 연구 분야 성격에 따른 문서 분류를 위해 문서-용어 빈도행렬을 생성하고, 전통적인 용어 가중치 함수인 TF-IDF와 최근 잘 알려진 용어 가중치 함수인 TF-IGM을 적용하였다. 또 용어 가중치가 적용된 문서-용어 가중행렬에 문서분류 정확도 향상을 위해 핵심어를 추출하여 문서-핵심어 가중행렬을 생성하였다. 핵심어가 추출된 행렬을 바탕으로, 심층 신경망을 이용해 문서를 분류하였다. 심층 신경망에서 최적의 모델을 찾기 위해 매개변수인 은닉층과 은닉노드수를 변화해가며 문서 분류 정확도를 확인하였다. 그 결과 8개의 은닉층을 가진 심층 신경망 모델이 가장 높은 정확도를 보였으며 매개변수 변화에 따른 모든 TF-IGM 문서 분류 정확도가 TF-IDF 문서 분류 정확도보다 높은 것을 확인하였다. 또한 개별 범주에 대한 문서 분류 분석 결과를 서포트 벡터 머신과 비교했을 때 심층 신경망이 대부분의 결과에서 더 좋은 정확도를 보임을 확인하였다.

적대적 예시에 대한 향상된 견고성을 위한 심층신경망 뉴런 가지치기

임규민,고기혁,이수영,손수엘 한국정보과학회 2023 정보과학회논문지 Vol.50 No.7

심층신경망은 적대적 예시의 보안 취약점이 존재하며, 이는 심층신경망의 잘못된 분류 결과를 도출한다. 본 논문에서는 정상 데이터와 적대적 예시에서의 심층신경망 뉴런 활성화 패턴이 서로 다를 것이라는 가정을 세운다. 정상 데이터에서는 심층신경망 뉴런이 활성화되지 않고, 적대적 예시에서만 활성화되는 심층신경망 뉴런을 찾아 이를 가지치기하는 보정 기법을 제안한다. 다양한 적대적 예시 생성 기법을 통해 적대적 보정을 진행하였으며, MNIST와 CIFAR-10 데이터셋을 사용하였다. MNIST 데이터셋으로 가지치기 된 심층신경망은 정상 데이터의 분류 정확도를 99% 이상으로 유지하면서, 가지치기 방식(레이블별, 모든 레이블 가지치기)에 따라 최대 100%, 70.20% 증가한 적대적 보정 성능을 확인하였다. 반면 CIFAR-10 데이터셋은 정상 데이터셋에 대하여 분류 정확도 하락을 보이지만, 가지치기 방식에 따라 최대 99.37%, 47.61% 적대적 보정 성능이 향상되었다. 이외에도 적대적 학습 기법과의 비교 분석을 통해 제안한 가지치기 적대적 보정 성능의 효율성을 확인하였다.

심층신경망에서 학습 외 분포 데이터 탐지 알고리즘

김상원,이호준,김성훈,서지원 한국정보과학회 2019 데이타베이스 연구 Vol.35 No.2

The inference outcome of a Deep Neural Network (DNN) may be incorrect if the input is substantially different from the distribution of its training data. Thus detecting such out-of-distribution (OOD) data is essential for a DNN to be securely applied. Because we do not yet understand why and how a DNN makes an inference, it is hard to identify OOD data by examining the inference process. We propose a novel method to accurately detect OOD data and in-distribution (ID) data. Our method assumes that there exists a specific distribution of the values of hidden neurons for ID data. Under this assumption, our method clusters ID data with similar hidden-neuron patterns and detect OOD data based on the clustering results. 심층신경망(Deep Neural Network, 혹은 DNN)에서의 학습 외 분포 데이터(Out-of-Distribution Data)란 해당 심층신경망을 학습시킨 데이터와 상당한 차이를 보이는 데이터를 말한다. 하지만, 심층신경망이 도출하는 결과에 대한 근거와 도출 방법을 이해하는 것이 어렵기 때문에 학습 외 분포 데이터를 탐지하기 어렵다. 본 논문에서는 많은 데이터들 속에서 그러한 학습 외 분포 데이터를 정확하게 식별하기 위해 독창적인 기법을 제안한다. 이 기법은 학습 내 분포 데이터에 대응하는 은닉 뉴론들이 특정한 분포를 가진다는 가정을 기반으로 한다. 이러한 가정 하에서, 본 기법은 학습 내 분포 데이터를 비슷한 은닉 뉴론 패턴을 가진 것끼리 군집화 한 후 그 결과를 바탕으로 학습 외 분포 데이터를 검출한다.

신경망 및 비신경망 오토인코더 기반 추천 모델의 성능 비교 및 분석

정윤기,이종욱 한국정보과학회 2020 정보과학회논문지 Vol.47 No.11

다양한 분야에 심층 신경망이 도입되어 획기적인 성능 개선을 보이고 있으나, 최근 심층 신경망 기반 추천 모델의 성능 개선이 크게 보이지 않는다는 주장이 나오고 있다. 이와 같은 문제는 추천 연구에 통용되는 실험 환경의 부재와 제안 모델 성능에 대한 엄밀한 분석 부재에 기인한다. 본 논문에서는 1) 추천 모델의 공정한 비교를 위한 실험 프로토콜을 구성하고, 2) 추천 모델의 한 축인 오토인코더 기반 추천 모델에 대해서 실험적 검증을 수행하며, 3) 사용자와 항목 인기도를 기준으로 여러 개의 세부 그룹으로 나누어 실험 결과를 분석한다. 실험 결과, 모든 데이터셋에서 신경망 기반 모델의 추천 성능이 비신경망 대비 일관적인 성능 개선을 보이지 않았으며, 신경망 모델 내에서도 주된 정확도 개선을 확인할 수 없었다. 한편, 세부 그룹별 성능 평가 결과에서는 인기 항목에선 비신경망 모델의, 비인기 항목에선 신경망 모델의 정확도가 높음이 확인하였고, 이를 통해 신경망 모델의 복잡성이 비인기 항목에 대한 추천에 도움이 될 수 있다고 판단된다. While deep neural networks have been bringing advances in many domains, recent studies have shown that the performance gain from deep neural networks is not as extensive as reported, compared to the higher computational complexity they require. This phenomenon is caused by the lack of shared experimental settings and strict analysis of proposed methods. In this paper, 1) we build experimental settings for fair comparison between the different recommenders, 2) provide empirical studies on the performance of the autoencoder-based recommender, which is one of the main families in the literature, and 3) analyze the performance of a model according to user and item popularity. With extensive experiments, we found that there was no consistent improvement between the neural and the non-neural models in every dataset and there is no evidence that the non-neural models have been improving over time. Also, the non-neural models achieved better performance on popular item accuracy, while the neural models relatively perform better on less popular items.

심층 신경망모형을 사용한 미세먼지 PM10의 예측

전성현,손영숙 한국통계학회 2018 응용통계연구 Vol.31 No.2

In this study, we applied a deep neural network model to predict four grades of fine dust PM10, ‘Good, Moderate, Bad, Very Bad’ and two grades, ‘Good or Moderate and Bad or Very Bad’. The deep neural network model and existing classification techniques (such as neural network model, multinomial logistic regression model, support vector machine, and random forest) were applied to fine dust daily data observed from 2010 to 2015 in six major metropolitan areas of Korea. Data analysis shows that the deep neural network model outperforms others in the sense of accuracy. 본 연구에서는 미세먼지 PM10의 4가지 분류 등급인 ‘좋음, 보통, 나쁨, 매우 나쁨’ 그리고 2가지 분류 등급인 ‘좋음 혹은 보통, 나쁨 혹은 매우 나쁨’을 예측하기 위해서 심층신경망모형을 사용하였다. 2010년부터 2015년까지 국내 6개 대도시 지역에서 관측한 일별 미세먼지 데이터에 대하여 기존 분류기법인 신경망모형, 다항 로지스틱 회귀모형, Support Vector Machine, Random Forest을적용했을 때에 비해서 심층 신경망모형의 정확도는 더 높아졌다.