신경회로망을 이용한 高溫 底사이클 疲勞龜裂成長 모델링에 관한 硏究

홍순혁 東亞大學校 敎育大學院 1995 국내석사

고온용 부재의 안전성 평가를 위하여 균열성장거동에 관한 파괴역학적 평가는 대단히 중요하다. 이러한 실험 연구는 주로 균열성장구동력과 굴열성장속도 사이의 관계를 실험 조건에 영향을 받지 않는 수학적 모델링을 세우는데 주력되어 왔다. 이러한 모델은 주로 균열성장 지배 파라미터를 구하는 문제에 초점을 맞추고 있기 때문에 함수 근사화와 해석적 방법에 기초를 둔 연구가 대부분이었다. 이와 같은 균열성장문제에는비선형 특성이 많이 포함되고 피할 수 없는 실험 오차가 있기 때문에 균열성장거동을 표현하기가 매우 어렵다. 특히 고온저사이클 피로균열성장거동은 역학, 환경, 및 재료 등의 변수에 매우 복잡하게 관련 되어, 균열성장거동의 동적 특징을 모델링하는데 많은 어려움이 있다. 따라서 본 연구에서는 인지과학 방법 중의 하나인 신경회로망을 이용하여 상술의 수학적 모델링이 시퀀설(sequential) 데이터 처리에 국한됨으로써 오는 기능상의 한계를 극복하고자 한다. 즉, 피로 실험에서 얻은 균열성장속도를 파괴 역학 파라미터로 평가하는 것이 아니라 기존의 파라미터를 이용한 데이터 처리 시스템의 관점에서 다충 펍셉트론(multilayer perceptron)인 역전파 신경 회로망(back propagation neural network)을 이용하여 이러한 특징을 검토한 후 균열성장구동력인 각종의 J적분을 신경회로망의 입력층 데이터로, 균열성장 속도를 출력층 데이터로 하여 균열성장거동을 모델링하여 다음과 같은 결론을 얻었다. 1.임의 함수를 이용한 신경희로망의 학습과 일반화로부터 신경회로망은 함수 맵핑(function mapping) 능력을 가지고 있었다. 2. 균열성장 모델링에 사용하는 역전파 신경회로망은 학습시간과 추정평균 오차를 고려할 때 최적 은닉층 유니트 개수는 5개, 최적 학습 데이터 첫수는 15개이었으며, 과도한 은닉층 개수 및 학습데이터 개수는 오히려 추정평균 오차와 학습시간을 동시에 증가시켰을 뿐 학습을 개선시키지 못했다. 3. 신경회로망의 학습에 큰 영향을 미치는 학습계수와 모우멘트계수는 신경회로망의 구조에 따라 적절한 값이 존재하며, 계수 일반화에 사용한 계수연동법이 계수 고정법보다 학습효과가 더 켰다. 4. 균열성장에 관한 데이터 패턴 수가 많아질수록 패턴 분리가 잘 일어나며, 한점 표현방식보다는 균열성장 곡선의 기울기를 이용하는 두 점 표현 방식이 훨씬 더 정확하게 균열성장 모델링을 하고 있다. 5.학습된 신경회로망을 이용하여 균열성장속도를 예측한 결과, 미학습 데이터에 대한 모델링이 추정평균오차 범위내에서 정확하게 수행되므로 신경회로망이 균열성장 모델링에 유용한 것으로 평가된다. It is very important to secure reliabilty of high temperature instruments in light of prevention of catastrophic fracture. Safety assessment on the basis of crack growth rate can predict remaining life and determine inspection intervals. Mechanical, environmental and material parameters influenced high temperature low cycle fatigue crack growth and so numerical and experimental analysis on it have been proposed by many investigators. But prediction of crack growth rate through them was deviated from estimated mean error range(5%). Therefore in this paper neural network, cognitive science approach is used to simulate crack growth rate. The main result are obtained as follows. 1. Neural network has a good ability in mapping for distributed data of arbitrary function. 2. Back propagation neural network for crack growth modelling needs optimal number of learning data and hidden units and excessive number of them increases estimated mean error with remarkable learning time. 3. Learning and momentum rate have optimal values according to architecture of neural network and floating rate method has a good learning efficiency than constant rate method. 4. As the number of data patterns on crack growth are increased, pattern classification is occured well and two point representation scheme with gradient of crack growth curve eimulates crack growth rate better than one point representation scheme. 5. da/dt-J' relation predicted by neural network showes that test condition with unlearned data is simulated well within estimated mean error.

비선형 시스템 제어를 위한 신경회로망 제어기 구현과 응용

任善彬 충남대학교 2001 국내석사

표삽입(원문참조) 양질 옥수수 육성을 위한 우량한 유전자원을 공급하기 위하여 전국적으로 수집한 총 94개의 재래종 옥수수 이삭에 대하여 주요 형태적 특성을 조사하였던 바, 다음과 같은 몇가지 결과를 얻었다. 1) 이삭형태 : 한국 재래종 옥수수의 이삭형태는 IV. 형 II형 III형 I형의 순으로 구성되었으며, 옥수수의 주산지인 북동부 산악지대에서는 원통형 내지는 옥통형에 가가운 형태의 이삭이 많았고, 옥수수가 소규모로 재배되고 있는 남부 평야지대에서는 원추형 내지는 원추형에 가까운 형태의 이삭이 많았다. 2) 입색 : 전국 10개 지역에서 수집된 모든 재래종 옥수수 이삭 가운데서 단색립을 가진 이삭이 54.4%, 가지 색갈의 입색이 혼합된 이삭이 39.0% 이 었고 세가지 이상의 입색을 가진 이삭이 6.6%이었다. 북부 산간지대에서는 이삭의 색갈은 백색혹은 백색과 다른 색갈이 혼합된 것이 많앗다. 3) 마치성 : 수집된 재래종 옥수수 가운데 불과 4.3%만이 마치종 이었고 나머지는 경립종이었다. 마치종은 외국 옥수수 품종이 도입된 북부 지방에서 수집되었다. 4) 이삭열수 : 수집된 재래종 옥수수의 이삭열수는 12영 내지 16영이 대부분이었고, 수집된 지역에 따라 분류된 이삭열수 사이에는 큰 차이가 없었다. 여하튼, 이삭열수는 입의 크기에 밀접한 관계가 있는 것으로 나타났다. 예를 들면, 이삭열수가 24개나 되는 이삭의 입은 그 크기가 매우 작았다. 5) 입질 : 수집된 재래종 옥수수의 70.9%가 경질립이었고, 연길립은 26.0% 그리고 중간형이 3.1%이었다. 옥수수의 주산지인 A 지역과 I지역에서 경길 옥수수가 더 많이 수집 되었다. 6) 폭열종과 찰옥수수 : 수집된 재래종 옥수수를 보면 폭열종 옥수수는 I지역(울릉도)를 제외하고는 고르게 분포되어 있었고, 찰옥수수는 북부 산간지방에서 많아싸. 7) 이삭길이 : 수집된 재래종 옥수수의 평균 이삭길이는 13cm이었고, A지역과 I지역에서 수집된 옥수수의 길이가 다른 지방의 것보다 길었다. 8) 이삭직경 : 수집된 재래종 옥수수의 평균 이삭직경은 3.3cm이었고, A지역과 I지역에서 수집된 옥수수의 이삭직경이 다른 지방의 것보다 컷다. 9) 입길이, 입폭, 입깊이 : 수집된 재래종 옥수수의 평균 입길이, 입폭, 입깊이는 각각 0.82cm, 0.42cm 그리고 0.78cm 이었다. A지역과 I지역에서 수집된 옥수수의 입의 다른 지역에서 수집된 옥수수의 입보다다 컷다. 10) 이삭무게 : 수집된 재래종 옥수수의 평균 이삭무게는 58.04gr 이엇으며 A지역과 I지역에서 수집된 것이 현저히 무거웠다. 가장 무거운 이삭의 무게는 330gr 이엇고 가장 가벼운 이삭의 무게는 5gr 이었다. 11) 이삭당 입중 및 100입중 : 수집된 재래종 옥수수의 이삭당 입중은 평균 47.07gr 이었고 100입중은 평균 15.07gr 이었다. 이삭당 입중 및 100입중은 A 지역과 I지역에서 수집된 것이 더 무거웠다. Neural network is known to have powerful capabilities such as nonlinear mapping, learning, and adaptation. Applying neural netrwork to control's ystem is promising because of its learning and adapting abilities. In this thesis, neural network controller is implemented to control nonlinear system such as an inverted pendulum. The reference compensation technique (RCT) that compensates for uncertainties at the trajectory level is used. Back propagation algorithm Os used for learning algorithm. A large x-y table has been implemented as a test-bed. Experimental results as well as simulation results show that the excellent position control has been achieved. For an inverted pendulum, neural netrwork controller is able to control the angle of pendulum and the position of a cart at the same time. * A thesis submitted to the committee of Graduate School, Chungnam National University in partial fulfillment of the requirement for the degree of Master of Mechatronics Engineering Conferred in February 2001

정보 기하 이론에 기반한 통계적 신경회로망의 설계 및 모델 선택

이현진 연세대학교 대학원 2002 국내박사

신경회로망 설계 및 모델 선택의 목표는 최적의 구조를 가지는 일반화 성능이 우수한 네트워크를 구성 하는 것이다. 하지만 학습데이터에는 노이즈(noise)가 존재하고, 그 수도 충분하지 않기 때문에 최종적으로 표현하고자 하는 진 확률 분포(true probability distribution)와 학습 데이터에 의해 표현되는 경험 확률 분포(empirical probability distribution) 사이에는 차이가 발생한다. 이러한 차이 때문에 신경회로망을 학습 데이터에 대하여 과다하게 적합 (fitting)시키게 되면, 경험 확률 분포만을 잘 추정하도록 매개변수들이 조정되어 버리고, 진 확률 분포로부터 멀어지게 된다. 이러한 현상을 과다학습 이라고 하며, 과다학습 된 신경회로망은 학습 데이터에 한 근사는 우수하지만, 새로운 데이터에 대한 예측은 떨어지게 된다. 또한 신경회로망의 복잡도가 증가 할수록 더 많은 매개변수들이 노이즈에 쉽게 적합 되어 과다학습 현상은 더욱 심화된다. 정보 기하 이론은 확률 분포의 집합을 공간으로 간주하고 그 공간의 기하학적 구조에 대해 연구하는 학문이다. 신경회로망은 주어진 입력에 대해 특정한 조건 확률 분포에 따라 출력을 생성하는 통계적인 시스템으로 볼 수 있으며, 따라서 정보 기하 이론을 적용 할 수 있다. 이러한 관점에서 신경회로망 분야에서도 기존에 있어 왔던 통계학적 접근과 기하학적 접근을 통합한 이론으로서 정보 기하학적 접근 방법이 소개 되었으며 이를 적용한 연구들이 활발히 진행되어 그 효율성이 입증 되고 있다. 본 논문에서는 이러한 정보기하 이론에 기반하여 신경회로망의 설계 및 모델 선택에 관한 방법론을 고찰하고, 이를 통해 신경회로망의 구조를 최적화 하고 일반화 성능을 향상시키기 위한 총체적인 방법을 제안한다. 먼저 학습 과정에서 적응적 정규화가 있는 자연 기울기 학습을 통해 수렴속도의 향상과 동시에 과다 학습을 방지하여 진확률 분포에 가까운 신경회로망을 얻는다. 이렇게 얻어진 신경회로망에 자연 프루닝(natural pruning) 방법을 적용하여 서로 다른 크기의 후보 신경회로망 모델들을 얻는다. 이러한 학습과 복잡도 최적화의 통합 프로세스를 통하여 얻은 후보 모델들 중에서 최적의 모델을 베이시안 정보기준에 의해 선택함으로써 일반화 성능이 우수한 최적의 모델을 구성하는 방법을 제안한다. 회귀와 분류 문제에 관한 벤치마크 데이터를 이용한 컴퓨터 시뮬레이션을 통하여, 제안하는 정보 기하 이론에 기반한 신경회로망의 설계 및 모델 선택 방법의 구조 최적화와 일반화 성능의 우수성을 확인한다. The objective of neural networks design and model selection is to construct an optimal network with good generalization performance. However, training data include noises, and the number of training data is not sufficient, which results in the discrepancy between the true probability distribution and the empirical one. This discrepancy makes the learning parameters overfit to noisy training data and to deviate from the true distribution of data, which is called the overfitting phenomenon. The overfitted neural network shows good approximations for the training data, but shows bad predictions to untrained new data. As the complexity of neural network increases, this overfitting phenomenon becomes more severe. Information geometry has emerged from investigating the geometrical structures of manifolds of probability distributions. A neural network can be regarded as a stochastic system, which emits an output for a given input according to a conditional probability distribution. Therefore, it is possible to take the information geometrical approach in order to study various problems in the field of neural networks. Recently, there have been many researches on applying information geometry to neural networks, and their successful results have been reported. In this paper, based on the information geometry, we consider the overall process of neural networks design and model selection, and propose an integrative method in order to get optimal networks with good generalization performances as well as compact structures. First, we try to obtain optimal parameters with good predictions for new data, by using the natural gradient learning with adaptive regularization. By adopting the natural pruning method to the obtained network with optimal parameters, we generate several candidates of network model with different sizes. Finally, we select an optimal network among the candidates based on the BIC (Bayesian Information Criterion). Through the computer simulations on benchmark data sets for regression problems and classification problems, we confirm performance of the proposed method for neural networks design and model selection.

神經回路網에 의한 油壓驅動 部材의 摩擦狀態 識別에 관한 硏究

김동호 東亞大學校 2003 국내박사

현재까지 유압구동부의 마찰상태는 직접 눈으로 확인할 수 없기 때문에 단지 전문가의 경험에 주로 의존하고 있는 실정에 있어 보다 범용적인 수법의 개발이 필요한 실정에 있다. 따라서 본 연구는 유압 피스톤 모터의 슬리퍼 패드 (slipper-pad)와 피스톤 볼의 구동부재로 사용되는 LBC3와 SCM440의 마찰상태 식별을 행할 목적으로 유압 피스톤 모터를 모의한 윤활 마찰·마멸 실험장치를 통하여 다양한 마찰조건에 따라 발생되는 마멸분의 4가지 형태 파라미터 (50% 체적경, 장단도, 복잡도 및 광택도)를 컴퓨터로 영상처리하여 마멸분의 모집단과 영상 수에 따른 이들의 형태적 특징을 해석하였다. 그리고 계층형 신경회로망에 이들 마멸분의 형태 파라미터를 입력값으로 학습시켜 마찰조건에 대응하는 마찰상태 식별과 마찰계수의 추정을 행한 결과 다음과 같은 결론을 얻었다. 1. 컴퓨터 영상처리로 해석한 마멸분의 4가지 형태 파라미터인 50% 체적경, 장단도, 복잡도 및 광택도를 통하여 유압구동 부재의 다양한 마찰 조건에 따른 마멸분의 형태 특징의 구별이 가능하다. 2. LBC3의 마멸분이 침탄한 SCM440의 마멸분보다 4가지 형태정보의 전체 평균값이 대체로 높게 나타난다. 3. 정확한 마멸분의 형태 특징을 구별하기 위해서는 전체 마멸분에서 마멸입자 100개마다의 작은 집단으로 나누어 그 평균값을 이용하는 것이 마찰조건에 따른 마찰상태 식별에 유효하다. 4. 신경회로망의 은닉층 수 및 유니트 수를 달리하여 24개의 학습패턴을 학습한 결과 3개 층에 각각 27개의 유니트를 은닉층으로 하는 것이 학습오차 수렴 임계값인 0.0001을 만족하고 있으며 빨리 수렴한다. 5. 신경회로망의 입력 데이터로 영상 1장마다의 마멸분의 모집단 정보를 이용하였을 경우, 부재에 대한 정답율은 100%로 높게 나타나지만 작용하중과 미끄럼속도에 대한 정답율은 60%이하로 나타난다. 6. 유압구동 부재의 마찰조건의 식별을 위해서는 영상 1장마다 보다는 4장마다의 마멸분 정보의 평균값을 신경회로망의 입력 데이터로 이용하는 것이 높은 정답율을 나타낸다. 7. 신경회로망에 의한 재료에 대한 판정은 100% 식별이 가능하고, 마찰계수 추정값은 작용하중 및 미끄럼속도에서 마멸분 50개마다 보다 100개마다의 모집단 평균값을 이용하는 것이 마찰계수 값의 실측값에 더욱 가깝다. Wear debris can be collected from the lubricants of operating machinery and its morphology is directly related to the fiction condition of the interacting materials from which the wear particles originated in lubricated machinery. This paper was undertaken to identify the friction condition for hydraulic moving members by neural network. The wear test of ball-on-disk type was carried out under different experimental conditions. The computer image processing are used to classify and recognize the shape of wear particles generated in hydraulic moving members. In order to describe the characteristics of wear debris with various shapes and sizes, the four shape parameters(50% volumetric diameter, aspect, roundness and reflectivity) of wear particles are used as input values to the network and identified the friction coefficient and moving condition of hydraulic moving members. The results obtained were as follows: 1. It is easily distinguished the morphology of wear debris on driving condition of the hydraulic moving members through the four shape parameters of wear debris with computer image processing. 2. Total average value of the four shape parameters for LBC3 more higher than carburized SCM440. 3. It was effective to identification of friction condition on moving condition to divide with small classes of every 100 wear debris for total wear debris to distinguish the morphological characteristics of wear debris. 4. It was converged quickly and had satisfied value of learning critical error 0.0001 to use hidden layer with 27 unit in three layer from learning results of 24 learning patterns. 5. If a data of group with every 1 sheet of image as input value of neural network was used, it was shown the decision of 100% but it of applied load and sliding speed was under 60%. 6. It had higher decision rate to use as input value of neural network average value of the shape parameters with image of 4 sheet than image of 1 sheet for identification of friction condition of hydraulic moving members. 7. It was presented the decision rate of 100% for materials by neural network. and presumed friction coefficient was nearer to measured friction coefficient to use average value of every 100 wear debris than it of every 50 wear debris for the applied load and sliding speed.

신경회로망을 이용한 자동 테스트 패턴 생성에 관한 연구

김근수 漢陽大學校 1993 국내석사

신경회로망을 이용한 유연한 관절의 선단위치 제어기에 관한 연구

박양수 동아대학교 1997 국내박사

본 논문에서는 하나의 유연한 관절을 제어하기 위해 신경회로방을 이용한 적응제어기를 제안한다. 신경회로망은 기존 제어시스템의 응답을 개선하기 위해 기존의 PID, LQG제어기 등과 같이 사용하며 로봇 매니플레이터와 같이 시스템이 비선형 요소를 포함하고 있거나 모델링 오차가 존재하는 시스템을 제어하는데 이용되고 있다. 이와같이 신경회로망과 기존의 제어기를 함께 이용한 제어시스템은 신경회로망의 오차신호를 궤환 제어기의 출력으로 이용하는 궤환-오차 학습(Feedback-error Learning)법 알고리듬이 있으며, 이 궤환-오차 학습 알고리듬을 채택하여 제어하기 위해 신경회로망을 설계하였다. 설계된 신경회로망은 NNl과 NN2로 구성되어 있으며 이 신경회로망에는 입력변수를 8개을 가진 8개의 뉴런과 은닉층에는 20개의 뉴런 가지고 1개의 출력을 가지고 있다. 신경회로망과 함께 사용 되어지는 궤환제어기는 선단 위치 제어를 비교하기 위하여 PD제어기와 passive제어기를 이용하였다. PD제어기와 passive제어기의 출력을 가지고 교사신호로 사용하였다. 사용한 플랜트는 유연한 관절(Flexible Link)로서 과거 수년 동안 관심을 가지고 계속 연구 되어져 왔다. 경량의 유연한 관절의 이용으로 인한 많은 잠재적 이점들은 빠른동작, 낮은 에너지 소비, 비용절감 등이 있다. 이 유연한 관절의 선단 위치 제어에 관한 문제는 단단한 관절의 선단 위치제어 문제보다도 어렵다. Coupling효과, 비선형성, 파라미터 변화, unmodeled dynamics등 모든 것들이 어려움의 원인이 된다. 따라서 유연한 관절의 모델링 방법에 따라 여러 가지 형태의 Lagrangian 공식은 시스템을 최적 상태 모드, 정확한 모델화, 시스템의 동적모델과 제어모델 사이의 관계등에 대해 강조되고 있다. 유연한 관절에 대한 비선형 시스템의 제어기를 동적 신경회로망을 이용하여 위치와 속도가 시스템에 대하여 안정화 하기 위해 사용 되었고, 또한 동적 신경회로망은 원하는 궤적을 추적하고 유연한 관절을 구동하기 위해 제안 되었다. 유연한 관절에 대한 선단 위치 트래킹 제어를 위해 PD제어기에서는 u= u_(c)+u_(n)가 입력 되어지고, passive제어기에는 u=y_(c)+u_(n)가 입력 되어진다. 선단 위치제어를 위하여 유연한 관절의 선단 위치는 y_(a)=θ+(W(l,t))/l이다. W(l,t)는 선단에서의 탄력적 휨이고, l는 관절의 길이로 하였다. passive제어기는 외란들에 더욱더 강인한 제어기를 만들 수 있는 두 가지 방안을 알아 보았다. ① 작은 값으로 비례 피드백 인자 ζ를 첨가하는 것이다. ② 변형방법은 u_(ref)를 바꾸는 것이다. 이와같이 설계된 신경회로망과 궤환 제어기는 하나의 유연한 관절의 실험적 test-bed를 충족하며, 선단 응답이 매우 개선되었고, 유연한 모드의 진동이 매우 빠르게 감소 되었다. 시뮬레이션 결과는 궤환-오차 학습을 이용한 신경회로망으로써 PD 제어기에서는 높은 이득을 사용할 때 발생하는 마찰 효과가 극복 되었으며, passive제어기에서는 과도응답에 대한 좋은 특성으로 선단위치의 떨림이 개선됨을 알 수 있었다. 실험적 평가로서 제어기가 중심 마찰과 모델화되지 않은 동적에 직면한 모델 제어기 보다도 우수성을 확인하였으며, 플랜트의 입력문제를 고려하지 않으면 불안정성이 증폭기의 포화와 모델화 되지 않은 탄력적 모드의 자극(여기) 때문에 주로 발생된다는 것을 알았다. passive 제어기 ζ의 영향은 정상상태 편차에 많은 영향을 주었으며, 오우버 슈트는 개선되었다. 이와같이 예상되는 이점을 감안하여 궤환제어기에 passive제어기를 사용하여 실험한 결과 처음 예상된 선단응답보다 아주 빠르게 응답하였으며, 유연한 모드로서의 진동이 매우 빠르게 감소 되었다. 실험결과를 가지고 입력지령치로 비교하여 보았을 때 입력지령치가 5°일 때 는 선단위치가 떨림이 있음을 알 수 있다. 그러나 입력지령치가 10°일 때는 선단위치의 떨림이 많이 개선됨을 알 수 있다. 이는 신경회로망의 학습으로 인하여 선단위치 제어가 개선됨을 말한다. 또한 빔의 좌우방향의 강도의 차이로 인하여 양쪽의 떨림이 다름을 알 수 있었다. In this thesis, it will be suggested the adaptive controller using a neural network to control a flexible link. The neural network uses a existng PID or LQG controller to improve the system response. This kind of control method applys to disign a system contoller with nonlinearity or modelling error such as a robot manipulator. The used neural network architecture in this research is the feedback-error learning algorithm. The network has a input layer with 8 input, a hidden layer with 20 neuron and output layer with 1 output. And also, the PD and passive feedback controllers are included to compare the tip position in the neural network. Many researches are interisting to a flexible link sytem. Many types of Lagrangian equations to model the flexible link emphasize a optimal state mode of tile system, exact modeling and relationship of sytem dynamic model and control model etc. The position and velocity of the nonliear flexible link tip can be controlled by the designed neural network. It shows a good tip response and very quick decrement of flexible mode vibration. And the suggested neural network can follows a desired trace and derives the flexible link. Therefore the desined neural network and feedback controller can satisfies a experimental flexible test-bed link. The ζelement of the passive feedback controller has a serious effect on steady state error and imporves a overshoot response. The formation of this thesis are as follows; In Chapter 2, it introduces the mathmatical modellings of the neural network and the controllers designed by learning method of neural network. Chapter 3 is the modelling method and analysis of the flexible link. Chapter 4 describes the controller design method by the neural network and its algorthim. In Chapter 5, the simulation of the designed controller is integrated and its verification could be obtained by the practical experiment appartus The final Chapter 6 is a conclusion of this thesis.

神經回路網을 利用한 數字音聲의 認識에 關한 硏究

장호성 檀國大學校 1991 국내박사

음성 인식의 단계는 음향 처리, 특징 추출 및 패턴 매칭으로 구성된다. 음성인식 장치를 구현할 때, 음향 처리는 일반적으로 음성의 물리적 성질과 밀접한 관계가 있으므로 발성 모델의 해석에 따라 아날로그적으로 실현한다. 그리고, 특징 추출 및 패턴 매칭은 정보량이 방대하고 연산 처리가 빈번하므로 디지틀 신호처리 기법을 도입한다. 그러나 전통적인 인식 알고리즘은 논리와 기호 처리를 중심으로 하는 순차형의 처리 구조이다. 따라서, 패턴 인식 등과 같은 추상적 과제의 해결에는 기억 용량이나 처리 속도 등에서 근본적인 문제점을 가지고 있다. 특히 알고리즘적인 측면에서 보면, 인간의 인식 메카니즘에 대한 문제를 해결하지 못함으로써 인식 문제에 더욱 한계를 갖게 한다. 본 논문에서는 이와 같은 관점에서 병렬 분산 처리 구조를 갖는 각종 신경회로망을 해석하였으며, 인식률과 성능의 향상을 위한 최적 특징 파라미터의 선택 및 인식 알고리즘에 대한 연구하였다. 이를 위하여 실험에서는 음성의 물리적 특성을 반영하는 음향 처리용 하드웨어를 설계하였고, 패턴의 인식과 분류를 위한 신경 회로망을 소프트웨어에 의해 각각 구축하였다. 신경 회로망의 과제는 한국어 숫자음 10개를 대상으로 하였으며, 성인 6인으로부터 발성한 60개를 수집하여 데이터 베이스화 하였다. 이들 음성 정보는 신호처리 기법에 의해 특징 백터를 추출 한 후 신경 회로망의 입력 패턴으로서 직접 주어지게 된다. 음향 처리는 압신기(compander)에 의해 진폭비 2:1로 음성 레벨의 압축을 행하며, 표본화 주파수를 10KHz로 설정한 12비트 A/D 변환기에 의해 숫자음당 2048 데이터 포인트를 수집하였다. 수집된 데이터는 신경회로망에 적합한 특징 벡터를 찾기 위하여 파형 및 주파수 차원에서의 각종 신호 처리 기법을 적용하였다. 결과는 음성 파형의 전력 스펙트럼포락으로부터 구한 LPC 계수가 특징 구분과 정보 압축면에서 효과적이었으며, 구형창을 갖는 11차의 FFT 분석과 해밍창을 갖는 20차의 LPC 분석으로 설정하였을때 각각 126개의 특징 파라미터가 추출되었다. 한편, 신경 회로망은 패턴 인식 문제에 관련되는 성능을 평가하기 위하여 학습 알고리즘을 교사있는 경우와 교사없는 경우로 나누어 실험하였다. 교사있는 학습은 3층 구조를 갖는 퍼셉트론 회로망에 일반화 델타 규칙에 의한 역전파 알고리즘을 적용하였으며, 화자 종속과 화자 독립에 대한 인식 실험이 각각 이루어 졌다. 또한 교사없는 학습은 자율학습 능력을 갖는 Kohonen 회로망이며, 유크리트 거리 척도에 의해 집단구조를 발견하는 방법으로 패턴 분류 실험을 행하였다. 인식 실험에서는 시스템 오차를 적게하면 학습 시간이 많이 소요되나 인식률의 향상에는 별로 효과가 없었다. 그러나, 은닉층의 노드수를 증가시키면, 훈련회수가 감소되며 인식률도 다소 증가됨을 확인할 수 있었다. 따라서 최적 학습시에는 교사있는 학습에서 화자 종속일때 100%의 등급 분류를 실현할 수 있었다. 이와 같은 결과는 종래의 신호 처리 기법에 의한 방법과 거의 동일한 성능을 갖고 있어 음성 인식 분야에 신경 회로망의 적용 가능성을 확인할 수 있었다. A phase of speech recognition consists of sound processing. feature extract and pattern matching. For the implement of speech recognition system, the linear independent equivalent circuit model or concept has contributed significantly to establishing acoustical theories and quantitative descriptions. In this study, we designed speech processing system based on speech production model and obtained LPC parameters using conventional digital signal processing techniques. In addition, a number of experiments have been conducted to assess the performance of neural networks related on pattern recognition problems. The problems. The problems chosen were recognition of the spoken Korean numerals. Neural networks present a computational paradigm for constructing pattern classification and learning algorithms. In the processing of pattern recognition, inputs are corresponding to features and outputs are corresponding to pattern classes. In the experiments, two type of neural networks are compared by Generalized Delta Rule procedure for supervised learning or unspervised learning which is discovering the cluster structure. Supervised learning algorithm learns weights and thresholds with the use of training set patterns and also uses to obtain output values for new patterns, or for the classification purposed of for the estimation of values of associated attributes. Unsupervised learning algorithm uses the Euclidean distance metric for determining distances between patterns and cluster centers. In the supervised running, we gained 62.6% of accuracy for untrained data and 100% for trained one. This shows that neural networks and conventional nearest neighbor classifiers perform at near the same level accuracy. The number of hidden units was varied to determine the effect on recognition accuracy and learning time. Neural network application area is perhaps more a research and development area, than it is an applications area. The need for it is so great, however, that we suspect research results will be applied even while immature. This research area is the matter of combining expert systems and neural nets, or, equivalently, of combining symbolic processing with numeric feature-valued pattern information processing.

신경회로망을 이용한 자율주행 전기자동차의 도로곡률에 따른 조향각 및 속도의 협조제어

김의선 전남대학교 대학원 1999 국내박사

시각센서 기반 자율주행시스템의 일반적인 제어기법은 카메라에 입력된 도로영상을 분석하여 도로지도를 작성하고 차량의 위치와 도로의 관계를 파악하여 적절한 제어 알고리즘을 적용하여 주행한다. 반면 신경회로망 등의 지능적인 제어기법이 등장하면서 도로지도를 작성해야 하는 복잡한 과정을 생략하고 인간이 도로영상을 보고 차량을 조작하는 방법과 같은 도로영상기반 제어기법이 발전하게 되었다. 도로영상을 기반으로 주행 명령을 결정하는 대표적인 방법은 도로영상의 특징 요소들 중에서 도로의 소실점 위치와 소실선 각도를 이용하는 시각제어기법이다. 이와 같은 시각제어기법은 도로의 특징 요소를 추출하는데 복잡한 기하학적 처리가 요구되고, 차량의 위치나 차량의 방향 또는 도로의 곡률 등으로 인하여 카메라의 영상에 도로의 한쪽 경계선이 나타나지 않은 경우는 도로의 특징요소를 추출하기가 어렵다. 또한 이 기법들은 고속도로와 같은 곳에서의 고속주행을 위한 방법이 주로 연구되었으며, 고속주행 도로는 곡률의 변화가 심하지 않아서 곡선도로도 직선으로 근사화하여 주행할 수 있고, 급격한 가감속의 필요가 없으므로 도로 곡률에 따른 속도제어가 요구되지 않았다. 그러나 공장이나 항만, 공원 등과 같은 단지 내의 저속주행도로는 곡률 변화가 심하여 곡선도로를 직선으로 근사화하면 오차가 많이 발생할 뿐만 아니라 도로의 곡선부에서는 속도를 줄여야 하기 때문에 기존의 자율주행 방법은 곡률변화가 심한 부분을 포함하는 도로에 유연하게 대처할 수 없었다. 본 연구에서는 곡률변화가 심한 도로를 자율주행할 수 있는 새로운 방법을 제안한다. 제안된 방법에서는 도로의 곡률에 따라 속도와 조향각을 협조 제어함으로써 곡률이 변화가 심한 부분을 포함하는 도로에서도 적절한 속도로 자율 주행할 수 있다. 종전에 사용하던 도로지도기반 자율주행에서는 영상처리 및 지도의 작성에 많은 시간이 소요되고, 도로영상기반 기법에서도 소실점 또는 기울기 등을 이용함으로써 기하학적 처리가 필요한 반면에, 본 논문에서는 도로영상으로부터 8개의 도로 특징점만을 사용하여 도로형태를 구분함으로써, 많은 계산시간을 요하는 기하학적처리가 필요하지 않으므로 신속한 제어가 가능하다. 자율주행 제어를 위하여 비선형 함수관계에 적합한 신경회로망을 이용하였고, 신경회로망의 학습에는 역전파 학습규칙을 이용하였다. 시뮬레이터를 개발하여 학습용 패턴의 획득 및 학습을 오프-라인(off-line)으로 수행할 수 있도록 함으로써 학습의 편의성을 제공하였고, 사람이 직접 운전하여 학습시킬 때의 난점을 해결하였다. 개발된 시뮬레이터를 이용하여 주행을 하면서 카메라에 입력된 도로영상으로부터 도로의 특징점 8개를 추출하고 그때의 조향명령과 속도명령을 획득하였다. 도로의 특징점을 입력 패턴으로, 조향명령과 속도 명령을 목적 패턴으로 하여 신경회로망을 학습시켰다. 학습이 완료된 신경회로망은 자율주행을 위한 제어기로 사용된다. 자율주행할 때에는 카메라의 영상으로부터 추출된 도로 특징점 8개의 좌표값을 제어기에 입력하면 신경회로망 제어기는 도로의 조건에 적절한 조향명령과 속도 명령을 출력한다. 이와 같이 학습된 제어기를 시뮬레이션 차량에 적용하여 자율주행 모의실험을 행함으로써 제안한 방법으로 학습된 제어기의 유용성을 검증하였다. 자율주행을 위해 설계된 전기자동차에 시뮬레이터에서 학습된 제어기를 탑재하여 실제 시험도로에서 주행 시험한 격과, 자율주행 전기자동차가 도로를 이탈하지 않고 효율적으로 완주함을 확인하여 제안된 방법의 효율성을 검증하였다. This dissertation describes a visual control of autonomous vehicle using neural network. Visual control for road-following of autonomous vehicle is based on road image from camera. Road points on image are inputs of controller and vehicle speed and steering angle are outputs of controller using neural network. Simulation study confirmed the visual control of road-following using neural network. For experimental test, autonomous electric vehicle is designed an4 driving test is realized. In conventional control scheme, it is required to create the road map from road image and analyze the position and orientation of vehicle on road. The intelligent control scheme like neural network leads the road image based control which removes the complex procedure to create road map. The typical scheme is to use criteria on road image such as vanishing points or shape of vanishing line. This scheme has difficult to calculate the criteria on the specific image when one of two road boundaries is not appear on camera image. Also, conventional research focuses on high speed driving which neglects speed control on curved road. Therefore, this dissertation proposes the new road image based control scheme to be able to drive on the deeply curved road. While typical image based control uses vanishing points of road, the proposed scheme uses only 8 points on the road boundary. In this dissertation, a control scheme for an autonomous vehicle with visual sensors is presented, which uses visual information to guide itself along roadways. In the scheme, the position and the orientation of the vehicle on the road are assumed to be unknown, but 8 points of the road are given in a visual image, The proposed system controls the vehicle so that it can follow the guidelines of roadways. The control system transfers the inputs of visual informations into the output of steering angle and speed command directly. The neural networks replaces the human driving skill of nonlinear relation between 8 points of road boundary on the camera image and the steering angle and speed command of vehicle on the real ground.

신경회로망을 이용한 타이어의 장력 추정에 관한 연구

정화춘 강원대학교 산업과학대학원 2010 국내석사

다양한 요구 성능을 만족하는 설계를 하기 위해서 대부분의 타이어 회사들은 유한요소해석을 타이어 설계에 적용하고 있으나 타이어는 특성상 해석의 비선형이 강하기 때문에 많은 유한요소해석 시간이 요구된다. 따라서 타이어의 해석시간을 줄이기 위해 많은 연구를 기울이고 있으며, 특히 신경회로망의 적용에 관한 연구가 활발히 이루어지고 있다. 신경회로망의 경우, 적용의 단순성과 범용성 때문에 많은 분야에서 적용되고 있으며, 특히 공학 분야에서는 기존의 수치적 파라미터(Parameter)를 대처하거나, 최적설계 분야에서 유한요소해석 시간을 단축시키기 위하여 많이 적용되고 있다. 하지만 이러한 신경회로망을 공학적으로 적용하기 위해서는 우선적으로 신경회로망을 효율적으로 설계를 해야 한다. 신경회로망은 일반적으로 입력층(Input layer), 은닉층(Hidden layer)과 출력층(Output layer)의 구조로 이루어져 있으며, 각 층마다 각각의 뉴런수(Unit)를 가지고 있다. 이러한 신경회로망의 성능은 입력층의 뉴런수, 은닉층의 개수와 뉴런수 그리고 학습데이터의 구성과 개수, 학습률, 학습회수 등에 의하여 많은 영향을 받는다. 따라서 신경회로망의 효과적인 구조설계에 대한 연구가 많이 진행되고 있으며, 많은 연구진들에 의하여 실험계획법의 직교배열표를 다층 퍼셉트론 신경망의 구조설계에 적용하여 적은 실험횟수로 적합한 신경망 모델을 구성할 수 있음을 검증하고, 실제 사례에 적용하여 그 유용성을 제시하였다. 그러나 신경회로망의 구조설계에 있어 대부분의 연구는 은닉층의 수와 은닉뉴런 수, 학습에 이용되는 학습데이터의 개수 또는 학습 횟수나 학습률 등에 한정되어 있으며, 실질적인 공학문제에서 설계변수에 해당하는 입력층을 구성하는 입력뉴런의 구성에 관한 연구는 전무한 실정이다. 따라서 본 연구에서는 신경회로망을 구성하는 입력층의 입력뉴런의 영향을 평가하기 위하여, 타이어 컨투어(Contour) 설계에 사용되는 설계변수를 입력층으로 조종안정성에 영향을 미치는 바디플라이부의 장력을 출력층으로 하는 신경회로망을 구성하였다. 그리고, 실험계획법의 주효과 분석을 이용하여 설계변수의 구성을 결정한 후, 설계변수의 구성 변화에 따른 신경회로망의 성능을 평가하였다. Recently, car consumer requires various tire performances. The most tire companies apply finite element analysis to tire design. Because structural analysis for tire shows strong non-linearity, a lot of computation times are required. Therefore, a lot of studies has been performed to reduce analysis time for tire. Specially, neural network is used widely to solve this problem. Concept for neural network was begun in study for human brain and nerve cell. Many scientists has been studying about brain activity based on experience and learning. They show that brain is operated by interaction between neurons. Neuron input signal is converted to neuron output signals by activation function. Signal transmission between neurons is done by connection link. The connection strength is determined by each link weight. That is, neural network is dependent on neuron architecture, activation function of neuron, and learning method for connection link weight. Neural network is applied to a lot of fields because of simplicity and universality. Specially, neural network is used as nonlinear numerical relation in general engineering fields and to shorten finite element analysis time optimum design. Cho etc. showed that non-linear high temperature low cycle fatigue growth rate was estimated by using neural network. Also, Cho etc. applied neural network to optimum design of tire sidewall. However, we must design neural networks efficiently to acquire powerful engineering reliability. Usually, neural network is consisted of input layer, hidden layer and output layer and each layer has some neurons. Performance of neural network is dependent on number of neuron of input layer, number of hidden layer, number of neuron of hidden layer, construction method of learning data, learning rate, and learning epochs etc. Therefore, effective structural design for neural network has been studied by many scientists. Kim etc. and Lee etc. presented that orthogonal array in DOE could be applied to structural design of multilayer perceptron neural network. They insisted that neural network could be constructed by a few experiment numbers. However, this neural network structure is designed by using number of hidden layer, hidden neuron number, number of learning data , learning epochs and learning rate etc. usually. In application to optimization design problem of neural networks, there are few studies about arrangement method of input layer neurons. To investigate the effect of arrangement of input neurons on neural network learning, tire contour design parameters and bodyply tension were assigned to neural network input and output respectively. Design variables arrangement in input layer was determined by main effect analysis.

신경회로망을 이용한 하천유출량의 BPN적 해석에 관한 연구

나진수 仁川大學校 一般大學院 2001 국내석사

수공구조물 설치 계획 및 수자원의 효율적인 관리와 운영을 위해서는 장기간 관측된 수문자료에 의한 홍수량 산정이 선행되어져야 한다. 그러나 우리나라는 수문 관측 자료가 단기간에 불과하기 때문에 수자원 계획 수립시 모의 발생 모델에 의한 수문 자료의 확장이 요구된다. 모의 발생모델을 구성하는 방법은 여러 가지가 있으나 본 연구에서는 강우유출과정을 유역이라는 시스템내에서 발생된 신호체계를 패턴으로 간주하고 모델을 구성한 각 유니트의 매개변수를 인공신경회로망 모델(BPN)로 최적화하는 방법을 실제 수문현상에 적용코자 홍수기의 시간유출량 자료를 이용하여 시간유출량을 예측하여 보았다. 적용대상지점은 IHP 대표유역인 보청천의 산계교 지점과 평창강의 방림 지점을 선정하였다. 신경회로망 적용시 특정한 기준이 없는 시행착오법(Trial & Error Embedding Method)을 사용하여 왔으나, 신경회로망 모델 구성시 계열상관도에 의해 얻어진 지체시간(τ)에 의해 결정되는 처리소자의 갯수로 구성한 모델에 의해 시간유출량을 예측하였을때 실측치와 가장 유사한 결과를 얻을 수 있었다. 또한 신경회로망(BPN) 모델 구성시 중간층을 2N으로 할 때 2N+1보다 시간유출량 예측의 정도가 우수하였다. The estimation of the flood discharge is preceded by using the observed hydrologic data to control & operate the water resources, and to make a plan of the hydraulic structures. However, the observation period is relatively short for the hydrologic data and hence the expansion of the hydrologic data is needed by the simulation occurrence model to establish the water resources planning. In this study, the model was constructed with taking into account the rainfall-runoff process as the pattern of signal system occurred in the basin. The hourly runoff discharge was predicted by using the hourly runoff discharge data during flood to apply the method and optimize the parameter of model unit as the BPN(back propagation network) for the real hydrologic phenomina. Sangyegyo station in Bocheong river basin and Bangrim station in Pyungchang river basin, which are IHP basin and chosen as the object of application. Trial & Error Embedding method has been used without specific standard in determining the structure ANN(Artificial Neural Network). The results which are similar to measured data could be obtained when the hourly runoff discharge is estimated by the model which is consist of by lag time obtained by correlation coefficient. When BPN model is constructed with the hidden layer of 2N, the accuracy of estimation for the hourly runoff discharge is much better than in case of 2N+1.