물리정보신경망을 이용한 파동방정식 모델링 전략 분석 = Analysis on Strategies for Modeling the Wave Equation with Physics-Informed Neural Networks

다국어 초록 (Multilingual Abstract)

The physics-informed neural network (PINN) has been proposed to overcome the limitations of various numerical methods used to solve partial differential equations (PDEs) and the drawbacks of purely data-driven machine learning. The PINN directly applies PDEs to the construction of the loss function, introducing physical constraints to machine learning training. This technique can also be applied to wave equation modeling. However, to solve the wave equation using the PINN, second-order differentiations with respect to input data must be performed during neural network training, and the resulting wavefields contain complex dynamical phenomena, requiring careful strategies. This tutorial elucidates the fundamental concepts of the PINN and discusses considerations for wave equation modeling using the PINN approach. These considerations include spatial coordinate normalization, the selection of activation functions, and strategies for incorporating physics loss. Our experimental results demonstrated that normalizing the spatial coordinates of the training data leads to a more accurate reflection of initial conditions in neural network training for wave equation modeling. Furthermore, the characteristics of various functions were compared to select an appropriate activation function for wavefield prediction using neural networks. These comparisons focused on their differentiation with respect to input data and their convergence properties. Finally, the results of two scenarios for incorporating physics loss into the loss function during neural network training were compared. Through numerical experiments, a curriculum-based learning strategy, applying physics loss after the initial training steps, was more effective than utilizing physics loss from the early training steps. In addition, the effectiveness of the PINN technique was confirmed by comparing these results with those of training without any use of physics loss.

국문 초록 (Abstract)

편미분방정식의 해를 구하기 위한 여러 수치해법들의 한계와 순수 데이터 기반 기계학습의 단점을 극복하기 위해 물리정보신경망 (physics-informed neural network, PINN)이 제안되었다. 물리정보신경망은 편미분방정식을 손실함수 구성에 직접 활용하여 기계학습 훈 련에 물리적 제약을 주는 기법으로 파동방정식 모델링에도 활용될 수 있다. 그러나 물리정보신경망을 이용하여 파동방정식을 풀기 위해 서는 신경망 훈련 시 입력에 대한 2차 미분이 수행되어야 하고, 그 결과로 출력되는 파동장은 복잡한 역학적 현상들을 포함하고 있어 섬 세한 전략이 필요하다. 이 해설 논문에서는 물리정보신경망의 기본 개념을 설명하고 파동방정식 모델링에 활용하기 위한 고려사항들에 대해 고찰하였다. 이러한 고려사항에는 공간좌표 정규화, 활성함수 선정, 물리손실 추가 전략이 포함된다. 훈련자료의 공간좌표를 정규화 한 후 사용하면 파동방정식 모델링을 위한 신경망 훈련에서 초기 조건이 더 정확하게 반영되는 것을 수치 실험을 통해 보였다. 또한 신경 망을 통한 파동장 예측에 가장 적절한 활성함수를 선정하기 위해 여러 함수들의 특성을 비교했다. 특성 비교는 각 활성함수들의 입력자 료에 대한 미분과 수렴성을 중심으로 이루어졌다. 마지막으로 신경망 훈련 중 손실함수에 물리손실을 추가하는 두가지 시나리오의 결과 를 비교하였다. 수치 실험을 통해 훈련 초기부터 물리손실을 활용하는 전략보다 초기 훈련단계 이후부터 물리손실을 적용하는 커리큘럼 기반 학습전략이 효과적이라는 결과를 도출했다. 추가로 이 결과를 물리손실을 전혀 사용하지 않은 훈련 결과와 비교하여 PINN기법의 효과를 확인하였다.