딥 순환형 신경회로망의 동특성 분석: Passivity, 가제어성, 가관측성
Analysis of dynamics for deep recurrent neural networks: Passivity, Controllability, Observability
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
본 논문은 passivity 이론을 적용한 딥 순환형 신경회로망의 동특성 분석법을 제안한다. 본 논문에서 구성하는 딥 신경회로망 모델은 퍼셉트론 신경망의 출력이 입력 신호로 피드백되는 순환형 구조로서 각 신경망을 캐스캐이드 형태로 구성하였다. 이러한 분석법을통해 각 신경회로망의 입력과 출력 변수를 포함한 passivity 조건을 수학적 부등식으로 표현함으로서 신경회로망 안정성 조건을 제시한다. 또한 본 논문에서 구성한 순환형 신경회로망 모델에서 평형점에서의 가제어성 및 가관측성 조건을 제시한다. 이러한 두 조건은신경회로망의 로컬(local) 상태 및 출력 방정식을 도출하여 특수 행렬로 주어지며 두 행렬의 랭크(rank)를 조사하여 그 동특성을 각각검증하게 된다. 마지막으로, 본 논문에서 구성한 딥 신경회로망은 확률변수를 포함하는 복잡한 삼각함수의 모델링에 적용하여, 제시한 passivity 및 가제어성과 가관측성 이론을 컴퓨터 시뮬레이션 통해 그 결과를 검증하였으며 타당성 또한 분석하였다.
Abstract
This paper presents dynamics of deep recurrent neural networks through analytical methodology with passivitytheory. The proposed neural networks model is composed of several perceptrons in cascade whose output signalsare fed to its inputs. We express conditions of passivity against the proposed deep neural model, which are givenas mathematical inequality in terms of the input and output vectors, and then prove its stability from suchanalytical result. As well, we study controllability and observability of its local dynamics around equivalent points. They are analytically carried out by checking ranks of specific matrices including state and output matricesrespectively. Lastly, a simulation example is numerically accomplished to demonstrate the proposed analyticalapproaches for stochastic modeling of triangular function embedded in random signals.