클래스 정보와 변형 정보를 활용한 노이즈에 강건한 매니폴드 학습
Robust Manifold Learning Method Against Noise Using Class and Variation Information
0
조회
0
다운로드
1
인용
0
참고문헌
키워드
초록
본 논문에서는 거리기반 비선형 매니폴드 학습인 ISOMap에 노이즈에 강건한 거리함수를 결합한 새로운 차원축소 방법을 제안한다. ISOMap은 주성분분석이나 선형판별분석과 같은 선형 부분공간 분석법과는 달리 데이터가 가지는 비선형 구조를 고려한 그래프 기반 거리함수를 사용함으로써 고차원 입력공간에서 데이터가 형성하는 비선형의 저차원 매니폴드를 찾아준다. 그러나 기본적인 ISOMap은 클래스 정보를 사용하지 않는 비교사 학습을 수행할 뿐 아니라, 새로운 데이터에 대한 매핑함수를 제공해 주지 않으므로 패턴인식에 쉽게 적용되기 어렵고 학습 데이터가 충분히 조밀하지 않은 경우에는 노이즈에 강건하지 못한 문제점을 가지고 있다. 본 논문에서는 이러한 문제점을 해결하기 위하여 클래스 정보를 활용한 교사학습을 수행하면서, 클래스 내 데이터의 변형 정보를 활용하여 노이즈에 강건한 거리함수를 새롭게 정의함으로써 패턴인식에 효과적인 새로운 비선형 매니폴드 학습법을 제안한다. 제안하는 방법을 노이즈를 추가한 벤치마크 데이터에 적용하여 그 성능을 확인하였다.
Abstract
In this paper, we propose a novel dimension reduction method by modifying ISOMap with a noise-tolerant distance function. The ISOMap is the well known distance-based nonlinear manifold learning method. Unlike the linear subspace analysis methods such as PCA and LDA, it can find a low dimensional manifold that can represent nonlinear structure of data set by using graph-based distance function. However, the original ISOMap is not appropriate for patten classification problems because it does unsupervised learning without classification information and is likely to be sensitive to noises when the data set is not sufficiently dense. In order to solve the problems, we propose a new supervised manifold learning method, which uses a new distance function that is robust to input noise. The performance of the proposed method is confirmed by the experiments using the benchmark data with additional noises.
참고문헌 (14)
- C. M. Bishop, "Pattern Recognition and Machine Learning" (2006), MIT Press
- A. Gorban, "Principal Manifolds for Data Visualization and Dimension Reduction", Series in Lecture Notes in Computational Science and Engineering, 58 (2008), Springer
- S. T. Roweis, "Nonlinear Dimensionality Reduction by Locally Linear Embedding", Science, 290 (2000)
- J. B. Tenenbaum, "A Geometric Framework for Nonlinear Dimensionality Reduction", Science, 290 (2000)
- T.F. Cox, "Multidimensional Scaling" (2001), Chapman and Hall
- W. Vlachos, "Non-linear dimensionality reduction techniques for classification and visualization", Proc. of the 8th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, pp.645~651 (2002)
- X. Geng, "Supervised nonlinear dimensionality reduction for visualization and classification", IEEE Trans. Syst. Man Cyber, 35, pp.1098~1107 (2005)
- M. Cho, "Nonlinear Dimension Reduction using ISOMap based on Class Information", Proceedings of International Conference on Neural Networks (2009)
- 조민국, "변형된 팩터 분석 모델을 이용한 생체데이타 분류 시스템", 정보과학회논문지 : 소프트웨어 및 응용, 34(7), pp.667~680 (2007), 한국정보과학회
- 이관용, "클래스 분포와 변형 분포를 이용한 패턴인식 시스템을 위한 거리함수의 학습", 한국차세대컴퓨팅학회 논문지, 9(5), pp.6~16 (2013), 한국차세대컴퓨팅학회
- K. Lee, "Probabilistic learning of similarity measures for tensor PCA", Pattern Recognition Letters, 33, pp.1364~1372 (2012)
- D. F. Specht, "A General Regression Neural Network", IEEE Transactions on Neural Networks, 2(6), pp.568~576 (1991)