나이브 베이지안 환경에서 미분류 데이터를 이용한 성능향상
Improving the Classification Accuracy Using Unlabeled Data:A Naive Bayesian Case
0
조회
0
다운로드
1
인용
0
참고문헌
키워드
초록
많은 경우에 분류데이터의 생성은 사람의 시간과 노력에 의존하기 때문에 많은 비용과 시간을 요구한다. 이에 반하여 미분류 데이터는 거의 비용을 들이지 않고 무제한의 데이터를 쉽게 획득할 수 있다. 따라서 기계학습에 있어서 이러한 미분류 데이터를 이용하여 분류학습의 성능을 향상시킬 수 있는 준감독자(semi-supervised)학습 방법이 최근 관심을 끌고 있다. 본 논문에서는 미분류 데이터가 분류학습의 성능향상에 미치는 영향을 분석하기 위하여 나이브 베이지안의 환경에서 미분류 데이터를 이용한 학습방법을 제시하고 이를 이용하여 미분류 데이터의 효용성을 실험적으로 조사하였다. 미분류 데이터는 나이브 베이지안의 환경에서 분류데이터의 숫자가 적을 때 특히 많은 효과를 보임을 알 수 있었다.
Abstract
In many applications, an enormous amount of unlabeled data is available with little cost. Therefore, it is natural to ask whether we can take advantage of these unlabeled data in classification learning. In this paper, we analyzed the role of unlabeled data in the context of naive Bayesian learning. Experimental results show that including unlabeled data as part of training data can significantly improve the performance of classification accuracy. The effect of using unlabeled data is especially important in case labeled data are sparse.
참고문헌 (21)
- R. Duda, "Pattern Classification" (2001), John Wiley&Sons
- T. Zhang, "Some Asymptotic Results Concerning the Value of Unlabeled Data" (1999)
- Y. Zhou, "Enhancing Supervised Learning with Unlabeled Data", pp.327~334 (2000)
- Vittorio Castelli, "On the Exponential Value of Labeled Samples", 16, pp.105~111 (1995)
- B. Shahshahani, "The Effect of Unlabeled Samples in Reducing the Small Sample Size Problem and Mitigating the Hughes Phenomenon", 32(5), pp.1087~1095 (1994)
- F. De Comite, "Positive and Unlabeled Examples Help Learning", pp.219~230 (1999)
- Sally Goldman, "Enhancing Supervised Learning with Unlabeled Data" (2000)
- T. Hofmann, "Text Categorization with Labeled and Unlabeled Data: A Generative Model Approach" (1999)
- K. Nigam, "Text Classification from Labeled and Unlabeled Documents Using EM", 39, pp.103~134 (2000)
- T. Mitchell, "The Role of Unlabeled Data in Supervised Learning" (1999)
- A. P. Dempster, "Maximum Likelihood from Incomplete Data via the EM Algorithm", 39, pp.1~38 (1977)
- Xing Yi, "Multi-view EM algorithm and its application to color image segmentation" (2004)
- Avrim Blum, "Combining Labeled and Unlabeled Data with Co-Training" (1998)
- Kamal Nigam, "Analyzing the Effectiveness and Applicability of Co-training" (2000)
- A. Levin, "Unsupervised improvement of visual detectors using co-training" (2003)
- Rong Yan, "Multi-Modal Video Concept Extraction Using Co-Training" (2005)
- D. Cohn, "Active Learning with Statistical Models", 4, pp.129~145 (1996)
- R. Liere, "Active Learning with Committees for Text Categorization", pp.591~596 (1997)
- Tur, "Active learning for spoken language understanding" (2003)
- Riccardi, "Active learning : theory and applications to automatic speech recognition" (2005)
- Tom Mitchell, "Machine Learning" (1997), McGraw Hill