학습방법개선과 후처리 분석을 이용한 자동문서분류의 성능향상 방법
Reinforcement Method for Automated Text Classification using Post-processing and Training with Definition Criteria
1
조회
0
다운로드
3
인용
0
참고문헌
키워드
초록
자동문서분류는 문서의 내용에 기반하여 미리 정의된 항목에 자동으로 할당하는 작업으로서 효율적인 정보관리 및 검색등에 필수적인 작업이다. 기존의 문서분류성능 향상을 위한 연구들은 대부분 분류모델 자체를 개선시키는 데 주력해왔으며 통계적인 방법으로 그범위가 제한되어왔다. 본 연구에서는 자동문서분류의 성능향상을 위해 데이터마이닝 기법과 결함허용방법을 이용하는 개선된 학습알고리즘과 후처리 방법에 의한 RTPost 시스템을 제안한다. RTPost 시스템은 학습문서 선택작업 이전에 분류항목 설정의 문제를 다루며, 분류함수의 성능보다는 지정방식의 문제점을 감안하여 학습과 분류 후처리 프로세스를 개선하려는 것이다. 이를 통해 분류결과에 중요한 영향을 미쳐왔던 학습문서의 수와 선택방법, 분류모델의 성능등에 의존하지 않는 안정적인 분류가 가능하였고, 이를 분류오류율이 높은 경계선 인접영역에 위치한 문서들에 적용한 결과 높은 정확율을 얻을 수 있었다. 뿐만 아니라, RTPost 프로세스를 진행하는 동안 능동학습방법의 장점을 수용하여 학습효과는 높이며 비용을 감소시킬 수 있는 자가학습방법(self learning)방법의 효과를 기대할 수 있다.
Abstract
Automated text categorization is to classify free text documents into predefined categories automatically and whose main goals is to reduce considerable manual process required to the task. The researches to improving the text categorization performance(efficiency) in recent years, focused on enhancing existing classification models and algorithms itself, but, whose range had been limited by feature based statistical methodology. In this paper, we propose RTPost system of different style from any traditional method, which takes fault tolerant system approach and data mining strategy. The 2 important parts of RTPost system are reinforcement training and post-processing part. First, the main point of training method deals with the problem of defining category to be classified before selecting training sample documents. And post-processing method deals with the problem of assigning category, not performance of classification algorithms. In experiments, we applied our system to documents getting low classification accuracy which were laid on a decision boundary nearby. Through the experiments, we shows that our system has high accuracy and stability in actual conditions. It wholly did not depend on some variables which are important influence to classification power such as number of training documents, selection problem and performance of classification algorithms. In addition, we can expect self learning effect which decrease the training cost and increase the training power with employing active learning advantage.
참고문헌 (20)
- R. Agrawal, "Mining- based Interactive Management of Text Databases", pp.365~379 (2000)
- Yiming Yang, "An Evaluation of Statistical Approaches to Text Categorization", 1(1), pp.67~88 (1999)
- Zijian Zheng, "Nave Bayesian Classifier Committees", pp.196~207 (1998)
- Yiming Yang, "A Comparative Study on Feature Selection in Text Categorization", pp.42~420 (1997)
- David D. Lewis, "Heterogeneous Uncertainty Sampling for Supervised Learning", pp.148~156 (1994)
- Pedro Domingos, "Beyond Independence:Conditions for the Optimality of the Simple Bayesian Classifier", pp.105~112 (1996)
- Kim S.B, "Recomputation of Class Relevence Score for Improving Text Classification In Proceedings of Conference of CICLing Lecture Note in Computer Science", 2945, pp.580~583 (2004)
- Ko, "Using the Feature Projection Technique based on a Normalized Voting Method for Text Classification", 40(2), pp.191~208 (2004)
- 김제준, "베이지언 문서분류시스템을 위한 능동적 학습기반의 학습문서집합 구성방법", 29(12) (2002)
- Wilson, "Reduction Techniques for Exemplar-based Learning algorithms", 38(3), pp.257~286 (2002)
- T.Joachims, "Text categorization with support vector machines learning with many relevant features", pp.137~142 (1998)
- C, "Supprot Vector Network", 20, pp.273~297 (1995)
- D. Koller, "Active learning for parameter estimation in Bayesian networks" (2001)
- M. Hasenager, "Active Data Selection in Supervised and Unsupervised Learning" (2000)
- Hatzivassiloglou,, "Disambi- guating Proteins, Genes and RNA in Text: a Machine Learning Approach", 17, pp.97~106 (2001)
- Tateishi, "Building an Annotated Corpus in the Molecular-Biology Domain", pp.28~34 (2000)
- S. B. Cho, "Ensemble of structure adaptive self-organizing maps for high performance classification", 123(1-2), pp.103~114 (2000)
- W.N. Street, "Streaming ensemble algorithm(SEA) for large-scale classification", pp.377~382 (2001)
- B. Krishnamachari, "Distributed Bayesian Algorithms for Fault-Tolerant Event Region Detection in Wireless Sensor Networks", 53(3), pp.241~250
- D. K. Pradhan, "Fault-Tolerant Computer System Design" (1996), Prentice Hall Inc