본문 바로가기
KERD
논문KCI 등재

텍스트 분류를 위한 자질 순위화 기법에 관한 연구

An Experimental Study on Feature Ranking Schemes for Text Classification

김판준
한국정보관리학회|2023.03|정보관리학회지 (Journal of the Korean Society for Information Management)|제40권 제1호|pp. 1-21|DOI http://doi.org/10.3743/KOSIM.2023.40.1.001

1

조회

0

다운로드

0

인용

0

참고문헌

키워드

문헌빈도텍스트 분류텍스트 범주화자질선정자질 순위화 기법용어빈도text classificationtext categorizationfeature selectionfeature ranking schemesdocument frequencyterm frequency
주제분류문헌정보학

초록

본 연구는 텍스트 분류를 위한 효율적인 자질선정 방법으로 자질 순위화 기법의 성능을 구체적으로 검토하였다. 지금까지 자질 순위화 기법은 주로 문헌빈도에 기초한 경우가 대부분이며, 상대적으로 용어빈도를 사용한 경우는 많지 않았다. 따라서 텍스트 분류를 위한 자질선정 방법으로 용어빈도와 문헌빈도를 개별적으로 적용한 단일 순위화 기법들의 성능을 살펴본 다음, 양자를 함께 사용하는 조합 순위화 기법의 성능을 검토하였다. 구체적으로 두 개의 실험 문헌집단(Reuters-21578, 20NG)과 5개 분류기(SVM, NB, ROC, TRA, RNN)를 사용하는 환경에서 분류 실험을 진행하였고, 결과의 신뢰성 확보를 위해 5-fold cross validation과 t-test를 적용하였다. 결과적으로, 단일 순위화 기법으로는 문헌빈도 기반의 단일 순위화 기법(chi)이 전반적으로 좋은 성능을 보였다. 또한, 최고 성능의 단일 순위화 기법과 조합 순위화 기법 간에는 유의한 성능 차이가 없는 것으로 나타났다. 따라서 충분한 학습문헌을 확보할 수 있는 환경에서는 텍스트 분류의 자질선정 방법으로 문헌빈도 기반의 단일 순위화 기법(chi)을 사용하는 것이 보다 효율적이라 할 수 있다.

Abstract

This study specifically reviewed the performance of the ranking schemes as an efficient feature selection method for text classification. Until now, feature ranking schemes are mostly based on document frequency, and relatively few cases have used the term frequency. Therefore, the performance of single ranking metrics using term frequency and document frequency individually was examined as a feature selection method for text classification, and then the performance of combination ranking schemes using both was reviewed. Specifically, a classification experiment was conducted in an environment using two data sets (Reuters-21578, 20NG) and five classifiers (SVM, NB, ROC, TRA, RNN), and to secure the reliability of the results, 5-Fold cross-validation and t-test were applied. As a result, as a single ranking scheme, the document frequency-based single ranking metric (chi) showed good performance overall. In addition, it was found that there was no significant difference between the highest-performance single ranking and the combination ranking schemes. Therefore, in an environment where sufficient learning documents can be secured in text classification, it is more efficient to use a single ranking metric (chi) based on document frequency as a feature selection method.

참고문헌 (60)

  1. 김인후, "딥러닝 기반의 BERT 모델을 활용한 학술 문헌 자동분류", 정보관리학회지, 39(3), pp.293~310 (2022), 한국정보관리학회[DOI]
  2. 김판준, "용어 가중치부여 기법을 이용한 로치오 분류기의 성능 향상에 관한 연구", 정보관리학회지, 25(1), pp.211~233 (2008), 한국정보관리학회[DOI]
  3. 김판준, "기계학습에 기초한 자동분류의 성능 요소에 관한 연구", 정보관리학회지, 33(2), pp.33~59 (2016), 한국정보관리학회[DOI]
  4. 김판준, "기계학습에 기초한 국내 학술지 논문의 자동분류에 관한 연구", 정보관리학회지, 35(2), pp.37~62 (2018), 한국정보관리학회[DOI]
  5. 김판준, "자질선정을 통한 국내 학술지 논문의 자동분류에 관한 연구", 정보관리학회지, 39(1), pp.69~90 (2022), 한국정보관리학회[DOI]
  6. 육지희, "토픽모델링과 딥 러닝을 활용한 생의학 문헌 자동 분류 기법 연구", 정보관리학회지, 35(2), pp.63~88 (2018), 한국정보관리학회[DOI]
  7. 이재윤, "자질 선정 기준과 가중치 할당 방식간의 관계를 고려한 문서 자동분류의 개선에 대한 연구", 한국문헌정보학회지, 39(2), pp.123~146 (2005), 한국문헌정보학회
  8. 한지영, "토픽 모델링 기반 비대면 강의평 분석 및 딥러닝 분류 모델 개발", 한국문헌정보학회지, 55(4), pp.267~291 (2021), 한국문헌정보학회[DOI]
  9. Abiodun, E. O., "A systematic review of emerging feature selection optimization methods for optimal text classification : the present state and prospective opportunities", Neural Computing & Applications, 33(4), pp.1~28 (2021)[DOI]
  10. Aggarwal, C. C., "Mining Text Data" (2012)
  11. Agnihotri, D., "Variable global feature selection scheme for automatic classification of text documents", Expert Systems with Applications, 81, pp.268~281 (2017)[DOI]
  12. Ávila-Argüelles, R, "Assigning Library of Congress Classification codes to books based only on their titles", Informatica, 34(1), pp.77~84 (2010)
  13. Azam, N., "Comparison of term frequency and document frequency based feature selection metrics in text categorization", Expert Systems with Applications, 39(5), pp.4760~4768 (2012)[DOI]
  14. Baccianella, S., "Using micro-documents for feature selection : The case of ordinal text classification", Expert Systems with Applications, 40(11), pp.4687~4696 (2013)[DOI]
  15. Bolón-Canedo, V., "Ensembles for feature selection : A review and future trends", Information Fusion, 52, pp.1~12 (2019)[DOI]
  16. Cai, J., "Feature selection in machine learning : A new perspective", Neurocomputing, 300, pp.70~79 (2018)[DOI]
  17. Cai, Z., "Multi-label feature selection via feature manifold learning and sparsity regularization", International journal of machine learning and cybernetics, 9(8), pp.1321~1334 (2018)[DOI]
  18. Chang, F., "A Feature Selection Method to Handle Imbalanced Data in Text Classification", Journal of Digital Information Management, 13, pp.169~175 (2015)
  19. Chen, J., "Feature selection for text classification with Naïve Bayes", Expert Systems with Applications, 36(3), pp.5432~5435 (2009)[DOI]
  20. Cunha, W., "On the cost-effectiveness of neural and non-neural approaches and representations for text classification : A comprehensive comparative study", Information Processing & Management, 58(3), pp.102481~ (2021)[DOI]
  21. Dash, M., "Feature selection for classification", Intelligent data analysis, 1, pp.131~156 (1997)[DOI]
  22. Deng, X., "Feature selection for text classification : A review", Multimedia Tools and Applications, 78, pp.3797~3816 (2019)[DOI]
  23. "Bert: Pre-training of deep bidirectional transformers for language understanding" (2018)[URL]
  24. Forman, G., "An extensive empirical study of feature selection metrics for text classification", Journal of Machine Learning Research, 3, pp.1289~1305 (2003)
  25. Günal, S., "Hybrid feature selection for text classification", Turkish Journal of Electrical Engineering and Computer Science, 20(Sup.2), pp.1296~1311 (2012)
  26. Guyon, I., "An introduction to variable and feature selection", The Journal of Machine Learning Research, 3, pp.1157~1182 (2003)
  27. Guyon, I., "Gene selection for cancer classification using support vector machines", Machine Learning, 46(1), pp.389~422 (2002)[DOI]
  28. Han, E. H., "Centroid-based document classification: Analysis and experimental results", European conference on principles of data mining and knowledge discovery, pp.421~431 (2000)
  29. Harish, B., "A comprehensive survey on various feature selection methods to categorize text documents", International Journal of Computer Applications, 164, pp.1~7 (2017)[DOI]
  30. Iqbal, M., "Review of feature selection methods for text classification", International Journal of Advanced Computer Research, 10(49), pp.138~152 (2020)[DOI]
  31. Javed, K., "Feature selection based on class-dependent densities for high-dimensional binary data", IEEE Transactions on Knowledge and Data Engineering, 24(3), pp.465~477 (2010)[DOI]
  32. "A Probabilistic Analysis of the Rocchio Algorithm with TFIDF for Text Categorization" (1996)[URL]
  33. Joachims, T., "Learning to classify text using support vector machines: Methods, theory and algorithms" (2002), Kluwer Academic Publishers
  34. Kohavi, R., "Wrappers for feature subset selection", Artificial intelligence, 97(1-2), pp.273~324 (1997)
  35. Kumar, V., "Feature selection : a literature review", Smart Computing Review, 4(3), pp.211~229 (2014)[DOI]
  36. Lan, M., "Supervised and traditional term weighting methods for automatic text categorization", IEEE Transactions on Pattern Analysis and Machine Intelligence, 31(4), pp.721~735 (2008)[DOI]
  37. Lazar, C., "A survey on filter techniques for feature selection in gene expression microarray analysis", IEEE, 2012, pp.9(4), 1106~1119
  38. Li, Y., "Recent advances in feature selection and its applications", Knowledge and Information Systems, 53(3), pp.551~577 (2017)[DOI]
  39. Liu, H., "Toward integrating feature selection algorithms for classification and clustering", IEEE Transactions on Knowledge and Data Engineering, 17(4), pp.491~502 (2005)[DOI]
  40. Mesleh, A. M., "Feature sub-set selection metrics for arabic text classification", Pattern Recognition Letters, 32(14), pp.1922~1929 (2011)[DOI]
  41. Parlak, B., "A novel filter feature selection method for text classification : Extensive Feature Selector", Journal of Information Science, 49(1), pp.59~78 (2021)[DOI]
  42. Pinheiro, R. H., "Data-driven global-ranking local feature selection methods for text categorization", Expert Systems with Applications, 42(4), pp.1941~1949 (2015)[DOI]
  43. Pintas, J. T., "Feature selection methods for text classification : a systematic literature review", Artificial Intelligence Review, 54, pp.6149~6200 (2021)[DOI]
  44. Rehman, A., "Feature selection based on a normalized difference measure for text classification", Information Processing & Management, 53(2), pp.473~489 (2017)[DOI]
  45. Rehman, A., "Selection of the most relevant terms based on a max-min ratio metric for text classification", Expert Systems with Applications, 114, pp.78~96 (2018)[DOI]
  46. Sebastiani, F., "Machine learning in automated text categorization", ACM Computing Surveys, 34(1), pp.1~47 (2002)[DOI]
  47. Shang, W., "A novel feature selection algorithm for text categorization", Expert Systems with Applications, 33(1), pp.1~5 (2007)[DOI]
  48. Su, J., "Large scale text classification using semi-supervised multinomial naive bayes", Proceedings of the 28th International Conference on International Conference on Machine Learning (ICML'11), pp.97~104 (2011)
  49. Talavera, L, "An evaluation of filter and wrapper methods for feature selection in categorical clustering, In dvances in intelligent data analysis VI. IDA 2005", Lecture Notes in Computer Science, 3646, pp.1007~ (2005)[DOI]
  50. Uysal, A. K., "An improved global feature selection scheme for text classification", Expert Systems with Applications, 43(1), pp.82~92 (2016)[DOI]
  51. Van Hulse, J., "A comparative evaluation of feature ranking methods for high dimensional bioinformatics data", 2011 IEEE International Conference on Information Reuse & Integration, 2011, pp.315~320 (2011)
  52. Venkatesh, B., "A review of feature selection and its methods", Cybernetics and Information Technologies, 19(1), pp.3~26 (2019)[DOI]
  53. Wang, D, "Feature selection based on term frequency and T-test for text categorization", IProceedings of the 21st ACM International Conference on Information and Knowledge Management, pp.1482~1486 (2012)
  54. Wang, D., "Unsupervised feature selection through gram-Schmidt orthogonalization-A word co-occurrence perspective", Neurocomputing, 173(P3), pp.845~854 (2016)[DOI]
  55. Wang, D., "t-test feature selection approach based on term frequency for text categorization", Pattern Recognition Letters, 45, pp.1~10 (2014)[DOI]
  56. Wang, H., "Supervised Hebb rule based feature selection for text classification", Information Processing & Management, 56(1), pp.167~191 (2019)[DOI]
  57. Wu, G., "Optimized approach of feature selection based on information gain", 2015 International Conference on Computer Science and Mechanical Automation, pp.157~161 (2015)
  58. Wu, Y., "Feature selection for classifying high-dimensional numerical data", Proceedings of the 2004 IEEE Computer Society Conference on Computer Vision and Pattern Recognition, 2004, CVPR 2004, 2, pp.251~258 (2004)
  59. Yang, Y., "A comparative study on feature selection in text categorization", Proceedings of the Fourteenth International Conference on Machine Learning, pp.412~420 (1997)
  60. Yao, H., "A feature selection method based on synonym merging in text classification system", EURASIP Journal on Wireless Communications and Networking, 2017(1), pp.1~8 (2017)[DOI]

관련 논문AI추천

자질 선정 기준과 가중치 할당 방식간의 관계를 고려한 문서 자동분류의 개선에 대한 연구이재윤한국문헌정보학회 · 한국문헌정보학회지2005 · 제39권 제2호문헌빈도와 장서빈도를 이용한 kNN 분류기의 자질선정에 관한 연구이용구한국도서관·정보학회 · 한국도서관·정보학회지2013 · 제44권 제1호한글 웹 문서 클러스터링 성능향상을 위한 자질선정 기법 비교 연구김영기한국문헌정보학회 · 한국문헌정보학회지2005 · 제39권 제1호자질선정을 통한 국내 학술지 논문의 자동분류에 관한 연구김판준한국정보관리학회 · 정보관리학회지2022 · 제39권 제1호위키피디아를 이용한 분류자질 선정에 관한 연구김용환, 정영미한국정보관리학회 · 정보관리학회지2012 · 제29권 제2호용어의 문맥활용을 통한 문헌 자동 분류의 성능 향상에 관한 연구송성전, 정영미한국정보관리학회 · 정보관리학회지2012 · 제29권 제2호

이 간행물의 다른 논문 (9건)

노인과 청년이 함께하는 독서모임의 세대교류 및 사회적 독서 경험 연구김지영, 이지연pp. 23-50연구데이터 품질관리를 위한 프로세스 모델 제안한나은pp. 51-71대학도서관 유튜브 콘텐츠 내용분석과 이용자 감성반응 분석에 관한 연구송영, 김지현pp. 73-93공공기록의 개념 및 범위에 관한 논의이경남pp. 95-119다차원 메타데이터 공간을 활용한 학술 문헌 추천기법 연구이지연, 감미아pp. 121-148
원문 보기