본문 바로가기
KERD
논문KCI 등재

랜덤포레스트를 이용한 국내 학술지 논문의 자동분류에 관한 연구

An Analytical Study on Automatic Classification of Domestic Journal articles Using Random Forest

김판준
한국정보관리학회|2019.06|정보관리학회지 (Journal of the Korean Society for Information Management)|제36권 제2호|pp. 57-77|DOI http://dx.doi.org/10.3743/KOSIM.2019.36.2.057

0

조회

0

다운로드

20

인용

0

참고문헌

키워드

자동분류디지털 큐레이션학술지 논문digital curation불균형 데이터automatic classification자질선정feature selectionjournal articles자동주석랜덤포레스트(RF)복수-범주 분류automatic annotationrandom forest (RF)multi-label classificationimbalanced data
주제분류문헌정보학

초록

대표적인 앙상블 기법으로서 랜덤포레스트(RF)를 문헌정보학 분야의 학술지 논문에 대한 자동분류에 적용하였다. 특히, 국내 학술지 논문에 주제 범주를 자동 할당하는 분류 성능 측면에서 트리 수, 자질선정, 학습집합 크기 등 주요 요소들에 대한 다각적인 실험을 수행하였다. 이를 통해, 실제 환경의 불균형 데이터세트(imbalanced dataset)에 대하여 랜덤포레스트(RF)의 성능을 최적화할 수 있는 방안을 모색하였다. 결과적으로 국내 학술지 논문의 자동분류에서 랜덤포레스트(RF)는 트리 수 구간 100〜1000(C)과 카이제곱통계량(CHI)으로 선정한 소규모의 자질집합(10%), 대부분의 학습집합(9〜10년)을 사용하는 경우에 가장 좋은 분류 성능을 기대할 수 있는 것으로 나타났다.

Abstract

Random Forest (RF), a representative ensemble technique, was applied to automatic classification of journal articles in the field of library and information science. Especially, I performed various experiments on the main factors such as tree number, feature selection, and learning set size in terms of classification performance that automatically assigns class labels to domestic journals. Through this, I explored ways to optimize the performance of random forests (RF) for imbalanced datasets in real environments. Consequently, for the automatic classification of domestic journal articles, Random Forest (RF) can be expected to have the best classification performance when using tree number interval 100〜1000(C), small feature set (10%) based on chi-square statistic (CHI), and most learning sets (9-10 years).

참고문헌 (59)

  1. 강수연, "국내 드라마 시청률 예측 및 영향요인 분석", 응용통계연구, 28(5), pp.933~949 (2015), 한국통계학회
  2. 권안나, "랜덤포레스트를 이용한 변수 선택", 석사, 통계학과 통계학전공, pp.2013
  3. 김성진, "기업신용등급 예측을 위한 랜덤 포레스트의 응용", 산업혁신연구, 32(1), pp.187~211 (2016), 산업개발연구소[DOI]
  4. 김판준, "기계학습을 통한 디스크립터 자동부여에 관한 연구", 정보관리학회지, 23(1), pp.279~299 (2006), 한국정보관리학회[DOI]
  5. 김판준, "기계학습에 기초한 자동분류의 성능 요소에 관한 연구", 정보관리학회지, 33(2), pp.33~59 (2016), 한국정보관리학회[DOI]
  6. 김판준, "기계학습에 기초한 국내 학술지 논문의 자동분류에 관한 연구", 정보관리학회지, 35(2), pp.37~62 (2018), 한국정보관리학회[DOI]
  7. 남승현, "사용자 성향 그룹 분류를 위한 머신러닝 모델 비교", Journal of The Korean Data Analysis Society, 19(5), pp.2501~2507 (2017), 한국자료분석학회[DOI]
  8. 서종덕, "데이터 마이닝 기법을 이용한 환율예측: GARCH와 결합된 랜덤 포레스트 모형", 산업경제연구, 29(5), pp.1607~1628 (2016), 한국산업경제학회
  9. 유진은, "랜덤 포레스트: 의사결정나무의 대안으로서의 데이터 마이닝 기법", 교육평가연구, 28(2), pp.427~448 (2015), 한국교육평가학회
  10. 윤태균, "의료진단 및 중요 검사 항목 결정 지원 시스템을 위한 랜덤 포레스트 알고리즘 적용", 전기학회논문지ABCD, 57(6), pp.1058~1062 (2008), 대한전기학회
  11. 이재윤, "자질 선정 기준과 가중치 할당 방식간의 관계를 고려한 문서 자동분류의 개선에 대한 연구", 한국문헌정보학회지, 39(2), pp.123~146 (2005), 한국문헌정보학회
  12. 이진욱, "감성분석과 Word2vec을 이용한 비정형 품질 데이터 분석", 품질경영학회지, 45(1), pp.117~128 (2017), 한국품질경영학회[DOI]
  13. 이현주, "부정맥 증상을 자동으로 판별하는 Random Forest 분류기의 정확도 향상을 위한 수정 알고리즘에 대한 연구", 정보처리학회 논문지, 18(6), pp.341~348 (2011), 한국정보처리학회
  14. 정석원, "랜덤 포레스트를 이용한 한국어 상호참조 해결", 정보처리학회 논문지, 5(11), pp.535~540 (2016), 한국정보처리학회[DOI]
  15. 정준호, "랜덤포레스트와 유전알고리즘을 이용한 표적 분류 기법", 2016년 대한전자공학회 추계학술대회 논문집, pp.601~604 (2016)
  16. 조현채, "랜덤포레스트를 이용한 신문사들의19대 대통령 선거 보도 특성 분석", 한국데이터정보과학회지, 29(2), pp.367~375 (2018), 한국데이터정보과학회[DOI]
  17. 최혁진, "Random forest를 이용한 단백질에서의 DNA 결합 부위 예측", 정보과학회논문지 : 소프트웨어 및 응용, 39(7), pp.515~522 (2012), 한국정보과학회[DOI]
  18. 홍준혁, "가중치 기반 Bag-of-Feature와 앙상블 결정 트리를 이용한 정지 영상에서의 인간 행동 인식", 한국통신학회논문지, 38(1), pp.1~9 (2013), 한국통신학회
  19. Afianto, M. F., "Text categorization on Hadith Sahih Al-Bukhari using Random Forest", International Conference on Data and Information Science, IOP Conference Series: Journal of Physics: Conf, 971 (2017)
  20. Amaratunga, D., "Enriched random forests", Bioinformatics, 24(18), pp.2010~2014 (2008)[DOI]
  21. Aung, W. T., "Random forest classifier for multi-category classification of web pages", Services Computing Conference, APSCC 2009. IEEE Asia-Pacific, pp.372~376 (2009)
  22. Peter C. Austin, "Using methods from the data-mining and machine-learning literature for disease classification and prediction: a case study examining classification of heart failure subtypes", Journal of Clinical Epidemiology, 66(4), pp.398~407 (2013), Elsevier BV[DOI]
  23. Richard Berk, "Statistical Difficulties in Determining the Role of Race in Capital Cases: A Re-analysis of Data from the State of Maryland", Journal of Quantitative Criminology, 21(4), pp.365~390 (2005), Springer Science and Business Media LLC[DOI]
  24. Boinee, P., "Meta random forests", International Journal of Computational Intelligence, 2(3), pp.138~147 (2005)
  25. Brandenburg, Minke, "Text classification of Dutch police records", master's, pp.2017
  26. Breiman L., "Random forests", Machine Learning, 45(1), pp.5~32 (2002)
  27. Iain Brown, "An experimental comparison of classification algorithms for imbalanced credit scoring data sets", Expert Systems with Applications, 39(3), pp.3446~3453 (2012), Elsevier BV[DOI]
  28. 최성훈, "Tree size determination for classification ensemble", 한국데이터정보과학회지, 27(1), pp.255~264 (2016), 한국데이터정보과학회[DOI]
  29. D. Richard Cutler, "RANDOM FORESTS FOR CLASSIFICATION IN ECOLOGY", Ecology, 88(11), pp.2783~2792 (2007), Wiley[DOI]
  30. Turgut Dogan, "The Impact of Feature Selection on Urban Land Cover Classification", International Journal of Intelligent Systems and Applications in Engineering, 1(6), pp.59~64 (2018), International Journal of Intelligent Systems and Applications in Engineering[DOI]
  31. Khaled Fawagreh, "Random forests: from early developments to recent advancements", Systems Science & Control Engineering, 2(1), pp.602~609 (2014), Informa UK Limited[DOI]
  32. Gao, D., "Random forest algorithm for classification of multiwavelength data", Research in Astronomy and Astrophysics, 9(2), pp.220~226 (2009)[DOI]
  33. Myoung-Jong Kim, "Geometric mean based boosting algorithm with over-sampling to resolve data imbalance problem for bankruptcy prediction", Expert Systems with Applications, 42(3), pp.1074~1082 (2015), Elsevier BV[DOI]
  34. Klassen, M., "Web document classification by keywords using Random Forests", Networked Digital Technologies. NDT 2010. Communications in Computer and Information Science, 88 (2010), Springer
  35. Kong, Q., "Classification application based on mutual information and Random Forest method for high dimensional data", 9th International Conference on Intelligent Human-Machine Systems and Cybernetics (IHMSC), pp.171~174 (2017)
  36. Latinne, P., "Limiting the number of trees in Random Forests", Multiple Classifier Systems. MCS 2001. Lecture Notes in Computer Science, 2096, pp.178~187 (2001), Springer
  37. Jaesung Lee, "Mutual Information-based multi-label feature selection using interaction information", Expert Systems with Applications, 42(4), pp.2013~2025 (2015), Elsevier BV[DOI]
  38. Liparas D., "News articles classification using Random Forests and weighted multimodal features", Multidisciplinary Information Retrieval. IRFC 2014. Lecture Notes in Computer Science, 8849 (2014), Springer
  39. Corie Lok, "Literature mining: Speed reading", Nature, 463(7280), pp.416~418 (2010), Springer Science and Business Media LLC[DOI]
  40. Löw, F., "Per-field crop classification in irrigated agricultural regions in middle Asia using random forest and support vector machine ensemble", Proc. SPIE 8538, Earth Resources and Environmental Remote Sensing, 2012, ~
  41. Ma, L., "A multi-label text classification framework: Using supervised and unsupervised feature selection strategy", doctoral, pp.2017
  42. Li Ma, "CURE-SMOTE algorithm and hybrid algorithm for feature selection and parameter optimization based on random forests", BMC Bioinformatics, 18(1) (2017), Springer Science and Business Media LLC[DOI]
  43. Ma, L., "Hybrid feature selection methods for online biomedical publication classification", 2015 IEEE Conference on Computational Intelligence in Bioinformatics and Computational Biology, pp.1~8 (2015)
  44. Gjorgji Madjarov, "An extensive experimental comparison of methods for multi-label learning", Pattern Recognition, 45(9), pp.3084~3104 (2012), Elsevier BV[DOI]
  45. Manning, "Introduction to information retrieval" (2008), Cambridge University Press
  46. A study of multi-label text classification and the effect of label hierarchy, "Nayak, S.", Stanford University, ~ (2013)
  47. Robnik-Šikonja M., "Improving Random Forests", Machine Learning: ECML 2004. ECML 2004. Lecture Notes in Computer Science, 3201 (2004), Springer
  48. Roul, R. K., "A new feature selection technique combined with elm feature space for text classification", Proceedings of the 13th International Conference on Natural Language Processing, pp.285~292 (2016)
  49. Siroky, D. S., "Navigating random forests and related advances in algorithmic modeling", Statistics Surveys, 3, pp.147~163 (2009)
  50. Trieschnigg, D., "MeSH Up: Effective MeSH text classification for improved document retrieval", Bioinformatics, 25(11), pp.1412~1418 (2009)[DOI]
  51. Tsymbal, A., "Dynamic integration with random forests", Machine Learning: ECML 2006. ECML 2006. Lecture Notes in Computer Science, 4212 (2006), Springer
  52. Matthew D. Turner, "Automated annotation of functional imaging experiments via multi-label classification", Frontiers in Neuroscience, 7 (2013), Frontiers Media SA[DOI]
  53. Michael M. Ward, "Short-term prediction of mortality in patients with systemic lupus erythematosus: Classification of outcomes using random forests", Arthritis & Rheumatism, 55(1), pp.74~80 (2006), Wiley[DOI]
  54. Qingyao Wu, "ForesTexter: An efficient random forest algorithm for imbalanced text categorization", Knowledge-Based Systems, 67, pp.105~116 (2014), Elsevier BV[DOI]
  55. Baoxun Xu, "An Improved Random Forest Classifier for Text Categorization", Journal of Computers, 7(12) (2012), International Academy Publishing (IAP)[DOI]
  56. Baoxun Xu, "Classifying Very High-Dimensional Data with Random Forests Built from Small Subspaces", International Journal of Data Warehousing and Mining, 8(2), pp.44~63 (2012), IGI Global[DOI]
  57. Yang, Y., "A comparative study on feature selection in text categorization", Proceedings of the Fourteenth International Conference on Machine Learning, pp.412~420 (1997)
  58. Dengju Yao, "An Improved Random Forest Algorithm for Class-Imbalanced Data Classification and its Application in PAD Risk Factors Analysis", The Open Electrical & Electronic Engineering Journal, 7(1), pp.62~70 (2013), Bentham Science Publishers Ltd.[DOI]
  59. Qifeng Zhou, "Cost-sensitive feature selection using random forest: Selecting low-cost subsets of informative features", Knowledge-Based Systems, 95, pp.1~11 (2016), Elsevier BV[DOI]

관련 논문AI추천

기계학습에 기초한 국내 학술지 논문의 자동분류에 관한 연구김판준한국정보관리학회 · 정보관리학회지2018 · 제35권 제2호자질선정을 통한 국내 학술지 논문의 자동분류에 관한 연구김판준한국정보관리학회 · 정보관리학회지2022 · 제39권 제1호기계학습에 기초한 자동분류의 성능 요소에 관한 연구김판준한국정보관리학회 · 정보관리학회지2016 · 제33권 제2호해외 데이터베이스의 통제키워드에 기초한 국내 학술지 논문의 자동분류 성능 향상에 관한 실험적 연구김판준, 이재윤한국문헌정보학회 · 한국문헌정보학회지2014 · 제48권 제3호디스크립터 자동 할당을 위한 저자키워드의 재분류에 관한 실험적 연구김판준, 이재윤한국정보관리학회 · 정보관리학회지2012 · 제29권 제2호문헌빈도와 장서빈도를 이용한 kNN 분류기의 자질선정에 관한 연구이용구한국도서관·정보학회 · 한국도서관·정보학회지2013 · 제44권 제1호

이 간행물의 다른 논문 (10건)

ISA 기반 특화도서관 운영에 대한 이용자의 인식조사 연구신영지, 곽우정, 노영희pp. 7-29CRM 기법을 이용한 대학도서관 경영개선에 관한 연구유경종, 박일종pp. 31-56소셜미디어 아카이빙을 위한 수집 및 보존방안양동민, 오효정, 김태영, 최상기pp. 79-104장서개발관리 분야 최근 연구동향 분석에 대한 연구신유미, 박옥남pp. 105-131Content Analysis on Twitter for Identifying Scholarly Activities and Public Use in Informal Communication: With a Focus on Domestic Scholars in Social Sciences심지영, 송성전pp. 133-152
원문 보기