본문 바로가기
KERD
논문KCI 등재

용어 사전의 특성이 문서 분류 정확도에미치는 영향 연구

Analyzing the Effect of Characteristics of Dictionary on the Accuracy of Document Classifiers

김남규|정혜강
대한경영정보학회 (Daehan Academy Of Management Information Systems)|2018.12|경영과 정보연구 (Management & Information Systems Review)|제37권 제4호|pp. 41-62|DOI 10.29214/damis.2018.37.4.003

0

조회

0

다운로드

2

인용

0

참고문헌

키워드

텍스트 분석Topic ModelingText Mining토픽 모델링문서 분류Document Classification용어 사전고유율Start ListIntrinsic Rate
주제분류경영학

초록

다양한 소셜 미디어 활동과 인터넷 뉴스 기사, 블로그 등을 통해 유통되는 비정형 데이터의 양이 급증함에 따라 비정형 데이터를 분석하고 활용하기 위한 연구가 활발히 진행되고 있다. 텍스트 분석은 주로 특정 도메인 또는 특정 주제에 대해 수행되므로, 도메인별 용어 사전의 구축과 적용에 대한 중요성이 더욱강조되고 있다. 용어 사전의 품질은 비정형 데이터 분석 결과의 품질에 직접적인 영향을 미치게 되며, 분석 과정에서 정제의 역할을 수행함으로써 분석의 관점을 정의한다는 측면에서 그 중요성이 더욱 강조된다. 이렇듯 용어 사전의 중요성은 기존의 많은 연구에서도 강조되어 왔으나, 용어 사전이 분석 결과의 품질에어떤 방식으로 어떤 영향을 미치는지에 대한 엄밀한 분석은 충분히 이루어지지 않았다. 따라서 본 연구에서는 전체 문서에서의 용어 빈도수에 기반을 두어 사전을 구축하는 일괄 구축 방식, 카테고리별 주요 용어를 추출하여 통합하는 용어 통합 방식, 그리고 카테고리별 주요 특질(Feature)을 추출하여 통합하는 특질통합 방식의 세 가지 방식으로 사전을 구축하고 각 사전의 품질을 비교한다. 품질을 간접적으로 평가하기위해 각 사전을 적용한 문서 분류의 정확도를 비교하고, 각 사전에 고유율의 개념을 도입하여 정확도의 차이가 나타나는 원인을 심층 분석한다. 본 연구의 실험에서는 5개 카테고리의 뉴스 기사 총 39,800건을 분석하였다. 실험 결과를 심층 분석한 결과 문서 분류의 정확도가 높게 나타나는 사전의 고유율이 높게 나타남을 확인하였으며, 이를 통해 사전의 고유율을 높임으로써 분류의 정확도를 더욱 향상시킬 수 있는 가능성을 발견하였다.

Abstract

As the volume of unstructured data increases through various social media, Internet news articles, and blogs, the importance of text analysis and the studies are increasing. Since text analysis is mostly performed on a specific domain or topic, the importance of constructing and applying a domain-specific dictionary has been increased. The quality of dictionary has a direct impact on the results of the unstructured data analysis and it is much more important since it present a perspective of analysis. In the literature, most studies on text analysis has emphasized the importance of dictionaries to acquire clean and high quality results. However, unfortunately, a rigorous verification of the effects of dictionaries has not been studied, even if it is already known as the most essential factor of text analysis. In this paper, we generate three dictionaries in various ways from 39,800 news articles and analyze and verify the effect each dictionary on the accuracy of document classification by defining the concept of Intrinsic Rate. 1) A batch construction method which is building a dictionary based on the frequency of terms in the entire documents 2) A method of extracting the terms by category and integrating the terms 3) A method of extracting the features according to each category and integrating them. We compared accuracy of three artificial neural network-based document classifiers to evaluate the quality of dictionaries. As a result of the experiment, the accuracy tend to increase when the “Intrinsic Rate” is high and we found the possibility to improve accuracy of document classification by increasing the intrinsic rate of the dictionary.

참고문헌 (41)

  1. 강상욱, "세종 전자사전과 한국어 어휘의미망을 이용한 용언의 어의 중의성 해소", 정보과학회 컴퓨팅의 실제 논문지, 21(7), pp.500~505 (2015), 한국정보과학회
  2. 곽수정, "한국어 형태소 분석을 위한 효율적 기분석 사전의 구성 방법", 정보처리학회 논문지, 2(12), pp.881~888 (2013), 한국정보처리학회[DOI]
  3. 김남규, "텍스트 분석 기술 및 활용 동향", 한국통신학회논문지, 42(2), pp.471~492 (2017), 한국통신학회[DOI]
  4. 김민철, "트위터 상의 악의적 이용 자동분류", 한국문헌정보학회지, 47(1), pp.269~286 (2013), 한국문헌정보학회[DOI]
  5. 김정수, "주식시장관리제도와 소셜 미디어의 역할", 경영과 정보연구, 34(5), pp.23~47 (2015), 대한경영정보학회[DOI]
  6. 김정수, "취업준비생 토픽 분석을 통한 취업난 원인의재탐색", 경영과 정보연구, 35(1), pp.85~116 (2016), 대한경영정보학회[DOI]
  7. 김창식, "토픽모델링과 시계열회귀분석을 활용한 정보시스템분야 연구동향 분석", 디지털콘텐츠학회논문지, 18(6), pp.1143~1150 (2017), 한국디지털콘텐츠학회[DOI]
  8. 김태훈, "문서 클러스터를 위한 워드넷기반의 대표 레이블 선정 방법", 인터넷정보학회논문지, 18(2), pp.61~73 (2017), 한국인터넷정보학회[DOI]
  9. 박주섭, "토픽모델링을 활용한 과학기술동향 및 예측에 관한 연구", 한국산업정보학회논문지, 22(4), pp.19~28 (2017), 한국산업정보학회[DOI]
  10. 박준석, "텍스트마이닝과 소셜네트워크분석 기법을 활용한 호텔분야 연구동향 분석", 관광레저연구, 28(9), pp.209~226 (2016), (사)한국관광레저학회
  11. 배상준, "한국어 위키피디아를 이용한 분류체계 생성과 개체명 사전 자동 구축", 정보과학회 컴퓨팅의 실제 논문지, 16(4), pp.492~496 (2010), 한국정보과학회
  12. 배정환, "텍스트 마이닝을 이용한2012년 한국대선 관련 트위터 분석", 지능정보연구, 19(3), pp.141~156 (2013), 한국지능정보시스템학회[DOI]
  13. 송종석, "상품평 극성 분류를 위한 특징별 서술어 긍정", 부정 사전 자동 구축, 2011, pp.38(3), 157~168[DOI]
  14. 안정국, "집단지성을 이용한 한글 감성어 사전 구축", 지능정보연구, 21(2), pp.49~67 (2015), 한국지능정보시스템학회
  15. 윤애선, "한국어 어휘의미망 「KorLex 1.5」의 구축", 정보과학회논문지 : 소프트웨어 및 응용, 36(1), pp.92~108 (2009), 한국정보과학회
  16. 이상훈, "영역별 맞춤형 감성사전 구축을 통한 영화리뷰 감성분석", 지능정보연구, 22(2), pp.97~113 (2016), 한국지능정보시스템학회
  17. 조정태, "영화리뷰 감성 분석을 통한 평점 예측 연구", 경영과 정보연구, 34(3), pp.161~177 (2015), 대한경영정보학회[DOI]
  18. 최석재, "빅데이터 분석을 위한 한국어 SentiWordNet 개발 방안 연구: 분노 감정을 중심으로", 한국전자거래학회지, 19(4), pp.1~19 (2014), 한국전자거래학회[DOI]
  19. 최성이, "토픽 분석을 활용한 웹 카테고리별 방문자 관심 이슈 식별 방안", Journal of Information Technology Applications & Management, 21(4), pp.415~429 (2014), 한국데이터전략학회
  20. 홍진성, "단일 카테고리 문서의 다중 카테고리 자동확장 방법론", 지능정보연구, 20(3), pp.77~92 (2014), 한국지능정보시스템학회
  21. Amensisa, A. D., "A survey on text document categorization using enhanced sentence vector space model and bi-gram text representation model based on novel fusion techniques", 2018 2nd International Conference on Inventive Systems and Control(ICISC), pp.218~225 (2018)
  22. Blei, D. M., "Latent dirichlet allocation", Journal of Machine Learning Research, 3, pp.993~1022 (2003)
  23. Deerwester, S., "Indexing by latent semantic analysis", Journal of the American Society for Information Science, 41(6), pp.391~407 (1990)
  24. Fellbaum, C., "A semantic network of english: the mother of all WordNets", Computers and the Humanities, 32, pp.209~220 (1998)
  25. Gao, J. B., "A WordNet-based semantic similarity measurement combining edgecounting and information content theory", Engineering Applications of Artificial Intelligence, 39, pp.80~88 (2015)
  26. Gupta, V., "A survey of text mining techniques and applications", Journal of Emerging Technologies in Web Intelligence, 1(1), pp.60~76 (2009)
  27. Hearst, M. A., "Untangling text data mining", Proceedings of the 37th annual meeting of the Association for Computational Linguistics, pp.3~10 (1999)
  28. Hong, L., "Empirical study of topic modeling in twitter", Proceedings of the First Workshop on Social Media Analytics, pp.80~88 (2010)
  29. Hotho, A., "A brief survey of text mining", Ldv Forum–GLDV Journal for Computational Linguistics and Language Technology, 20(1), pp.19~62 (2005)
  30. Joachims, T., "Text categorization with support vector machines: Learning with many relevant features", European Conference on Machine Learning, pp.137~142 (1998)
  31. Miller, G. A., "WordNet: A lexical database for English", Communications of the ACM, 38(11), pp.39~41 (1995)
  32. Mooney, R. J., "Advances in Neural Information Processing Systems", pp.171~178 (2006)
  33. Pedersen, T., "WordNet:: Similarity:measuring the relatedness of concepts", Proceedings of the 5th Annual Meeting of the North American Chapter of the Association for Computational Linguistics, pp.38~41 (2004)
  34. Richman, A. E., "Mining wiki resources for multilingual named entity recognition", Proceedings of the 46th Annual Meeting of the Association for Computational Linguistics:Human Language Technologies, pp.1~9 (2008)
  35. Rijsbergen, C. J. V., "Information Retrieval" (1979), Butterworths
  36. Rogati, M., "Highperforming feature selection for text classification", Proceedings of the 11th International Conference on Information and Knowledge Management, pp.659~661 (2002)
  37. Salton, G., "Introduction to Modern Information Retrieval" (1983), McGraw-Hill
  38. Sebastiani, F., "Classification of text, automatic", The Encyclopedia of Language and Linguistics, 14, pp.457~462 (2006)
  39. Vapnik, V. N., "The Nature of Statistical Learning Theory" (1995), Springer
  40. Wang, C., "Collaborative topic modeling for recommending scientific articles", Proceedings of the 17th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, pp.448~456 (2011)
  41. Wei, T., "A semantic approach for text clustering using WordNet and lexical chains", Expert Systems with Applications, 42(4), pp.2264~2275 (2015)

관련 논문AI추천

텍스트마이닝 성능 향상을 위한 도메인 특화 불용어 사전 구축 기법박승민, 최봉준, 최우진한국융합신호처리학회 · 융합신호처리학회 논문지2025 · 제26권 제2호문서범주화 성능 향상을 위한 의미기반 자질확장에 관한 연구정은경한국정보관리학회 · 정보관리학회지2009 · 제26권 제3호용어의 문맥활용을 통한 문헌 자동 분류의 성능 향상에 관한 연구송성전, 정영미한국정보관리학회 · 정보관리학회지2012 · 제29권 제2호위키피디아를 이용한 분류자질 선정에 관한 연구김용환, 정영미한국정보관리학회 · 정보관리학회지2012 · 제29권 제2호국방분야 빅데이터 분석을 위한 자연어 사전 구축홍힘찬화랑대연구소 · 한국군사학논집2021 · 제77권 제2호구조적 학술용어사전 데이터베이스 구축에 있어서 용어의 의미관계 형성에 영향을 미치는 요인에 관한 연구권선영한국문헌정보학회 · 한국문헌정보학회지2014 · 제48권 제2호

이 간행물의 다른 논문 (15건)

Earnings Quality of Firms Selected as the Global Champ Project공경태pp. 1-20게임 이용자의 사회자본과 개인정보제공에 대한우려가 플로우를 통해 SNG 재이용의도와추천의도에 미치는 영향김한구, 이지현pp. 21-39퀄리티 지수를 이용한 스마트 베타 전략옥기율, 이민규pp. 63-74기업의 사회공헌활동이 프리미엄가격 지불의도와지속적 구매의도에 미치는 영향김현규, 정선미pp. 75-92서비스산업 종사자의 교육훈련이 직무성과에미치는 영향－ 교육태도의 조절효과 검증 －안진우, 이수비pp. 93-108
원문 보기