단어 쓰임새 정보와 신경망을 활용한 한국어 Hedge 인식
Korean Hedge Detection Using Word Usage Information and Neural Networks
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
본 논문에서는 한국어 문장을 대상으로 불확실한 사실이나 개인적인 추측으로 인해 중요하지 않다고 판단되는 문장, 즉 Hedge 문장들을 분류해 내고자 한다. 기존 영어권 연구에서는 Hedge 문장들을 분류할 때 단어의 의존관계 정보가 여러 형태로 활용되고 있으나, 한국어 연구에서는 사용되고 있지 않음을 확인하였다. 또 기존의 워드 임베딩(Word Embedding) 기법에서 단어의 쓰임새 정보가 학습된다는 점을 인지하였다. 단어의 쓰임새 정보가 어느 정도 의존관계를 표현할 수 있을 것으로 보고 워드 임베딩 정보를 Hedge 분류 실험에 적용하였다. 기존에 많이 사용되던 SVM과 CRF를 baseline 시스템으로 활용하였고 워드 임베딩과 신경망을 사용하여 비교실험을 하였다. 워드임베딩 데이터는 세종데이터와 온라인에서 수집된 데이터를 합하여 총 150여만 문장을 사용하였고 Hedge 분류 데이터는 수작업으로 구축한 12,517 문장의 뉴스데이터를 사용하였다. 워드 임베딩을 사용한 시스템이 SVM보다 7.2%p, CRF보다 1.6%p 좋은 성능을 내는 것을 확인하였다. 이는 단어의 쓰임새 정보가 한국어 Hedge 분류에서 긍정적인 영향을 미친다는 것을 의미한다.
Abstract
In this paper, we try to classify Korean hedge sentences, which are regarded as not important since they express uncertainties or personal assumptions. Through previous researches to English language, we found dependency information of words has been one of important features in hedge classification, but not used in Korean researches. Additionally, we found that word embedding vectors include the word usage information. We assume that the word usage information could somehow represent the dependency information. Therefore, we utilized word embedding and neural networks in hedge sentence classification. We used more than one and half million sentences as word embedding dataset and also manually constructed 12,517-sentence hedge classification dataset obtained from online news. We used SVM and CRF as our baseline systems and the proposed system outperformed SVM by 7.2%p and also CRF by 1.2%p. This indicates that word usage information has positive impacts on Korean hedge classification.
참고문헌 (19)
- O. Täckström, "Uncertainty detection as approximate max-margin sequence labelling", Proceedings of the Fourteenth Conference on Computational Natural Language Learning---Shared Task, pp.84~91 (2010)
- E. Velldal, "Resolving speculation: MaxEnt cue classification and dependency-based scope rules", Proceedings of the Fourteenth Conference on Computational Natural Language Learning---Shared Task, pp.48~55 (2010)
- A. Vlachos, "Detecting speculative language using syntactic dependencies and logistic regression", Proceedings of the Fourteenth Conference on Computational Natural Language Learning---Shared Task, pp.18~25 (2010)
- R. Morante, "Memory-based resolution of in-sentence scopes of hedge cues", Proceedings of the Fourteenth Conference on Computational Natural Language Learning---Shared Task, pp.40~47 (2010)
- S. Zhang, "Hedge detection and scope finding by sequence labeling with normalized feature selection", Proceedings of the Fourteenth Conference on Computational Natural Language Learning---Shared Task, pp.92~99 (2010)
- M. Rei, "Combining manual rules and supervised learning for hedge cue and scope detection", Proceedings of the Fourteenth Conference on Computational Natural Language Learning---Shared Task, pp.56~63 (2010)
- D. Tang, "Learning Sentiment-Specific Word Embedding for Twitter Sentiment Classification", Association for Computational Linguistics, 1, pp.1555~1565 (2014)
- 임미영, "의미 정보가 강화된 워드 임베딩을 통한 감성 분석", 예술인문사회 융합 멀티미디어 논문지, 7(2), pp.321~329 (2017), 사단법인 인문사회과학기술융합학회[DOI]
- B. Tang, "A cascade method for detecting hedges and their scope in natural language text", Proceedings of the Fourteenth Conference on Computational Natural Language Learning---Shared Task, pp.13~17 (2010)
- H. Zhou, "Exploiting multi-features to detect hedges and their scope in biomedical texts", Proceedings of the Fourteenth Conference on Computational Natural Language Learning---Shared Task, pp.106~113 (2010)
- X. Li, "Exploiting rich features for detecting hedges and their scope", Proceedings of the Fourteenth Conference on Computational Natural Language Learning---Shared Task, pp.78~83 (2010)
- E. R. Fernandes, "Hedge detection using the RelHunter approach", Proceedings of the Fourteenth Conference on Computational Natural Language Learning---Shared Task, pp.64~69 (2010)
- F. Ji, "Detecting hedge cues and their scopes with average perceptron", Proceedings of the Fourteenth Conference on Computational Natural Language Learning---Shared Task, pp.32~39 (2010)
- 정주석, "한국어 Hedge 문장 인식을 위한 태깅 말뭉치 및 단서어구 패턴 구축", 한국지능시스템학회 논문지, 21(6), pp.761~766 (2011), 한국지능시스템학회
- S. Kang, "A Comparison of Classifiers for Detecting Hedges", International Conference on U-and E-Service, Science and Technology, pp.251~257 (2011)
- T. Milokov, "Distributed Representations of Words and Phrases and Their Compositionality", Advances in neural information processing systems, pp.3111~3119 (2013)
- D. Lewis, "Evaluating Text Categorization", HLT, 91, pp.312~318 (1991)
- R. Rehurek, "Software Framework for Topic Modelling With Large Corpora", Proceedings of the LREC 2010 Workshop on New Challenges for NLP Frameworks, pp.46~50 (2010)
- "TensorFlow"[URL]