한국어 어절 자질들을 활용한 시퀀스 레이블링 기반 한국어 의존 구문 분석
Korean dependency parsing based on sequence labeling using Korean eojeol features
0
조회
0
다운로드
2
인용
0
참고문헌
키워드
초록
의존 구문 분석은 문장의 지배소와 의존소 간의 관계를 추출하고, 이를 통해 문장의 문법적 구조 분석을 하는 자연어 이해의 한 과정이다. 기존의 한국어 의존 구문분석 연구들은 높은 시간 복잡도를 가지는 알고리즘이나 별도의 자료구조가 필요하다는 한계점을 가지고 있다. 본 논문에서는 한국어의 지배소 후위의 법칙에 근거하여 의존 구문분석 문제를 어절단위 문장 입력에 대하여 각 어절이 입력 문장 내에서 의존관계를 가지는 지배소와 의존관계명을 예측하는 시퀀스 레이블링 문제로 간주한다. 그리고 본 논문에서는 어텐션 기반의 인코더-디코더 프레임워크를 활용하여 기존 연구의 한계점을 모두 고려한 새로운 한국어 의존 구문분석 모델을 제안한다. 또한 본 논문에서 여러 한국어 어절자질들을 한국어 의존 구문 분석에 적용하는 방법을 제안한다. 또한 효과적인 지배소 및 의존관계명 예측을 위해 본 논문에서는 형태소 태그를 활용한 지배소의 상대적 위치 기반 레이블 인코딩 방법을 제안한다. 결과적으로 다른 기존 모델들과 비교하여 제안 방법이 효과적임을 확인하였다.
Abstract
Dependency parsing is a process of natural language understanding that extracts the relationships between the head and its dependent in a sentence, analyzing the grammatical structure of the sentence. Existing studies on Korean dependency parsing have limitations in that complex algorithms algorithms with high time complexity or additional data structures are inevitably required. Based on the rule of head final of Korean, in this paper, dependency parsing can be regarded as a sequence labelling problem that predicts the head and its dependent of each word in the input sentence. Then, we propose a novel Korean dependent parsing model that consists of an attention-based encoder-decoder framework which has been shown to be outstanding on prevailing sequence labeling tasks. In addition, we propose a method of applying several eojeol feature to korean dependency parsing. In order to effectively predict the head and its dependent label, we also describe labeling encoding methods based on the relative position of head using part-of-speech tags. As a result, the proposed model has proved to be effective compared with other baseline approaches.
참고문헌 (32)
- P. R. Comas, "Using dependency parsing and machine learning for factoid question answering on spoken documents", Proceedings of the 13th International Conference on Spoken Language Processing, pp.1265~1268 (2010)
- M. Galley, "Quadratic-time dependency parsing for machine translation", Proceedings of the Joint Conference of the 47th Annual Meeting of the ACL and the 4th International Joint Conference on Natural Language Processing of the AFNLP, pp.773~781 (2009)
- 이형직, "효과적인 정답 추출을 위한 언어 분석 및 질문 패턴 기반의 질문 분할", 한국차세대컴퓨팅학회 논문지, 10(2), pp.31~38 (2014), 한국차세대컴퓨팅학회
- E. Charniak, "Statistical parsing with a contextfree grammar and word statistics", Proceedings of the fourteenth national conference on artificial intelligence and ninth conference on Innovative applications of artificial intelligence, pp.598~603 (1997)
- D. R. Ra, "A Study about Korean Language Parsing", Journal of Korean Institute of Information Scientists and Engineers, 12(8), pp.33~46 (1994)
- 정후중, "표층 문맥 정보에 기반한 통계적 한국어 의존분석 모델", 박사, 컴퓨터학, pp.2004
- R. McDonald, "Online Large-Margin Training of Dependency Parser", Proceedings of the Association for Computational Linguistics, pp.91~98 (2005)
- W. Wang, "Graph-based dependency parsing with bidirectional lstm", Proceedings of the Association for Computational Linguistics, pp.2306~2315 (2016)
- E. Kiperwasser, "Simple and accurate dependency parsing using bidirectional LSTM feature representations", Transactions of the Association for Computational Linguistics, pp.313~327 (2016)
- T. Dozat, "Deep Biaffine Attention for Neural Dependency Parsing", arXiv:1611.01734, ~ (2016)
- J. Nivre, "Non-Projective Dependency Parsing in Expected Linear Time", Proceedings of the Association for Computational Linguistics and International Joint Conference of the Natural Language Processing, pp.351~359 (2009)
- D. Chen, "A fast and accurate dependency parser using neural networks", Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing, pp.740~750 (2014)
- C. Dyer, "Transition-Based Dependency Parsing with stack Long Short Term Memory", Proceedings of the Association for Computational Linguistics, pp.334~343 (2015)
- 나승훈, "Stack LSTM을 이용한 전이 기반 한국어 의존 파싱", 한국정보과과학회 2016년 한국컴퓨터종합학술대회 논문집, pp.732~734 (2016)
- X. Ma, "Stack-Pointer Networks for dependency Parsing", Proceedings of Association for Computational Linguistics, pp.1403~1414 (2018)
- 민진우, "전이기반 순환유닛을 이용한SyntaxNet 기반 한국어 의존 파싱", 한국정보과과학회2017년 한국컴퓨터종합학술대회 논문집, pp.602~604 (2017)
- D. Spoustová, "Dependency Parsing as a Sequence Labeling Task", The Prague Bulletin of Mathematical Linguistics, pp.7~14 (2010)
- Z. Li, "Seq2seq dependency parsing", Proceedings of the 27th International Conference on Computational Linguistics, pp.3203~3214 (2018)
- M. Strzyz, "Viable Dependency Parsing as Sequence Labeling", Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp.713~723 (2019)
- 허찬, "Word2vec와 Label Propagation을 이용한 감성사전 구축 방법", 한국차세대컴퓨팅학회 논문지, 13(2), pp.93~101 (2017), 한국차세대컴퓨팅학회
- 김기용, "Word2Vec과 2계층 양방향 장단기 기억 네트워크를 이용한 특허 문서의 자동 IPC 분류", 한국차세대컴퓨팅학회 논문지, 15(2), pp.50~60 (2019), 한국차세대컴퓨팅학회[DOI]
- J. Chun, "Building Universal Dependency Treebanks in Korean", Proceedings of the 11th International Conference on Language Resources and Evaluation, pp.2194~2202 (2018)
- R. McDonald, "Universal Dependency Annotation for Multilingual Parsing", Proceedings of the 51st Annual Meeting of the Association for Computational Linguistics, pp.92~97 (2013)
- Z. Li, "Seq2seq dependency parsing", Proceedings of the Association for Computational Linguistics, pp.3203~3214 (2018)
- S. Bucholz, "CoNLL-X shared task on Multilingual Dependency Parsing", Proceedings of the Tenth Conference on Computational Natural Language Learning, pp.149~164 (2006)
- "The 21 century Sejong syntactic parsing corpus"[URL]
- D. Fernández-González, "Left-to-Right Dependency Parsing with Pointer Networks", Proceedings of the 2019Conference of the North American Chapter of the Association for Computational Linguistics:Human Language Technologies, pp.710~716 (2019)
- 나승훈, "Stack LSTM 을 이용한전이 기반 한국어 의존파싱", 한국정보과학회 학술발표논문집, pp.732~734 (2016)
- 박천음, "포인터 네트워크를 이용한 한국어 의존 구문 분석", 정보과학회논문지, 44(8), pp.822~831 (2017), 한국정보과학회
- 나승훈, "Deep Biaffine Attention 을 이용한 한국어 의존 파싱", 한국 정보 과학회 2017년 한국컴퓨터종합학술대회논문집, pp.584~586 (2017)
- 홍승연, "Bidirectional Stack Pointer Network를 이용한 한국어 의존 파싱", 한글 및 한국어 정보처리 학술대회 논문집, pp.19~22 (2018)
- 민태홍, "Stacked Bi-LSTM-CRF을 이용한한국어 의존 구문분석", 2018년 한국컴퓨터종합학술대회논문집, pp.672~674 (2018)