역문서빈도로 가중된 부속단어를 이용한 FastText 워드 임베딩
FastText word embedding with IDF-weighted subword information
0
조회
0
다운로드
2
인용
0
참고문헌
키워드
초록
워드 임베딩은 자연어처리 분야에서 중요한 기술로, word2vec이 대표적인 알고리즘으로 알려져 있다. word2vec을 비롯한 사전기반의 워드 임베딩 알고리즘들은 단어의 형태소특징을 사용하지 않는 방식, 즉 단어를 하나의 개체로 사용하기 때문에 학습에 사용된 단어에 대해서만 단어 벡터를 만들 수 있는 한계를 가지고 있다. FastText는 이 문제를 해결하기 위해 제안된 알고리즘으로, 부속단어들의 조합으로 워드 임베딩을 하며, 이에 따라 학습에 사용된 적이 없는 단어에 대해서도 단어 벡터를 만들 수 있다. FastText는 형태소적 특징을 사용하기 때문에, word2vec 방식에 비하여 구문적 부분에서는 강점이 있고, 의미적 부분에서는 약점이 있다. 이 논문에서는 부속단어의 역문서빈도를 이용하여 FastText를 개선하는 방법을 제시하며, FastText가 가지고 있는 의미적 부분에서의 약점을 극복하고자 한다. 실험결과는 구문적 부분에서의 손실이 거의 없이 의미적부분에서 개선이 있었음을 보여준다. 또한 이 방법은 부속단어를 이용한 워드 임베딩에 모두 적용할 수 있다. 중의어를 구별하여 워드 임베딩하기 위해 고안된 확률적 FastText에도 역문서 빈도를 적용 실험하고, 결과를 통해 성능이 향상되었음을 확인하고자 한다.
Abstract
Word Embedding is important in natural language processing, and word2vec is known as a representative algorithm. Word2vec and many other dictionary based word-imbedding algorithms have limitations in creating word vectors only for words used in learning, because they does not use the words’ morphological feature. FastText is a proposed algorithm to solve this problem, word embedding in a combination of sub-words, thus creating a word vector for words that have never been used in learning. Because FastText uses morphological features, it has strengths in syntactic and weekness in semantic compared to word2vec. In this paper, the method of improving FastText is presented by using the inverse document frequency of the subword, and was intended to overcome the weakness in the semantic part of FastText. The results of the experiment show that there has been improvement in semantic tests with little loss in syntactic tests. this method can be applied to any word embedding algorithms using subwords. The probabilistic FastText designed to distinguish multi-sense words and was also tested with the inverse document frequency, and the results confirmed that the performance is improved.
참고문헌 (13)
- Tomas Mikolov, "Efficient Estimation of word representations in vetor space", arXiv preprint arXiv:1301.3781, ~ (2013)
- Piotr Bojanowski, "Enriching word vectors with subword information", CoRR abs, 2016
- Elia Bruni, "Multimodal distributional semantics", J. Artif. Int. Res, 49(1), pp.1~47 (2014)
- KeBin Peng, "Evaluation method of word embedding by roots and affixes", arXiv preprint arXiv : 1606. 0760, ~ (2016)
- Ben Athiwaratkun, "Probabilistic FastText for Multi-Sense Word Embedding", Proceedings of the 56th Annual meeting of the association for computational linguistics (2018)
- Felix Hill, "Simlex-999: Evaluating semantic models with (genuine) similarity estimation", CoRR abs, 2014
- Dongqian Yang, "Verb similarity on the taxonomy of wordnet", 3rd International Word Net conference (GWC06) (2006)
- Jeffery pennington, "GloVe : Global vectors for word representatin", EMNLP, 14, pp.1532~1543 (2014)
- Shenjian Zaho, "An efficient character-level neural machine translation", CoRR abs, 2016
- Onur Kuru, "Charner: Character-level named entity recognition", COLING 2016, 26th International Conference on Computational Linguistics, Proceedings of the Conference, pp.911~921 (2016)
- FeiTian, "A probailistic model for learning multi-prototype word embeddings", COLING 2014, 25th international Conference on Computational Linguistic Proceedings of the Conference, pp.151~160 (2014)
- Ben Athiwaratkun, "Multimodal word distributions", ACL (2017)
- George A. Miller, "Contextual correlates of semantic similarity", Language and Cognitive Processes, 6(1), pp.1~28 (1991), Informa UK Limited[DOI]