Word2Vec을 이용한 사용자기반 협업필터링의 예측 정확도 개선
Improving Predictive Accuracy of User-based Collaborative Filtering Using Word2Vec
2
조회
0
다운로드
12
인용
0
참고문헌
키워드
초록
Word2Vec은 최근 텍스트 마이닝에서 가장 활발하게 사용되고 있는 방법이다. 텍스트 문장내의 단어 간의 연관성을 파악하여 문장의 단어를 벡터로 변환한다. 벡터 공간에서 유사한 단어일수록 가까이 위치하게 된다. 추천 알고리즘의 예측 정확도를 높이는 것은 상품추천시스템 영역에서 주요 과제 중 하나이다. 사용자 기반 협업필터링은 선호도 유사성이 높은 이웃사용자의 상품 선호 정보를 이용하여 상품을 추천한다. 본 연구에서는 사용자기반 협업필터링 방식의 예측 정확도를 높이기 위해서 기존의 상품 정보를 이용하여 사용자 유사도를 계산하는 대신 Word2Vec의 사용자 벡터를 이용하여 사용자 유사도를 계산하는 방법에 대해 제안하였다. Word2Vec을 사용하기 위해서는 먼저 문장을 구분하고 문장내의 의미 있는 단어의 조합인 말뭉치를 찾아낸다. 사용자기반 영화추천방식에서 Word2Vec을 사용하기 위해서는, 먼저 동일 영화를 본 사용자 조합을 구하여 사용자를 단어로, 개별 영화의 사용자 조합을 문장의 말뭉치로 대체한다. 이때 문장을 구성하는 방안에 여러 가지가 있다. 개별 영화 당 하나의 문장을 구성하는 방안과 개별 영화당 여러 개의 문장을 구성하는 문장 확장 방안이 있다. 문장의 말뭉치를 입력으로 받아 Word2Vec으로 사용자 벡터를 구하면, 사용자 벡터의 상관관계로 사용자의 유사도를 구한다. 이를 이용하여 사용자기반 협업필터링으로 상품 추천을 한다. 제안한 방안의 검증을 위해 filmtrust 데이터에 적용하여 실험하였다. 10-겹 상호검증을 3회 실시한 결과 Word2Vec을 활용한 사용자기반 협업필터링 방식이 예측 정확도를 크게 개선시킴을 알 수 있었다. 또한 중간 이상의 평점을 부여한 사용자만을 대상으로 하여 개별 영화당 여러 개의 문장으로 확장하는 문장 확장 방식(wvCFthree)이 개별 문장 방식(wvCF3.0)에 비해 예측 정확도를 높임을 실험결과 알 수 있었다. 통계적 유의성을 검정하기 위해 uCF와 wvCF3.0, wvCF3.0과 wvCFthree에 대한 쌍체 t-검정을 실시한 결과 통계적으로 유의함을 확인하였다.
Abstract
Word2Vec is a most popular method in text mining area, recently. It converts words to vectors using association among words in sentences. Similar words are nearly located in the vector space. Improving predictive accuracy of recommender algorithms is a major work in the area of recommender systems. User-based collaborative filtering recommends products using the information about product preference of Neighbors. This study proposed a method to compute user similarity using vectors of users by Word2Vec instead of using traditional method. In order to use Word2Vec, we separate sentences first, and then find corpus that is meaningful word set of the sentences. For using Word2Vec in user-based movie recommender, we find users that have seen same movies first, we substitute an user to a word and user list of a movie to corpus of one sentence. There can be several methods to compose the sentences in recommender systems. This study considers two methods, first method constructs a sentence per movie and second method can construct several sentences per movie. After sentence construction, it enters corpus of sentences into Word2Vec and computes vectors of users, and then computes user similarity by coefficient corelation method using the vectors of users. Using the similarity, it recommends products by user-based collaborative filtering. To validate, the proposed methods were applied to filmtrust dataset. The experimental results of repeating 10-fold cross validation three times showed that mean MAE of user-based collaborative filtering(wvCF3.0) applying Word2Vec improved the predictive accuracy greatly than that of conventional collaborative filtering method(uCF). Also, it showed that the sentence expansion method(wvCFthree) constructing several sentences per movie is better than the one sentence method(wvCF3.0) constructing one sentence per movie for improving the predictive accuracy. To test statistical significance between uCF and wvCF3.0, and between wvCF3.0 and wvCFthree, we experimented paired t-test and confirmed the statistical significance.
참고문헌 (15)
- B. Sarwar, "Proceedings of the 10th International Conference on World Wide Web", Proceedings of the 10th International Conference on World Wide Web, pp.285~295 (2001)
- K. Goldberg, "EigenTaste: a constant time collaborative filtering algorithm", Information Retrieval, 4(2), pp.133~151 (2001)
- 강부식, "신뢰관계 기반 사회연결망의 구조적 공백을 활용한 추천 알고리즘의 예측 정확도 개선", 한국지식정보기술학회 논문지, 12(1), pp.209~217 (2017), 한국지식정보기술학회[DOI]
- 김정미, "Word2vec을 활용한 RNN기반의 문서 분류에 관한 연구", 한국지능시스템학회 논문지, 27(6), pp.560~565 (2017), 한국지능시스템학회
- 허찬, "Word2vec와 Label Propagation을 이용한 감성사전 구축 방법", 한국차세대컴퓨팅학회 논문지, 13(2), pp.93~101 (2017), 한국차세대컴퓨팅학회
- 김도우, "Doc2Vec과 Word2Vec을 활용한 Convolutional Neural Network 기반 한국어 신문 기사 분류", 정보과학회논문지, 44(7), pp.742~747 (2017), 한국정보과학회
- 김우주, "Word2vec을 활용한 문서의 의미 확장 검색방법", 한국콘텐츠학회 논문지, 16(10), pp.687~692 (2016), 한국콘텐츠학회[DOI]
- 안주영, "텍스트 마이닝을 이용한 감정 유발 요인 ‘Emotion Trigger’에 관한 연구", 지능정보연구, 21(2), pp.69~92 (2015), 한국지능정보시스템학회
- T. Mikolov, "Distributed representations of words and phrases and their compositionality", Advances in Neural Information Processing Systems, 26, pp.3111~3119 (2013)
- B. Oren, "Item2vec: neural item embedding for collaborative filtering", 2016IEEE 26th International Workshop on Machine Learning for Signal Processing, pp.1~6 (2016)
- V. Kuzmin, "Item2vec-based approach to a recommender system", pp.2017
- G. Guo, "A novel bayesian similarity measure for recommender systems", Proceedings of the 23th International Joint Conference on Artificial Intelligence, pp.2619~2625 (2013)
- J. Herlocker, "An algorithm framework for performing collaborative filtering", Proceedings of the 1999 Conference on Research and Development in Information Retrieval, pp.230~237 (1999)
- "Gensim" (2017)[URL]
- "Librec" (2016)[URL]