RNN모델에서 하이퍼파라미터 변화에 따른 정확도와 손실 성능 분석
Analysis of Accuracy and Loss Performance According to Hyperparameter in RNN Model
1
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
본 논문은 감성 분석에 사용되는 RNN 모델의 최적화를 얻기 위한 성능분석을 위하여 하이퍼파라미터 튜닝에 따른 손실과 정확도의 추이를 관찰하여 모델과의 상관관계를 연구하였다. 연구 방법으로는 시퀀셜데이터를 처리하는데 가장 최적화된 LSTM과 Embedding layer로 히든레이어를 구성한 후, LSTM의 Unit과 Batch Size, Embedding Size를 튜닝하여 각각의 모델에 대한 손실과 정확도를 측정하였다. 측정 결과, 손실은 41.9%, 정확도는 11.4%의 차이를 나타내었고, 최적화 모델의 변화추이는 지속적으로 안정적인 그래프를 보여 하이퍼파라미터의 튜닝이 모델에 지대한 영향을 미침을 확인하였다. 또한 3가지 하이퍼파라미터 중 Embedding Size의 결정이 모델에 가장 큰 영향을 미침을 확인하였다. 향후 이 연구를 지속적으로 이어나가 모델이 최적의 하이퍼파라미터를 직접 찾아낼 수 있는 알고리즘에 대한 연구를 지속적으로 이어나갈 것이다.
Abstract
In this paper, in order to obtain the optimization of the RNN model used for sentiment analysis, the correlation of each model was studied by observing the trend of loss and accuracy according to hyperparameter tuning. As a research method, after configuring the hidden layer with LSTM and the embedding layer that are most optimized to process sequential data, the loss and accuracy of each model were measured by tuning the unit, batch-size, and embedding size of the LSTM. As a result of the measurement, the loss was 41.9% and the accuracy was 11.4%, and the trend of the optimization model showed a consistently stable graph, confirming that the tuning of the hyperparameter had a profound effect on the model. In addition, it was confirmed that the decision of the embedding size among the three hyperparameters had the greatest influence on the model. In the future, this research will be continued, and research on an algorithm that allows the model to directly find the optimal hyperparameter will continue.
참고문헌 (17)
- 이권윤, "RNN을 이용한 범용 예측 시스템 구현", 한국정보기술학회논문지, 16(10), pp.11~20 (2018), 한국정보기술학회[DOI]
- 이태겸, "심층 신경망 기반 자연어처리 모델의 성능 비교", 한국통신학회논문지, 44(7), pp.1344~1350 (2019), 한국통신학회[DOI]
- 이창용, "엘만 순환 신경망을 사용한 전력 에너지 시계열의 예측 및 분석", 한국산업경영시스템학회지, 41(1), pp.84~93 (2018), 한국산업경영시스템학회[DOI]
- 김예슬, "작물분류에서 기계학습 및 딥러닝 알고리즘의 분류 성능 평가: 하이퍼파라미터와 훈련자료 크기의 영향 분석", 대한원격탐사학회지, 34(5), pp.811~827 (2018), 대한원격탐사학회[DOI]
- Ibrahim Aliyu, "LSTM Hyperparameter Optimization for an EEG-Based Efficient Emotion Classification in BCI", 한국전자통신학회 논문지, 14(6), pp.1171~1180 (2019), 한국전자통신학회[DOI]
- S. Karita, "A comparative study on transformer vs rnn in speech applications", 2019 IEEE Automatic Speech Recognition and Understanding Workshop (ASRU), pp.449~456 (2019), IEEE
- K. Rao, "Exploring architectures, data and units for streaming end-to-end speech recognition with rnn-transducer", 2017 IEEE Automatic Speech Recognition and Understanding Workshop (ASRU), pp.193~199 (2017), IEEE
- "Understanding LSTM Networks" (2015)[URL]
- X. Zhang, "A combination of RNN and CNN for attentionbased relation classification", Procedia computer science, 131, pp.911~917 (2018)
- C. Baziotis, "Datastories at semeval-2017 task 6:Siamese LSTM with attention for humorous text comparison", Proceedings of the 11th International Workshop on Semantic Evaluation (SemEval-2017), pp.390~395 (2017)
- D. A. Reddy, "Soft Computing and Signal Processing", pp.385~394 (2019), Springer
- Z. Li, "Slim embedding layers for recurrent neural language models", Proceedings of the AAAI Conference on Artificial Intelligence, 32(1) (2018)
- T. Mikolov, "Distributed representations of words and phrases and their compositionality", arXiv preprint arXiv:1310.4546, ~ (2013)
- N. Reimers, "Alternative weighting schemes for elmo embeddings", arXiv preprint arXiv:1904.02954, ~ (2019)
- I. Santos, "November). Sentiment analysis using convolutional neural network with fastText embeddings", 2017 IEEE Latin American Conference on Computational Intelligence (LA-CCI), pp.1~5 (2017), IEEE
- A. Tifrea, "Poincar\'e GloVe: Hyperbolic Word Embeddings", arXiv preprint arXiv:1810.06546, ~ (2018)
- S. Choi, "On Word Embedding Models and Parameters Optimized for Korean", Korean Language Information Science Society, pp.252~256 (2016)