생성형 인공지능 기반의 데이터 증강을 통한 소규모 감성 분석 모델의 성능 개선
Improving Small-scale Sentiment Analysis through Data Augmentation using Generative Artificial Intelligence
0
조회
0
다운로드
1
인용
0
참고문헌
키워드
초록
감성 분석은 정보과학의 영역을 넘어 인문학이나 사회과학에서도 중요한 연구 도구로 사용되고 있다. 이러한 분야에서는 대규모 데이터를 확보하는 것이 연구의 어려움으로 종종 나타난다. 최근 주목을 받는 생성형 인공지능은 의미적으로 유사한 문장을 생성하여 데이터 부족 문제 해결에 대한 기회를 제공한다. 본 논문에서는 생성형 인공지능을 이용하여 데이터를 증강하고 이를 통해 감성 분석의 정확도를 개선할 수 있음을 보였다. 프롬프트를 비교하여 분류와 예시를 제공하는 형태가 우수한 증강효과를 나타낸다는 것을 보였고, 이를 통해 증강된 모델은 기존에 비하여 평균 22%, 최고 74%의 성능 향상을 보였다. 본 논문의 결과는 대규모 데이터 수집이 어려운 소규모 감성 분석 연구에 유용할 것으로 기대된다.
Abstract
Sentiment analysis has been used as an important research tool not only in information science but also in humanity and social science. In such fields, research is often hampered by the difficulty of collecting large-scale data. Recent generative artificial intelligence provides an opportunity to overcome this difficulty by generating sentences with similar sentiments. In this paper, we showed that generative artificial intelligence could generate proper supporting data and improve the classification performance of sentiment analysis models. Prompts with classes and examples showed the superior data augmentation, and the consequent augmented models had on average 22% and maximally 75% improvements on the prediction accuracy. The results of this study are expected to be useful for small-scale sentiment analysis where collecting large-scale data is not likely to be easily performed.
참고문헌 (21)
- M. Harper, "The MovieLens Datasets : History and Context", ACM Transactions on Interactive Intelligent Systems, 5(4), pp.1~19 (2015)
- K. Lang, "Newsweeder: Learning to filter netnews", ICML (1995)
- 김재헌, "감성 분석을 위한 FinBERT 미세 조정: 데이터 세트와 하이퍼파라미터의 효과성 탐구", 인터넷정보학회논문지, 24(4), pp.127~135 (2023), 한국인터넷정보학회
- R. Socher, "Recursive Deep Models for Semantic Compositionality Over a Sentiment Treebank", EMNLP (2013)
- S. Larson, "An Evaluation Dataset for Intent Classification and Out-of-Scope Prediction", IJCNLP (2019)
- J. Devlin, "BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding", NAACL (2019)
- A. Radford, "Improving Language Understanding by Generative Pre-Training", ~ (2018)
- I. Goodfellow, "Generative Adversarial Networks", NIPS (2014)
- R. Sennrich, "Neural Machine Translation of Rare Words with Subword Units", ACL (2016)
- T. Mikolov, "Efficient Estimation of Word Representations in Vector Space", ICLR (2013)
- I. Sutskever, "Sequence to Sequence Learning with Neural Networks", NIPS (2014)
- A. Vaswani, "Attention Is All You Need", NIPS (2017)
- T. Brown, "Language Models are Few-Shot Learners" (2020)
- E. Saravia, "CARER: Contextualized Affect Representations for Emotion Recognition", EMNLP (2018)
- T. Wolf, "Transformers: State-of-the-Art Natural Language Processing", EMNLP (2020)
- V. Sanh, "DistilBERT, a distilled version of BERT: smaller, faster, cheaper and lighter", NeurIPS (2019)
- G. Hinton, "Distilling the Knowledge in a Neural Network", NIPS (2014)