프롬프트 기반 학습의 성능 향상을 위한 의미 기반 프롬프트 선택 방법론
Context-Based Prompt Selection Methodology to Enhance Performance in Prompt-Based Learning
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
최근 딥러닝 분야가 빠르게 발전하는 가운데, 다양한 영역에서 거대 언어 모델을 활용하기 위한 많은 연구들이 진행되고 있다. 하지만 언어 모델의 개발 및 활용을 위해서는 방대한 데이터와고성능 자원이 필요하다는 현실적인 어려움이 존재한다. 이에 따라 프롬프트를 활용하여 언어 모델을 효율적으로 학습할 수 있는 문맥 내 학습이 등장하였지만, 학습에 효과적인 프롬프트가 무엇인지에 대한 명확한 기준은 구체적으로 제시되지 않았다. 이에 본 연구에서는 문맥 내 학습 방법 중 하나인 PET 기법을 활용하여 기존 데이터의 문맥과 유사한 PVP를 선정하고, 이를 통해 생성한 프롬프트를 학습하여 모델의 성능을 향상시킬 수 있는 프롬프트 기반 학습 성능 향상 방법론을 제안한다. 제안 방법론의 성능 평가를 위해 온라인 비즈니스 리뷰 플랫폼인 Yelp에서 수집된레스토랑 리뷰 데이터 30,100개로 실험을 수행한 결과, 제안 방법론이 기존의 PET 방법론에 비해정확도와 안정성, 그리고 학습 효율성의 모든 측면에서 우수한 성능을 보임을 확인하였다.
Abstract
Deep learning has been developing rapidly in recent years, with many researchers working to utilize large language models in various domains. However, there are practical difficulties that developing and utilizing language models require massive data and high-performance computing resources. Therefore, in-context learning, which utilizes prompts to learn efficiently, has been introduced, but there needs to be clear criteria for effective prompts for learning. In this study, we propose a methodology for enhancing prompt-based learning performance by improving the PET technique, which is one of the contextual learning methods, to select PVPs that are similar to the context of existing data. To evaluate the performance of the proposed methodology, we conducted experiments with 30,100 restaurant review datasets collected from Yelp, an online business review platform. We found that the proposed methodology outperforms traditional PET in all aspects of accuracy, stability, and learning efficiency.
참고문헌 (42)
- A. Radford, "Language Models are Unsupervised Multitask Learners", OpenAI blog, 1(8), pp.9~ (2019)
- A. Radford, "Improving Language Understanding by Generative Pre-Training", ~ (2018)
- J. Lee, "BioBERT: a pre-trained biomedical language representation model for biomedical text mining", Bioinformatics, 36(4), pp.1234~1240 (2019), Oxford University Press (OUP)[DOI]
- F. Pourpanah, "A Review of Generalized Zero-Shot Learning Methods", IEEE Transactions on Pattern Analysis and Machine Intelligence. Institute of Electrical and Electronics Engineers(IEEE), pp.1~20 (2022)[DOI]
- G. Koch, "Siamese neural networks for one-shot image recognition", ~ (2015)
- Y. Wang, "Generalizing from a Few Examples", ACM Computing Surveys, 53(3), pp.1~34 (2020), Association for Computing Machinery (ACM)[DOI]
- J. Pennington, "Glove : Global Vectors for Word Representation", Proceedings of the 2014Conference on Empirical Methods in Natural Language Processing (EMNLP). Association for Computational Linguistics (2014)