딥러닝 기반의 BERT 모델을 활용한 학술 문헌 자동분류
Automatic Classification of Academic Articles Using BERT Model Based on Deep Learning
1
조회
0
다운로드
14
인용
0
참고문헌
키워드
초록
본 연구에서는 한국어 데이터로 학습된 BERT 모델을 기반으로 문헌정보학 분야의 문서를 자동으로 분류하여 성능을 분석하였다. 이를 위해 문헌정보학 분야의 7개 학술지의 5,357개 논문의 초록 데이터를 학습된 데이터의 크기에 따라서 자동분류의 성능에 어떠한 차이가 있는지를 분석, 평가하였다. 성능 평가척도는 정확률(Precision), 재현율(Recall), F 척도를 사용하였다. 평가결과 데이터의 양이 많고 품질이 높은 주제 분야들은 F 척도가 90% 이상으로 높은 수준의 성능을 보였다. 반면에 데이터 품질이 낮고 내용적으로 다른 주제 분야들과 유사도가 높고 주제적으로 확실히 구별되는 자질이 적을 경우 유의미한 높은 수준의 성능 평가가 도출되지 못하였다. 이러한 연구는 미래 학술 문헌에서 지속적으로 활용할 수 있는 사전학습모델의 활용 가능성을 제시하기 위한 기초자료로 활용될 수 있을 것으로 기대한다.
Abstract
In this study, we analyzed the performance of the BERT-based document classification model by automatically classifying documents in the field of library and information science based on the KoBERT. For this purpose, abstract data of 5,357 papers in 7 journals in the field of library and information science were analyzed and evaluated for any difference in the performance of automatic classification according to the size of the learned data. As performance evaluation scales, precision, recall, and F scale were used. As a result of the evaluation, subject areas with large amounts of data and high quality showed a high level of performance with an F scale of 90% or more. On the other hand, if the data quality was low, the similarity with other subject areas was high, and there were few features that were clearly distinguished thematically, a meaningful high-level performance evaluation could not be derived. This study is expected to be used as basic data to suggest the possibility of using a pre-trained learning model to automatically classify the academic documents.
참고문헌 (25)
- 김판준, "기계학습에 기초한 자동분류의 성능 요소에 관한 연구", 정보관리학회지, 33(2), pp.33~59 (2016), 한국정보관리학회[DOI]
- 김판준, "기계학습에 기초한 국내 학술지 논문의 자동분류에 관한 연구", 정보관리학회지, 35(2), pp.37~62 (2018), 한국정보관리학회[DOI]
- 김판준, "랜덤포레스트를 이용한 국내 학술지 논문의 자동분류에 관한 연구", 정보관리학회지, 36(2), pp.57~77 (2019), 한국정보관리학회[DOI]
- 김해찬솔, "기계학습을 이용한 기록 텍스트 자동분류 사례 연구", 정보관리학회지, 34(4), pp.321~344 (2017), 한국정보관리학회[DOI]
- 박규훤, "KoBERT를 사용한 한국어 일상 주제 분류", 2021년 한국컴퓨터종합학술대회논문집, pp.1735~1737 (2021)
- 배성호, "국내 군사학 학술논문의 주제 분류를 위한 잠재토픽 모델링", 한국군사학논집, 76(2), pp.181~216 (2020), 화랑대연구소[DOI]
- 성소윤, "트랜스포머를 이용한 향상된 댓글 생성에 관한 연구", 한국게임학회 논문지, 19(5), pp.103~114 (2019), 한국게임학회
- 송의석, "사전학습 언어 모델을 활용한 트랜스포머 기반 텍스트 요약", 경영과 정보연구, 40(4), pp.31~47 (2021), 대한경영정보학회[DOI]
- 심재권, "BERT를 활용한 초등학교 고학년의 욕설문장 자동 분류방안 연구", 창의정보문화연구, 7(2), pp.91~98 (2021), 한국창의정보문화학회[DOI]
- 육지희, "토픽모델링과 딥 러닝을 활용한 생의학 문헌 자동 분류 기법 연구", 정보관리학회지, 35(2), pp.63~88 (2018), 한국정보관리학회[DOI]
- 윤희승, "효율적인 트랜스포머를 이용한 팩트체크 자동화 모델", 한국정보통신학회논문지, 25(9), pp.1275~1278 (2021), 한국정보통신학회[DOI]
- 이상우, "전자파 인체영향 연구논문에 대한 연구형태 자동분류 연구", 한국전자파학회 논문지, 31(10), pp.839~842 (2020), 한국전자파학회[DOI]
- 이수빈, "딥러닝 자동 분류 모델을 위한 공황장애 소셜미디어 코퍼스 구축 및 분석", 정보관리학회지, 38(2), pp.153~172 (2021), 한국정보관리학회[DOI]
- 이치훈, "사전 학습된 한국어 BERT의 전이학습을 통한 한국어 기계독해 성능개선에 관한 연구", 한국IT서비스학회지, 19(5), pp.83~91 (2020), 한국IT서비스학회[DOI]
- 최용석, "트랜스포머와 BERT로 구현한 한국어 형태소 분석기의 성능 분석", 정보과학회논문지, 47(8), pp.730~741 (2020), 한국정보과학회[DOI]
- 최윤수, "기술용어 분산표현을 활용한 특허문헌 분류에 관한 연구", 한국문헌정보학회지, 53(2), pp.179~199 (2019), 한국문헌정보학회[DOI]
- "학술연구분야분류표" (2016), 한국연구재단[URL]
- "KorBERT" (2019), 한국전자통신연구원[URL]
- 황상흠, "한국어 기술문서 분석을 위한 BERT 기반의 분류모델", 한국전자거래학회지, 25(1), pp.203~214 (2020), 한국전자거래학회[DOI]
- Asim, M. N., "Benchmarking performance of machine and deep learning-based methodologies for Urdu text document classifiation", Neural Computing and Applications, 33, pp.5437~5469 (2021)[DOI]
- "BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding" (2018)[URL]
- El-Alami, F., "Contextual semantic embeddings based on fine-tuned AraBERT model for Arabic text multi-class categorization", Journal of King Saud University-Computer and Information Sciences, 2021, pp.1~7 (2021)[DOI]
- Hikmah, A., "The best parameter tuning on RNN layers for inonesian text classification", Proceedings 2020 3rd International Seminar on Research of Information Technology and Intelligent Systems, pp.94~99 (2020)
- Okur, H. I., "Pretrained neural models for turkish text classification", Proceeding of 2021 6th International Conference on Computer Science and Engineering, pp.174~179 (2021)
- "Deep Contextualized Word Representations" (2018)[URL]