챗GPT 관련 논문 요약문에 나타난 다단어 표현과 두문자어의 분석 및 임베딩 연구
Analyzing and Embedding Multi-Word Expressions and Acronyms in ChatGPT-related Paper Abstracts
2
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
본 연구는 컴퓨터 언어학(Computational Linguistics) 분야에서, 텍스트 의미를 명확히 하고 논문의 내용을 효과적으로 전달하는 데 중요한 역할을 하는 다단어 표현(Multi-Word Expressions, MWEs)이 대규모 언어 모델(LLMs) 내에서 어떻게 워드 임베딩으로 표현되며, 문맥 속에서 어떻게 활용되는지를 탐구한다. 구체적으로는, 과학 논문에 대한 구 마이닝(phrase mining)을 통해 MWEs를 식별하고, 관련 약어(acronyms)를 추출하며, MWE 임베딩을 활용하여 기술 용어의 언어적·의미적 특성을 분석한다. 이를 위해 ChatGPT를 주제로 한 최신 국제 학술 논문 41,230편의 초록을 수집하여, 이 초록들에 포함된 MWEs를 추출하고 분석한다. 본 연구는 MWEs 임베딩의 자연어 처리(NLP) 과제에서의 활용 가능성을 확장하는 것을 목표로 한다. 궁극적으로는 자연어 처리 기술과 생성형 AI 시스템의 통합 과정을 심층적으로 이해하고자 한다.
Abstract
In the field of computational linguistics, this study aims to investigate how multi-word expressions, which play an important role in disambiguating text meaning and effectively communicating a paper's content, are represented as word embeddings in large-scale language models (LLMs) and utilized in context. Additionally, we identify multi-word expressions (MWEs) through phrase mining in scientific papers, extract acronyms, and analyze the characteristics of technical terms using MWE word embeddings. To achieve this, this study collects 41,230 abstracts from recent international academic papers related to ChatGPT, extracts and analyzes the multi-word expressions present in these abstracts, extends the application of word embeddings for multi-word expressions in natural language processing, and seeks to understand the process of integrating natural language processing technology with the workings of generative AI.