언어모델과 공공부문 행정혁신: 개념, 접근법 및 고려 사항
Language Models and Administrative Innovation in the Public Sector: Concept, Approaches, and Considerations
1
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
정부의 비정형 데이터 제공 및 관리 체계가 확립되면서 언어모델을 활용한 공공부문 행정혁신 연구가 주목받고 있다. 하지만 언어모델을 활용할 필요가 있는 실효성 있는 문제의 발굴과 언어모델의 실질적 적용 방법에 대한 논의는 매우 미비한 실정이다. 본 연구는 언어모델에 대한 이해를 높이고 공공부문에서의 활용을 촉진하기 위한 목적으로 언어모델의 개념 및 접근법과 공공부문에서의 활용 사례를 소개하고, 언어모델 활용을 위한 주요 고려 사항을 제시한다. 먼저, 언어모델의 개념 및 접근법과 초거대 언어모델을 중심으로 최근 연구 동향을 설명한다. 다음으로, 과학기술 분야에 초점을 맞춰 공공부문에서의 언어모델 활용 사례를 소개한다. 마지막으로, 언어모델을 활용할 때 고려해야 하는 사항을 품질 제고 및 활용 영역 확장 관점에서 제시한다. 본 연구가 언어모델을 활용한 공공부문 행정혁신 연구에만 국한되는 것이 아니라, 행정학 및 정책학 분야에서 활용하는 텍스트 데이터 분석 방법론의 고도화와 다각화에 기여할 수 있기를 기대한다.
Abstract
With the establishment of a framework for managing unstructured data in the public sector, research on administrative innovation through language models is gaining attention. However, there is a lack of discussion regarding significant problems that necessitate the use of language models, as well as potentially applicable methods. This study aims to bridge this gap by delineating the concept and approaches of language models and presenting key considerations for their deployment in the public sector. Initially, we elucidate the concept and approaches of language models, focusing on recent research trends centered around large language models. Subsequently, we present examples of language model applications in the public sector, with a particular emphasis on the science and technology sectors. Lastly, we explore considerations for their deployment from the perspectives of quality improvement and the expansion of application areas. This study is expected to not only stimulate research on administrative innovation in the public sector through the use of language models, but also enhance and diversify text analysis methods employed in the fields of public administration and policy studies.
참고문헌 (66)
- 이창용, "인공지능의 개념 및 공공부문 활용 사례: 주요 접근법 소개 및 향후 연구 방향에 대한 제언", 한국행정학보, 57(3), pp.395~425 (2023)
- 공공부문 거대언어모델(LLM) 오픈소스 활용방안, "한국지능정보사회진흥원", ~ (2023)
- 지정상품간 유사도 측정 방법론 개발, "한국지식재산연구원", ~ (2023)
- 공공분야 인공지능 도입을 위한 실무자 안내서, "행정안전부", ~ (2021)
- Choi, Jaewoong, "Quantitative Topic Analysis Of Materials Science Literature Using Natural Language Processing", ACS Applied Materials & Interfaces, 16(2), pp.1957~1968 (2024)
- Engstrom, David Freeman, "Government By Algorithm: Artificial Intelligence In Federal Administrative Agencies", SSRN Electronic Journal (2020)
- Harris, Sarah L., "Digital Design And Computer Architecture", pp.2016, Elsevier
- Harris, Zellig S., "Distributional Structure", WORD, 101(2–3), pp.146~162 (1954)
- Hochreiter, Sepp, "Long Short-Term Memory", Neural Computation, 9, pp.1735~1780 (1997)
- Hong, Suckwon, "Screening Ideas In The Early Stages Of Technology Development: A Word2vec And Convolutional Neural Network Approach", Technovation, 112, pp.102407~ (2022)
- Jelinek, F., "Perplexity—A Measure Of The Difficulty Of Speech Recognition Tasks", The Journal of the Acoustical Society of America, 62(S1), pp.S63~S63 (1977)
- Lee, Gyumin, "Invent or–Licensee Matchmaking For University Technology Licensing: A fastText Approach", Technovation, 125, pp.102765~ (2023)
- Lee, Seunghyun, "A Social Media Mining Approach For Monitoring Customer Complaints In The Early Stage Of Product Launch", Journal of the Korean Institute of Industrial Engineers, 47(3), pp.289~301 (2021)
- Leskovec, Jurij, "Mining Of Massive Datasets" (2014), Cambridge University Press
- Lin, Chin-Yew, "Rouge: A Package For Autmoatic Evaluatoin Of Summaries", Proceedings of the Workshop on Text Summarization Branches Out, pp.74~81 (2004), Association for Computational Linguistics
- McInnes, Leland, "Hdbscan: Hierarchical Density Based Clustering", The Journal of Open Source Software, 2(11), pp.205~ (2017)
- Papineni, Kishore, "BLEU: A Method For Automatic Evaluation Of Machine Translation", Proceedings of the 40th Annual Meeting on Association for Computational Linguistics - ACL’02, pp.311~ (2001), Association for Computational Linguistics
- Pennington, Jeffrey, "Glove: Global Vectors For Word Representation", Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing (EMNLP), pp.1532~1543 (2014), Association for Computational Linguistics
- Improving Language Understanding By Generative Pre-Training, "Radford, Alec", ~ (2018)
- Taori, Rohan, "Stanford Alpaca: An Instruction-Following LLaMA Model", GitHub Repository, GitHub, ~ (2023)