국내 기업을 위한 RAG 구조 기반 질의응답시스템 설계
Design of a Question-Answering System based on RAG Model for Domestic Companies
1
조회
0
다운로드
2
인용
0
참고문헌
키워드
초록
생성형 AI 시장의 급속한 성장과 국내 기업과 기관의 큰 관심에도 불구하고, 부정확한 정보제공과 정보유출의 우려가 생성형 AI 도입을 저해하는 주된 요인으로 나타났다. 이를 개선하기 위해 본논문에서는 검색-증강 생성(Retrieval-Augmented Generation, RAG) 구조 기반의 질의응답시스템을 설계·구현하였다. 제안 방법은 한국어 문장 임베딩을 사용해 지식 데이터베이스를 구축하고, 최적화된 검색으로 질문 관련 정보를 찾아 생성형 언어 모델에게 제공된다. 또한, 이용자가 지식 데이터베이스를 직접 관리하여 변경되는 업무 정보를 효율적으로 업데이트하도록 하고, 시스템이 폐쇄망에서 동작할 수 있도록 설계하여 기업의 기밀 정보의 유출 가능성을 낮추었다. 국내 기업 등 조직에서 생성형 AI를 도입하고 활용하고자 할 때 본 연구가 유용한 참고자료가 되길 기대한다.
Abstract
Despite the rapid growth of the generative AI market and significant interest from domestic companies and institutions, concerns about the provision of inaccurate information and potential information leaks have emerged as major factors hindering the adoption of generative AI. To address these issues, this paper designs and implements a question-answering system based on the Retrieval-Augmented Generation (RAG) architecture. The proposed method constructs a knowledge database using Korean sentence embeddings and retrieves information relevant to queries through optimized searches, which is then provided to the generative language model. Additionally, it allows users to directly manage the knowledge database to efficiently update changing business information, and it is designed to operate in a private network to reduce the risk of corporate confidential information leakage. This study aims to serve as a useful reference for domestic companies seeking to adopt and utilize generative AI.
참고문헌 (16)
- "Generative AI to Become a $1.3 Trillion Market by 2032"[URL]
- "Current Status of Enterprise and Institutional Generative AI Usage"[URL]
- "Survey on Government Sector Generative AI Chatbot Usage and Prospects: Awareness of Public Officials"[URL]
- "Prevent Confidential Information Leakage... Samsung, LG, SK Take Caution against ChatGPT"[URL]
- "Security Guidelines for Generative AI Usage Including ChatGPT"[URL]
- P. Lewis, "Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks", Proceedings of the 34th International Conference on NIPS 2020, pp.9459~9474 (2020)
- N. Reimers, "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks", Proceedings of the EMNLP 2019 (2019)
- "Open Ko-LLM Leaderboard"[URL]
- "Six strategies for getting better results"[URL]
- "ko-sroberta-multitask"[URL]
- J. Ham, "KorNLI and KorSTS: New Benchmark Datasets for Korean Natural Language Understanding", Findings of the Association for Computational Linguistics: EMNLP 2020, pp.422~430 (2020)
- "MongoDB"[URL]
- "Chroma DB"[URL]
- S. W. Kim, "Deep Learning Based Semantic Similarity for Korean Legal Field", KIPS Transactions on Software and Data Engineering, 11(2), pp.93~100 (2022)[DOI]
- S. E. Robertson, "Some Simple Effective Approximations to the 2-Poisson Model for Probabilistic Weighted Retrieval", Proceedings of the 17th Annual International ACM-SIGIR Conference, pp.232~241 (1994)
- "Elements of a Prompt"[URL]