Lightweight DS-RAG: 엣지 디바이스 환경의 다중 문서 질의응답을 위한 비학습 기반 RAG 프레임워크
Lightweight DS-RAG: A Training-Free RAG Framework for Multi-Document QA on Edge Devices
2
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
정확한 응답 생성을 위해 다양한 문서로부터 필요한 정보를 추출하고 통합해야 하는 다중 문서기반 질문 응답(Multi-document QA)은 실제 환경에서의 질문 응답 시스템에 필수적인 요소이다. 이러한 실제 다중 문서 기반 질문 응답에 최적화된 DS-RAG (Dynamic-Selection-based Retrieval-Augmented Generation) 프레임워크는 질문 분해와 검색 과정을 거친 후, 문서 선택(selection) 모듈을 통해 응답 생성에 필요한 핵심 문서만을 선별함으로써 전체 시스템의 정확도와효율성을 향상시킨다. 그러나 선택 모듈은 별도의 학습 과정과 연산 자원을 요구하기 때문에, 자원이 제한된 환경에는 적용이 어렵다는 한계가 존재한다. 따라서 본 연구는 별도의 선택 모듈 없이도 질문 내 중요도를 반영한 질의 생성을 통해 검색 단계에서 선택 효과를 유도하는Lightweight DS-RAG 프레임워크를 제안한다. 제안된 방식은 질문 내 핵심 정보를 식별하고, 중요도 기반 질의를 생성하여 주요 정보에 집중된 검색이 가능하도록 설계되었다. 이를 통해 높은 검색 정확도를 유지하면서도 연산 부담을 크게 절감할 수 있으며, 별도의 도메인 특화 학습 없이도다양한 환경에서 실용적으로 활용될 수 있다. 실험 결과, Lightweight DS-RAG 프레임워크는F1-score 기준으로 기존 DS-RAG 대비 95% 수준의 검색 성능을 달성하였으며, 선택 모듈이 없는RAG 대비 평균 67.5% 향상된 성능을 보였다. 이는 별도의 선택 모듈이나 추가 학습 없이도 높은정답 포함률을 유지할 수 있음을 실험적으로 입증하며, 자원 제약 환경에서 실용적인 대안으로서의 가능성을 보여준다.
Abstract
Multi-document Question Answering (Multi-document QA) is an essential component of question answering systems in real-world environments. It requires extracting and integrating the necessary information from multiple documents to generate accurate responses. The DS-RAG framework is optimized for real-world multi-document QA tasks. It improves the system’s overall accuracy and efficiency by using a document selection module that selects only the core documents retrieved after question decomposition, which are necessary for response generation. However, this process requires additional computational resources and additional training, making it difficult to apply in resource-limited environments. To address this limitation, this study proposes a Lightweight DS-RAG framework that achieves selection effects through importance-weighted query generation, thereby eliminating the need for a separate selection module. The proposed approach identifies key information within a question and generates importance-weighted queries. This enables retrieval focused on the most relevant information while maintaining both efficiency and accuracy. This approach maintains high retrieval accuracy while significantly reducing computational overhead, and can be applied in resource-constrained environments without domain-specific training. Experimental results demonstrate that the Lightweight DS-RAG framework achieves 95% of the retrieval performance of the original DS-RAG, as measured by the F1-score. Additionally, it exhibited an average performance improvement of 67.5% over RAG without a selection module. These results demonstrate that a high level of accuracy can be maintained without a separate selection module or additional training, indicating that the Lightweight DS-RAG framework can serve as a practical alternative in resource-constrained environments.