경량화 LLM 기반 시큐어 코딩 지원
Compressed LLM-Based Secure Coding Support
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
IT 산업에서 보안의 중요성이 증가함에 따라, 시큐어 코딩은 필수적이다. 하지만 소규모 기업에서는 전문 보안 인력 부족으로 시큐어 코딩 가이드를충실히 반영하지 못할 수 있다. 본 연구는 경량 LLM(Large LanguageModel) 기반의 시큐어 코딩 지원 기법을 제안하여 저비용으로 시큐어 코딩가이드를 반영할 수 있도록 한다. 제안 기법은 오픈소스 모델을 활용하여보안 데이터 세트로 도메인 특화 학습을 수행하고, LoRA(Low-RankAdaptation) 기법을 적용하여 단일 GPU 환경에서도 효율적인 학습이 가능하도록 최적화하였다. 또한, BF16 변환 및 8bit GGUF 양자화를 통해 경량화하여 일반적인 컴퓨팅 환경에서도 구동할 수 있도록 설계하였다. 실험을통해 제안 모델이 보안 취약점을 검출하고 개선 코드를 제공하는 기능을수행하는지 평가하였으며, F1 스코어, BLEU 스코어 등의 평가지표에서 기반모델보다 우수함을 보였다.
Abstract
As the importance of security in the IT industry continues to grow,secure coding has become essential. However, small-scale enterprisesoften struggle to fully implement secure coding guidelines due to a lackof specialized security personnel. This study proposes a compressedLarge Language Model (LLM)-based approach to support securecoding, enabling cost-effective adoption of secure coding guidelines. The proposed method leverages an open-source model fine-tuned ona security dataset for domain-specific learning and applies theLow-Rank Adaptation (LoRA) technique to optimize training efficiencyin a single GPU environment. Additionally, it incorporates BF16transformation and 8-bit GGUF quantization to reduce model size,ensuring operability in standard computing environments. Throughexperiments, we evaluated the proposed model’s ability to detectsecurity vulnerabilities and generate improved code suggestions. Theresults demonstrate superior performance over the baseline model inkey evaluation metrics, including F1 score and BLEU score.