AI 모델의 윤리적 응답 특성 연구와 국방 분야 활용 전략
A Study on Ethical Response Characteristics of AI Models and Their Strategic Applications in the Defense Sector
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
본 연구는 언어모델이 윤리 판단 상황에서 생성하는 응답의 표현 구조와 판단논리를 분석하고, 그 결과가 국방 분야의 응용에 미치는 함의를 도출하는 것을목적으로 한다. 분석 대상은 GPT-4.0, DeepSeek-v3, Xwin-LM-7B 기본 모델과Xwin-LM-7B SFT 학습을 진행한 모델이며, 의료 자원 분배, 트롤리 딜레마 상황, 로봇 임무 판단 세 가지 유형의 시나리오를 설계하여 적용하였으며, 900개 문항에대해 각 모델이 생성한 응답을 결과주의, 의무론, 덕 윤리의 관점에서 분류하고, 정량 평가를 통해 응답 경향을 파악하였다. 실험 결과 SFT 정렬을 진행한 모델은표현의 구조와 키워드 활용 면에서 윤리적 설득력을 높이는 경향을 보였으나, 정렬되지 않은 기본 Xwin 모델은 판단 회피 응답이나 맥락 미반영 응답을 보이는비율이 높았다. 응답의 평가에는 보상모델을 활용하였으나, 자체 구축한 보상모델은표현 구조에 민감하게 반응하는 경향이 존재하였다. 이러한 연구와 분석은 AI 모델의 정렬 상태를 통해 국방 무기체계 등 보안과 직결된 AI 활용 상황에서 설명가능성과 책임성을 확보하고, 나아가 국방 분야의 응용 가능성 제시에 의의가 있다.
Abstract
This study investigates the ethical response characteristics and expression patterns of large and small language models with varying levels of alignment, focusing on their strategic applicability in defense and security domains. Four models—GPT-4.0, DeepSeek-v3, Xwin-LM-7B(Base), and Xwin-LM-7B(SFT)—were evaluated using 900 scenarios across medical triage, trolley dilemmas, and autonomous mission settings. Each response was assessed using a reward model and categorized into consequentialist, deontological, or virtue ethics perspectives. The results indicate that models with supervised fine-tuning (SFT) showed enhanced diversity, empathy, and ethical expressiveness. Rather than alignment alone, clarity of reasoning and moral justification had a greater impact on evaluation. This study offers practical insights for designing AI systems capable of reliable ethical decision-making in military and security contexts.