강화학습 Q러닝 기반의 자율무기체계 통제 전략에 관한 고찰
Strategies for Controllable Autonomous Weapon Systems with Reinforcement Q Learning
0
조회
0
다운로드
3
인용
0
참고문헌
키워드
초록
스스로 판단하고 행동하는 자율무기체계(AWS)는 인공지능의 대표적 군사적 응용으로 볼 수 있으나, 불명확한 개념으로 인해 논의가 지지부진한 상황이다. 이에 본 논문은 통제가능한 자율무기체계를 위한 전략을 탐색하기 위한 목적으로 작성되었다. 강화학습이라는 인공지능의 한 분야를 사용하여 자율 체계가 활동하는 실험 환경을 설계하였고, 자율 체계는 주어진 환경에 대한 명확한 지식이나 통제가 없이도 스스로 학습하도록 하였다. 통제전략으로 update 전략과 switch 전략을 탐색하고, 설계한 실험환경에서 검증을 수행하였다.
Abstract
In the era of Artificial Intelligence(AI), Autonomous Weapon Systems(AWS) are the representative and core example of the application of AI in military. However, the vague concept of AWS limits the constructive debates, and ultimately, it can deprive the peaceful opportunities of utilizing autonomous agents in military. This paper aims at developing strategies for controllable AWS. Based on reinforcement learning, the experiment environment was designed with an autonomous agent. The autonomous agent learned by itself without explicit knowledge regarding the given environment. As the control strategies, the two strategies, update and switch strategies, were explored in the experiment environment. Furthermore, the results were analyzed for the implications and future research directions.
참고문헌 (25)
- 김민혁, "자율살상무기체계에 대한 국제적 쟁점과 선제적 대응방향", 국방연구, 63(1), pp.171~204 (2020), 국가안전보장문제연구소[DOI]
- 김자회, "치사성 자율무기시스템에 대한 적법성 검토", 인도법논총, (38), pp.9~41 (2018), 대한적십자사
- 김종열, "자율 무기체계의 자율성에 대한 연구", 융합보안 논문지, 18(2), pp.101~111 (2018), 한국융합보안학회
- 마정목, "미래전 대응을 위한 자율능력 관리 방안", 국방정책연구, 33(2), pp.119~143 (2017), 한국국방연구원[DOI]
- 마정목, "통제가능한 자율무기체계의 개념과 설계에 관한 연구", 국방정책연구, 36(2), pp.81~102 (2020), 한국국방연구원[DOI]
- 이상국, "중국 “AI 주도 미래전쟁선 미국과 해볼 만” 판단", 중앙일보, A26~ (2021)
- 윤정현, "국방 분야의 인공지능 활용성 제고 방안과 시사점", FUTURE HORIZON, (48), pp.44~52 (2020), 과학기술정책연구원
- 조현석, "인공지능, 자율무기체계와 미래 전쟁의 변환", 21세기정치학회보, 28(1), pp.115~140 (2018), 21세기정치학회[DOI]
- 최은창, "인공지능 시대의 법적윤리적 쟁점", FUTURE HORIZON, (28), pp.18~21 (2016), 과학기술정책연구원
- 한희원, "인공지능(AI)기반의 치명적 자율무기에 대한 법적·윤리적 쟁점 기초연구", 국가정보연구, 12(1), pp.141~193 (2019), 한국국가정보학회
- Altmann, J., "Autonomous Weapon Systems and Strategic Stability", Survival, 59(5), pp.117~142 (2017), International Institute for Strategic Studies
- Sayler, K., "International Discussions Concerning Lethal Autonomous Weapon Systems", Congressional Research Service, IF112940, ~ (2021)
- Cook, Adam, "Taming Killer Robots: Giving Meaning to the Meaningful Human Control Standard for Lethal Autonomous Weapon Systems", The JAG School Papers, 1~29 (2019)
- "DoDD 3000.09, Autonomy in Weapon Systems", Department of Defense, ~ (2012)
- Haner, J., "The Artificial Intelligence Arms Race:Trends and World Leaders in Autonomous Weapons Development", Global Policy, 10(3), pp.331~337 (2019), Durham University
- Lee, J., "Attaining Interpretability in Reinforcement Learning via Hierarchical Primitive Composition", ~ (2021)
- Mnih, V., "Human-level control through deep reinforcement learning", Nature, 518, pp.529~533 (2015), Nature Portfolio
- Nagabandi, A., "Learning to adapt in dynamic, real-world environments through meta-reinforcement learning", ~ (2019)
- Rakelly, K., "Efficient Off-Policy Meta-Reinforcement Learning via Probabilistic Context Variables", ~ (2019)
- Roff, H. M., "Meaningful Human Control, Artificial Intelligence and Autonomous Weapons", Briefing paper prepared for the Informal Meeting of Experts on Lethal Autonomous Weapons Systems, pp.1~6 (2016)
- The Impact of Artificial Intelligence on Strategic Stability and Nuclear Risk, Volume II, East Asian Perspectives, "Saalman, L.", SIPRI, ~ (2019)
- Santoni de Sio, F., "Meaningful Human Control over Autonomous Systems: A Philosophical Account", Frontiers in Robotics and AI, 5, pp.1~14 (2018)
- Slijper, F., "Slippery Slope: The arms industry and increasingly autonomous weapons", PAX, ~ (2019)
- Sutton, R. S., "Adaptive Computation and Machine Learning" (1998), MIT Press
- Watkins, C. J. C. H., "Q-learning", Machine Learning, 8(3-4), pp.279~292 (1992), Springer