통제가능한 자율무기체계의 개념과 설계에 관한 연구
Concept and Design of Controllable Autonomous Weapon Systems
0
조회
0
다운로드
8
인용
0
참고문헌
키워드
초록
많은 국가들이 국방분야의 자율성을 게임체인저로 인식하고 자율무기체계를 개발하기 위해 노력하고 있으나, 자율무기체계의 불명확한 개념과 함께 인간 존엄성을 침해한다는 우려로 인해 매우 논란이 되고 있다. 이 논문에서는 자율무기체계를 철학적 관점에서 분석해보고, 자율무기체계에 필요한 것은 자율성과 타율성의 조화라는 결론에 도달했다. 이를 자율무기체계 설계에 반영하기 위하여, 통제가능한 자율무기체계라는 새로운 개념과 함께 개념 설계 방안을 제시하였다. 제시된 개념 설계는 가치 민감 디자인과 도덕적 이유 및 책임자를 추론하는 시스템으로 구성되어 있다.
Abstract
While many countries perceive autonomy in defense systems as a game-changer and try to develop Autonomous Weapon Systems(AWS), it is quite controversial since the concepts of AWS are vague and many believe AWS is against human dignity. This paper analyzes how researchers define AWS and tries to explain why it is hard to reach an agreement. Furthermore, the philosophical perspective of autonomy is provided and this paper insists that the harmony of autonomy and heteronomy is required for AWS, which can be expressed as Meaningful Human Control(MHC). In order to reflect the concept of MHC in weapon design, the concept design of controllable AWS is newly suggested, which consists of value sensitive design and inference system for moral reasons and responsible stakeholders. The controllable AWS concept design is expected to provide constructive discussion for AWS under vague concepts of AWS and insights for weapon designers.
참고문헌 (25)
- 강석율, "트럼프 행정부의 국방분야 개혁정책: 3차 상쇄전략의 연속성과 정책적함의", 국방논단, 1734 (2018)
- 강철, "자율성에 대한 개념적 분석: 인공지능의 자율성을 위하여", 과학철학, 21(3), pp.213~234 (2018), 한국과학철학회
- 김민혁, "자율살상무기체계에 대한 국제적 쟁점과 선제적 대응방향", 국방연구, 63(1), pp.171~204 (2020), 국가안전보장문제연구소[DOI]
- 김상배, "미래전의 진화와 국제정치의 변환: 자율무기체계의 복합지정학", 국방연구, 62(3), pp.93~118 (2019), 국가안전보장문제연구소[DOI]
- 김종열, "자율 무기체계의 자율성에 대한 연구", 융합보안 논문지, 18(2), pp.101~111 (2018), 한국융합보안학회
- 마정목, "미래전 대응을 위한 자율능력 관리 방안", 국방정책연구, 33(2), pp.119~143 (2017), 한국국방연구원[DOI]
- 신성호, "자율무기에 대한 국제사회 논쟁과 동북아", 국제.지역연구, 28(1), pp.1~28 (2019), 국제학연구소[DOI]
- 무인로봇의 군사적 활용방안과 운용개념 정립, "안보경영연구원", 국방부, ~ (2015)
- 정태창, "칸트의 자율성에 대한 구성주의 해석과실재론 해석의 화해 가능성", 철학사상, (67), pp.33~59 (2018), 철학사상연구소[DOI]
- 조현석, "인공지능, 자율무기체계와 미래 전쟁의 변환", 21세기정치학회보, 28(1), pp.115~140 (2018), 21세기정치학회[DOI]
- 한희원, "인공지능(AI)기반의 치명적 자율무기에 대한 법적·윤리적 쟁점 기초연구", 국가정보연구, 12(1), pp.141~193 (2019), 한국국가정보학회
- The United Kingdom and lethal autonomous weapons systems, "Article 36", ~ (2016)
- Asaro, P., "On banning autonomous lethal systems : Human rights, automation and the dehumanizing of lethal decision-making, special issue on new technologies and warfare", International Review of the Red Cross, 94(886) (2012)
- Cook, A., "The JAG School Papers" (2019), Air University Press
- Cummings, M. L., "Lethal Autonomous Weapons: Meaningful Human Control or Meaningful Human Certification?", IEEE Technology and Society Magazine, 38(4) (2019)
- Defense Science Board, "Summer Study on Autonomy", Office of the Under Secretary of Defense for Acquisition, Technology and Logistics., ~
- DoDD 3000.09, "Autonomy in Weapon Systems", Department of Defense, ~ (2012)
- Value Sensitive Design: Theory and Methods, "Friedman, B.", University of Washington, ~, pp.University of Washington Technical Report 02-12-01 (2002)
- Heyns, C., "Autonomous weapons in armed conflict and the right to a dignified life: An African perspective", South African Journal on Human Rights, 33(1) (2017)
- Horowitz, M. C., "MEANINGFUL HUMAN CONTROL in WEAPON SYSTEMS: A Primer", Center for a New American Security, ~ (2015)
- Leys, N., "Autonomous Weapon Systems and International Crises", Strategic Studies Quarterly, 12(1) (2018)
- Roff, H. M., "Meaningful Human Control, Artificial Intelligence and Autonomous Weapons", Briefing paper prepared for the Informal Meeting of Experts on Lethal Autonomous Weapons Systems (2016), UN Convention on Certain Conventional Weapons
- Santoni de Sio, F., "Meaningful Human Control over Autonomous Systems : A Philosophical Account", Frontiers in Robotics and AI, 5 (2018)
- Sharkey, A., "Autonomous weapons systems, killer robots and human dignity", Ethics and Information Technology, 21 (2019)
- Umbrello, S., "Beneficial Artificial Intelligence Coordination by Means of a Value Sensitive Design Approach", Big Data and Cognitive Computing, 3(5) (2019)