자율형 무인전투체계의 ·윤리적 의사결정 프로세스 모델링
Modeling a legal and Ethical Decision-Making Process for Autonomous Unmanned Combat Systems
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
미래 전장의 주역이 될 무인전투체계는 독립적 의사결정체계를 내장하고 상황과 환경에 대해 최적의 대응방책을 도출하여 행동하는 자율성을 보장받게 될 것이다. 그러나 자율적으로 운용되는 무인전투체계는 법적·윤리적으로 잠재적인 위험과 부정적 효과가 있어 도입과 운용에 많은 논란이 제기된다. 대표적인 위험 요소로서 전장에서 발생하는 우군에 대한 공격 또는 민간인의 희생 등이 있으며, 이러한 사고를 근거로 반대론자들은 군사용 로봇이 윤리적 판단을 할 수 없다고 주장하며 전장에서 사용이 불가하다는 논리를 전개하고 있다. 그와 더불어 쟁점이 되고 있는 사안들로서 무인전투체계를 법적·윤리적 행위의 주체로서 인정해야 하는지, 무인전투체계의 자율적 행동의 결과에 대한 책임 범위를 어떻게 설정해야 하는지, 법적·윤리적 판단이 가능한 기준을 정형화하고 이를 의사결정 프로세스에 반영하여 구축할 수 있는지 등이 문제가 되고 있다. 현재 우리나라는 로봇의 윤리적 소프트웨어의 개념 개발에 착수한 수준이고, 한국군의 무인전투체계는 법적·윤리적 의사결정체계에 대한 논의 자체가 부족한 실정이라 이에 대한 연구가 조속히 진행되어야 한다. 먼저 무인전투체계의 자율적 행동에 대한 법적·윤리적 판단 기준을 정립해야 하는데 법률적으로는 기존의 법률체계와 법제화를 추진하고 있는 로봇 관련 법제 논의사항을 반영해야 한다. 무인전투체계의 윤리적 의사결정은 그 기준으로서 의무론적 윤리설, 공리주의 등 다양한 윤리 이론들과 군대의 특성을 내포하고 있는 군대윤리를 포함해야 한다. 자율적 행동의 법적·윤리적 행동 기준이 정립되면 이를 무인전투체계의 의사결정 프로세스에 반영하여 의사결정체계를 설계한다. 먼저 무인전투체계의 법적･윤리적 프로세스를 모델링하고 이를 지원할 수 있는 하부체계들을 정의하여 최적의 행동방안 도출이 가능한 의사결정체계를 구축한다. 이 프로세스가 기술적으로 구현된다면 무인전투체계의 자율 행동에서 비롯되는 분쟁을 최소화할 수 있으며 전투효과 측면에서도 최적의 전투효과를 달성하게 될 것이다.
Abstract
Though autonomous Unmanned Comabat Systems(UCS) will be empowered in near future warfare, there are a lot of debates concerning on fielding autonomous UCS since they would cause potential legal and ethical problems. The opponents insist that the technologies for UCS to make right legal and ethical decision have not been realized yet, which would result in illegal and unethical accidents such as attacking friendly forces and/or damaging noncombatants. This paper proposes the legal and ethical decision making process of UCS including the criteria for UCS to distinguish legal and ethical behaviors, constraint conditions using those criteria in data sets, and autonomous decision-making architecture employing legal and ethical behavior judgement process. This legal and ethical decision-making architecture will be useful for UCS to decrease legal and ethical conflicts on battlefield and achieve the greatest combat effectiveness.
참고문헌 (25)
- 고인석, "로봇윤리의 기본 원칙: 로봇 존재론으로부터", 범한철학, 75(4), pp.401~426 (2014), 범한철학회
- 고인석, "아시모프의 로봇 3법칙 다시 보기: 윤리적인 로봇 만들기", 철학연구, (93), pp.97~120 (2011), 철학연구회
- 기윤서, "한반도 교전규칙", 한국학술정보, 19~20 (2013)
- 2011~2015 세계 국방지상로봇 획득동향, "강인원", 국방기술품질원, 16~ (2015)
- 국방부, "전쟁법 해설서", 국방부, 21~24 (2013)
- 김민혁, "지상무인전투체계의 전투효과 증진을 위한 자율기능의 발전방향", 국방정책연구, 32(4), pp.141~170 (2017), 한국국방연구원[DOI]
- 변순용, "로봇윤리란 무엇인가?", pp.30~45 (2015), 어문학사
- Singer, P. W., "하이테크 전쟁: 로봇 혁명과 21세기 전투", pp.563~ (2011), 지안출판사
- 4차 산업혁명과 지능정보사회의 규범 재정립, "이원태", 정보통신연구원, 14~16 (2017)
- 이중기, "자율주행자동차 : 로봇으로서의 윤리와 법적 문제", 국토, (416), pp.41~ (2016)
- 무인로봇의 군사적 활용방안과 운용개념 정립, "안보경영연구원", 안보경영연구원, ~ (2015)
- Wallach, W., "왜 로봇의 도덕인가", pp.129~141 (2014), 메디치미디어
- "three laws of robotics" (2018)[URL]
- "로봇윤리헌장" (2017)[URL]
- 조승옥, "군대윤리", pp.54~56 (1996), 경희종합출판사
- Abney, K., "Autonomous Military Robotics: Risk, Ethics, and Design", pp.2008
- Governing Lethal Behavior: Embedding Ethics in a Hybrid Deliberative, "Reactive Robot Architecture", Arkin, R. C., 2007, pp.3~, GIT-GVU-07-11
- An Ethical Governor for Constraining Lethal Action in Autonomous System, "Arkin, R. G.", GVU Center, Georgia Institute of Technology, 2~3, pp.GIT-GVU-09-22 (2009)
- Arkin, R. G., "Moral Decision Making in Autonomous Systems: Enforcement, Moral Emotions, Dignity, Trust and Deception", Proceedings of the IEEE, 100(3), pp.7~13 (2012)
- Doare, R, "Robots on the Battlefield", pp.76~77 (2014), Combat Studies Institute Press. US Army Combined Arms Cente
- Marra, W., "Understanding the Loop: Regulating the Next Generation of War Machines", Harvard Journal of Law & Public Policy, 36(3), pp.1145~1146 (2012)
- Matthias, A, "Is the Concept of Ethical Governor Philosophically Sound?(Technologies on the Stand: Legal and Ethical Questions in Neuroscience and Robotics)", pp.2011
- Parasuraman, R., "A Model for Types and Levels of Human Interaction with Automation", IEEE Transactions on Systems, Man, and Cybernetics, 30(3), pp.288~289 (2000)
- Sharkey, N., "Death Strikes from the Sky: The Calculus of Proportionality", IEEE Science and Society, 28(1), pp.16~ (2009)
- US Department of Defense, "Directive 3000.09: Autonomy in Weapon systems", ~ (2012)