킬러로봇에 대한 윤리적 고찰
An Ethical Consideration on Killer Robots
0
조회
0
다운로드
2
인용
0
참고문헌
키워드
초록
이 연구의 주된 목적은 킬러로봇(Killer Robot)을 윤리적으로 고찰해보는 것이다. 킬러로봇은 ‘치명적인 자율무기(Lethal Autonomous Weapon)’를 가리킨다. 이는 곧 전쟁터에서 사람의 개입 없이자동으로 공격할 수 있는 인공지능 기반의 군사형 자율 로봇을 의미한다. 킬러로봇은 현재 우리나라를비롯하여 미국, 중국, 러시아, 영국 등 10여 개 국가에서 개발되고 있는데, 인공지능 기술과 로봇공학의 빠른 발전 속도에 힘입어 앞으로 10년 내지는 20년 안에 인간 병사를 완벽하게 대체할 수 있는 로봇 병사가 등장할 것이라고 전망되기도 한다. 그런데 이 같은 킬러로봇의 개발과 확산을 둘러싸고 현재 산업계 및 학계에서 첨예한 찬반 논쟁이 벌어지고 있다. 킬러로봇이 갖는 사회적 효용성뿐만 아니라 심각한 잠재적 위험성이 동시에 예측되기 때문이다. 그러므로 킬러로봇의 무절제한 개발과 확산에일정한 제어를 가해줄 수 있으며, 멀지 않은 미래에 전장에 투입된 킬러로봇으로 인하여 발생할 수 있는 사회적 혼란을 줄이는 데 기여할 수 있는 윤리적 고찰이 필요하다. 이런 맥락에서 이 연구는 첫째,인간 병사를 대체할 수 있는 ‘로봇 병사’를 함축하는 킬러로봇의 의미를 구체화하고, 이것이 향후 우리사회에 미칠 수 있는 영향력에 대해 먼저 검토하고 있다. 둘째, 킬러로봇의 개발과 확산을 둘러싸고 현재 서로 대립하고 있는 찬반 양측의 주장들과 그 근거들에 대해 살펴보고 있다. 셋째, 기술 부족이나기술적 결함에 의해 발생하는 기술적 문제들을 차치하고, 현실적인 기술의 수준에서 전장에서 투입될가능성이 있는 킬러로봇에 대하여 고려할만한 다음의 두 가지 윤리적 쟁점들을 성찰하고 있다: (1)무고한 민간인이 다칠 수 있음에도 불구하고, 킬러로봇에 대해 공격 명령을 내리는 것은 정당화될 수 있는가? (2)킬러로봇의 즉각적인 현장 대처(공격) 능력을 인정해야 하는가?
Abstract
This paper aims to ethically consider Killer Robots which are Lethal Autonomous Weapons. KillerRobots mean artificial intelligence-based combat autonomous robots that can automatically attackwithout human intervention on the battlefield. Killer robots are currently being developed in morethan 10 countries. In virtue of the rapid development of AI and robotics, robot soldiers are expectedto emerge that can completely replace the work of human soldiers in the next 10 to 20 years. However, there are currently the arguments for and against the development and spread of killerrobots in the industry and academia. This is because their serious potential risks, as well as theirsocial effectiveness, are predicted. Therefore, ethical considerations are required to control to theuncontrolled development and spread of killer robots and contribute to reducing the social confusionthat may arise from killer robots in the near future. In this context, we first clarify the meaning ofthe killer robots, and examine their possible impact on our society in the future. Second, we look atarguments for and against the development and spread of killer robots. Thirdly, aside from technicalproblems caused by lack of technology or technical flaws, we deal with two ethical issues thatdeserve consideration for killer robots that are likely to be deployed on the battlefield at the level ofrealistic technology: (1) Is it justified to issue an order of attack on killer robots, even thoughinnocent civilians could be injured? (2) Should we recognize the ability of the killer robot to respondimmediately (attack)?
참고문헌 (12)
- "‘킬러 로봇’ 현실로…英 첨단 무인 ‘로봇 탱크’ 개발" (2018)[URL]
- 변순용, "로봇 윤리란 무엇인가?" (2015), 어문학사
- 변순용, "자율주행자동차의 윤리적 가이드라인에 대한 시론", 倫理硏究, 1(112), pp.199~216 (2017), 한국윤리학회[DOI]
- 송선영, "윤리적 AI로봇 프로젝트", pp.395~424 (2019), 어문학사
- "감정 없는 ‘킬러로봇’ 전장 누빈다" (2016)[URL]
- "美 최신 '킬러 드론' 연내 주한미군 배치" (2020)[URL]
- 천현득, ""킬러 로봇"을 넘어: 자율적 군사로봇의 윤리적 문제들", 탈경계인문학Trans-Humanities, 12(1), pp.5~31 (2019), 이화인문과학원[DOI]
- "해외학자 57인, KAIST와 학술협력 보이콧 선언 철회" (2018)[URL]
- "Autonomous Weapons: an Open Letter from AI & Robotics Researchers" (2015)[URL]
- "Robot Weapons: What’s the Harm?" (2015)[URL]
- Walsh, T., "(AI의 미래) 생각하는 기계: 인공지능 시대, 축복인가?" (2018), 프리뷰