자율주행의 책임 문제 - 위임된 자율성과 분산된 책임 -
The Responsibility Problem of Self-driving - Delegated Autonomy and Distributed Responsibility -
0
조회
0
다운로드
3
인용
0
참고문헌
키워드
초록
자율주행차의 상용화를 위해 선결되어야 하는 문제 중 하나는 자율주행모드에서 일어난 사고의 책임 귀속이다. 자율주행차가 사고를 냈을 때 그 사고의 책임은 누구에게 그리고 어떻게 귀속되어야 하는가? 본 논문은 자율주행의 책임 문제를 원칙적인 수준에서 검토해 보고자 한다. 자율주행은 지극히 최근에 출현한 전례 없는 현상이기에 어떻게 접근해야 할지 상당히 막막하다. 이런 막막함을 우회하기 위하여 본 논문에서는 “킬러로봇”의 윤리를 유비적으로 활용하고자 한다. 이를 위해 본 논문에서는 우선 킬러로봇의 사용과 자율주행차의 운행 사이에 여러 측면에서 유의미한 유비가 성립함을 보이고, 킬러로봇과 관련된 윤리적 문제가 분산된 책임에 대한 논의로 이어진다는 점을 논증할 것이다. 이 과정에서 킬러로봇의 자율성이 본질적으로 인간으로부터 위임된 제어권이라는 점, 그리고 책임 귀속에 있어서 ‘담당하기’와 ‘행동 취하기’를 구분해야 한다는 점이 드러난다. 이러한 분석을 바탕으로 책임 있는 위임 원칙과 분산된 책임 원칙을 정식화한 후, 두 원칙을 자율주행차의 사례에 적용해 볼 것이다. 킬러로봇-자율주행차 유비추론의 귀결 중 하나는 자율주행차의 사고와 관련하여 운전자와 설계자를 비롯한 인간들의 책임이 결코 면제되지 않는다는 것이다. 다시 말해 자율주행의 시대에도 인간의 책임은 증발하지 않는다. 그것은 그저 얇게 퍼질 따름이다.
Abstract
For self-driving cars to be commercialized, the question of who is responsible for accidents in automated driving mode needs to be settled. When self-driving cars have traffic accidents, how should responsibilities for those accidents be shared? This article offers an analysis of the responsibility problem of self-driving. Evaluating the responsibility problem of self-driving is challenging because it is a recently emerged, unprecedented phenomenon. We do not have any moral intuition strong enough to deal with such issue. To get around this difficulty, this article utilizes the analogy of 'killer robot'. I'll start by demonstrating the significant parallels between killer robots and self-driving cars and how the moral concerns highlighted by killer robot lead to the issue of distributed responsibility. It is also argued that the autonomy of killer robots is essentially deligated from humans and it is important to distinguish between "taking charge of" and "taking action" when assigning responsibility. Based on this analysis, the principles of distributed responsibility and responsible delegation are formulated, and these moral principles are then applied to the situations involving self-driving cars. One implication of this analogy is that even in this autonomous driving era, human responsibility does not disappear. It just spreads thinly.
참고문헌 (21)
- 김효은, "인공지능윤리: 다원적 접근", pp.19~138 (2021), 박영사
- 고인석, "로봇이 책임과 권한의 주체일 수 있는가", 철학논총, 67(1), pp.3~21 (2012), 새한철학회
- 고인석, "인공물이 인간을 대행하도록허용할 수 있을 조건: 자율주행자동차의 경우를 중심으로", 철학연구, (124), pp.51~73 (2019), 철학연구회[DOI]
- 고인석, "자율주행자동차를 어떻게 규율할 것인가", 철학논총, 96(2), pp.81~107 (2019), 새한철학회
- 김은희, "인공적 도덕행위자와 도덕적 책임의 문제", 철학논집, 66, pp.103~132 (2021), 철학연구소[DOI]
- 김진석, "강한 인공지능과 인간 : 인간 강화와 잉여의 패러독스" (2019), 글항아리
- 닉 보스트롬, "슈퍼인텔리전스: 경로, 위험, 전략" (2017), 까치
- 명순구, "인공지능과 자율주행자동차, 그리고 법" (2017), 세창출판사
- 문규민, "윤리적 문제로서의 제어권 전환 -3단계 자율주행차와 협응의 규범-", 철학∙사상∙문화, (38), pp.25~45 (2022), 동서사상연구소[DOI]
- 변순용, "자율주행자동차의 윤리적 가이드라인에 대한 시론", 倫理硏究, 1(112), pp.199~216 (2017), 한국윤리학회[DOI]
- 변순용, "한국형 자율주행차 윤리가이드라인 구성과 쟁점에 대한 분석", 倫理硏究, 1(134), pp.139~158 (2021), 한국윤리학회[DOI]
- 한상기, "독일 자율주행차 윤리 가이드라인의 의미와 이슈", KISA Reoport, (9), pp.3~8 (2017), 한국인터넷진흥원
- 이상돈, "자율주행자동차의 윤리화의 과제와 전망", IT와 법연구, (15), pp.281~325 (2017), IT와 법연구소[DOI]
- 천현득, ""킬러 로봇"을 넘어: 자율적 군사로봇의 윤리적 문제들", 탈경계인문학Trans-Humanities, 12(1), pp.5~31 (2019), 이화인문과학원[DOI]
- Denis F. Thompson, "Moral responsibility and public officials : The problem of many hands", American Political Science Review, 74(4), pp.905~916 (1980)
- Floridi, Luciano, "The Ethics of Information" (2013), Oxford University
- Floridi, Luciano, "Faultless responsibility: on the nature and allocation of moral responsibility for distributed moral actions", Philosophical Transactions A (2016)
- Matthias, Andreas, "The responsibility gap : Ascribing responsibility for the actions of learning automata", Ethics and Information Technology, 6, pp.175~183 (2004)
- Nissenbaum, Helen, "Human Values and the Design of Computer Technology", pp.41~64 (2004), Cambridge University Press
- Simpson, Thomas W., "Just War and Robot’s Killings", The Philosophical Quarterly, 66(263), pp.302~322 (2016)
- Sparrow, Robert, "Killer robots", Journal of Applied Philosophy, 24(1), pp.62~77 (2007)