로봇윤리의 기본 원칙: 로봇 존재론으로부터
Basic Principles of Robot Ethics: From Robot Ontology
0
조회
0
다운로드
30
인용
0
참고문헌
키워드
초록
로봇은 생명 없는 사물이고 인간의 도구지만, 그 자체로 지각과 판단과 행위의 능력을 지닌 주체처럼 행동할 수 있다는 점에서 특별한 철학적 관심의 대상이 된다. 이 논문은 로봇을 설계, 제작, 관리하고 사용하는 우리가 이런 특수한 인공물을 다룸에 있어서 어떤 원칙들을 적용해야 하는가 하는 문제를 토론함으로써 로봇윤리의 기본 원칙을 제시한다. 로봇을 움직이는 것은 그것을 설계, 제작, 관리하는 자들의 외화된 정신이며, 인간의 대리 행위자 역할을 할 수 있다는 특수한 유용성과 더불어 인간의 능동적 정신을 분유하는 데서 비롯되는 고유의 위험을 내재하고 있는 로봇을 현명하게 다루기 위한 원칙의 핵심은 로봇시스템에 대한 인간의 통제력을 유지하는 데 있다. 여기서 도출되는 로봇윤리의 첫 번째 원칙은 로봇이 제작 목적에 부합하는 구조와 작동 특성을 일관성 있게 유지하도록 설계, 제작, 관리되어야 한다는 것이고, 이 원칙은 로봇의 기능과 작동 특성이 명확히 규정되고 충실히 준수되어야 한다는 실천 규범을 요청한다. 로봇윤리의 두 번째 원칙은 지속가능성의 관점에서 도출되며, 로봇이 사용자와 그 사용의 영향을 받는 사람들의 안전과 건강, 그리고 자연 생태계의 지속가능성을 위협하지 말아야 한다는 것과 로봇기술의 개발과 적용이 인간 정체성에 혼란을 야기하지 않는 방식으로 제한되어야 한다는 것을 명령한다.
Abstract
Though robots are lifeless objects, they appear to be agents with capacities to perception, judgment, and action, which make them unique to the philosophical viewpoint. Intelligent robots would play the role of various forms of surrogate of human agents, which implies their irreplaceable utility and unique risk at the same time. They are even told to be artificial moral agents. This paper discusses the question of what normative principles are to be applied when we deal with such unique artefacts, thereby suggests a set of basic principles of robot ethics. For this purpose, it investigates the ontology of robot. It reveals that a robot is physical realization of externalized mind, of its designers, manufacturers, and administrators. In order to deal with the risk of such intelligent artefacts, it is of highest importance to retain the clear context of human control over them. This requires further that the purpose, functions, and relevant properties of the robotic system be explicitly defined and consistently observed through all the processes of its manufacturing, maintenance, and application. Another part of the basic principles of robot ethics concerns the principle of sustainability.
참고문헌 (29)
- 고인석, "‘로봇의 정체성’이라는 관점에서 로봇윤리 다시 보기", 로봇산업 정책연구 개발을 위한 산학연 학술대회(지능형 로봇 윤리 워크샵) (2008), 제어로봇시스템학회
- 고인석, "아시모프의 로봇 3법칙 다시 보기: 윤리적인 로봇 만들기", 철학연구, (93), pp.97~120 (2011), 철학연구회
- 고인석, "로봇이 책임과 권한의 주체일 수 있는가", 철학논총, 67(1), pp.3~21 (2012), 새한철학회
- 고인석, "체계적인 로봇윤리의 정립을 위한 로봇 존재론,특히 로봇의 분류에 관하여", 철학논총, 70(4), pp.171~195 (2012), 새한철학회
- 로봇윤리헌장제정위원회, "로봇윤리헌장 초안, Release 1.0, Version 25(2008년 6월 22일)", ~ (2008)
- 변순용, "로봇윤리의 이론적 기초를 위한 근본 과제 연구", 윤리연구, 1(88), pp.1~26 (2013), 한국윤리학회
- 이중원, "로봇의 준인격체로서의 가능성은?", 로봇산업 정책연구 개발을 위한 산학연 학술대회 (지능형 로봇 윤리 워크샵) (2008)
- Allen, C., "Prolegomena to Any Future Artificial Moral Agent", Journal of Experimental & Theoretical Artificial Intelligence, 12 (2000)
- Arkin, R. C., "Governing Lethal Behavior in Autonomous Robots" (2009), CRC Press
- Barnes, M., "Human-Robot Interactions in Future Military Operations" (2010), Ashgate
- "The Ethics of Artificial Intelligence" (2011)[URL]
- Bringsjord, S., "Ethical Robots: The Future Can Heed Us", AI & Society, 22 (2008)
- Coeckelbergh, M., "Robot Rights? Towards a Social- Relational Justification of Moral Consideration", Ethics and Information Technology, 12(3) (2010)
- "Did HAL Commit Murder?" (1996)[URL]
- Floridi, L., "The Moral Status of Technical Artefacts (Philosophy of Engineering and Technology 17)" (2014), Springer
- Gips, J., "Android Epistemology" (1995), MIT Press
- Harris, C. E., "공학윤리" (2006), 북스힐
- Leveson, N., "Software System Safety and Computers" (1995), Addison-Wesley
- Mukhopadhyay, S. C., "Internet of Things: Challenges and Opportunities" (2014), Springer
- Pettit, P., "Responsibility Incorporated", Ethics, 117 (2007)
- Smith, M., "The Moral Problem" (1994), Blackwell
- Smithers, T., "Autonomy in Robots and Other Agents", Brain and Cognition, 34 (1997)
- Sullins, J. P., "When Is a Robot a Moral Agent?", International Review of Information Ethics, 6 (2006)
- Sullins, J. P., "RoboWarfare: Can Robots Be More Ethical Than Humans on the Battlefield?", Ethics and Information Technology, 12(3) (2010)
- Torrance, S., "Editorial: Special Issue on Ethics and Artificial Agents", AI & Society, 22 (2008)
- Wallach, W., "Moral Machines: Teaching Robots Right from Wrong" (2009), Oxford UP
- Coherent Extrapolated Volition, "Yudkowsky, E.", The Singularity Institute, ~ (2004)
- "IEEE 홈페이지"[URL]
- "NSPE 홈페이지"[URL]