본문 바로가기
KERD
논문KCI 등재

AI 로봇의 도덕 행위자 가능성에 관한 윤리학적 연구

An Ethical Study on the Possibility of AI Robot as a Moral Agen

김상득
한국동서철학회 (Korean Society For Philosophy East-West)|2022.09|동서철학연구 (Studies in Philosophy East-West)|제105호|pp. 627-652|DOI 10.15841/kspew..105.202209.627

0

조회

0

다운로드

4

인용

0

참고문헌

키워드

자율성AutonomyAI robotsAI 로봇도덕 행위자Moral agent마음 없는 도덕노예 역설Mind-less moralitySlave paradox
주제분류철학

초록

이 논문은 AI 로봇이 도덕 행위자로 진화할 수 있는 가능성을 윤리학적으로 탐구하는 것을 목표로 한다. 이를 위해 필자는 먼저 제임스 무어의 구분에 따라 도덕 행위자를 온전한 도덕 행위자가 아니라 명시적인 윤리 행위자에 국한하고자 한다. 명시적인 윤리 행위자는 의식이나 자유의지 등과 같은 형이상학적 실체를 전제하지 않고 윤리적 추론이나 도덕 판단 혹은 도덕적 행위 등과 같은 현상학적 기능을 강조한다. 이러한 입장은 도덕의 요구조건에 관한 약한 해석을 필요로 하는데, 그 대표적인 예가 플로리디와 샌더스의 마음 없는 도덕이다. 즉, 이들은 마음 없는 도덕에 근거하여 AI 로봇이 상호작용성, 자율성, 적응성 등의 기준을 충족시킨다면 도덕 행위자가 될 수 있다고 주장한다. 필자는 이들의 주장에 대한 목적 반론, 의도 반론, 자유 반론, 책임 반론 등을 비판적으로 재반박함으로써 AI 로봇이 도덕 행위자가 될 수 있다는 이들의 입장을 옹호하고자 한다. 하지만 자율적인 이러한 로봇이 과연 인간에게 윤리적으로 바람직한가의 물음은 여전히 남아 있다. 인간보다 뛰어난 로봇이 인간을 지배할 수도 있기 때문이다. 필자는 이러한 비판의 근거가 되는 ‘노예 역설’을 받아들여 로봇이 인간에게 윤리적으로 선한 존재로 머무르게 할 수 있는 안전장치를 마련할 때까지는 자율적인 주인 로봇의 제작에 대해 모라토리엄을 선언할 것을 결론에서 제안하고자 한다.

Abstract

This paper aims to ethically explore the possibility that AI robots can evolve into a moral agent. To this end, I would like to first limit moral agent to explicit ethical agent, not full moral agent, according to the classification of J. Moor. Explicit ethical agent emphasizes phenomenological functions such as ethical reasoning, moral judgment, or moral action without presupposing metaphysical entities such as consciousness or free will. This position requires a weak interpretation of the moral requirements, a typical example of which is the ‘mind-less morality’ of Florida and Sanders. In other words, they argue that AI robots can become moral agents if they meet criteria such as interactivity, autonomy, and adaptability based on mind-less morality. I would like to defend their position that AI robots can become moral agents by critically refuting teleological objection, intentional objection, freedom objection, and responsibility objection to their arguments. However, the question remains whether these autonomous robots are ethically desirable for humans. This is because robots that are superior to humans may dominate humans. I would like to accept the ‘slave paradox’, which is the basis for this criticism, and propose in the conclusion to declare a moratorium on the creation of autonomous master-robots until they have a safeguard to keep them ethically good for humans.

참고문헌 (31)

  1. 김상득, "AI 로봇의 도덕적 지위에 관한 예비적 고찰", 철학∙사상∙문화, (37), pp.22~50 (2021), 동서사상연구소[DOI]
  2. 목광수, "인공적 도덕 행위자 설계를 위한 고려사항: 목적, 규범, 행위지침", 철학사상, (69), pp.361~391 (2018), 철학사상연구소[DOI]
  3. 신상규, "자율기술과 플로리디의 정보 윤리", 철학논집, 45, pp.269~296 (2016), 철학연구소[DOI]
  4. Allen, C., "Machine Ethics and Robot Ethics" (2017), Routledge
  5. Arkin, R., "Governing Lethal Behavior in Autonomous Systems" (2009), Routledge
  6. Assro, P. M., "Machine Ethics and Robot Ethics" (2017)
  7. Coeckelbergh, M., "Robot Rights? Towards a Social-relational Justification of Moral Consideration", Ethics and Information Technology, 12(3) (2010)
  8. Floridi, L., "Information Ethics, Its Nature and Scope", ACM SIGCAS Computers and Society, 36(3) (2006)
  9. Floridi, L., "Machine Ethics and Robot Ethics" (2017)
  10. Gips, J., "Machine ethics" (2011)
  11. Gunkel, D., "The Machine Question: Critical Perspectives on AI, Robots, and Ethics" (2012), MIT Press
  12. Gunkel, D., "Machine Ethics and Robot Ethics" (2017)
  13. Habermas, J., "인간이라는 자연의 미래" (2002), 나남출판
  14. Hall, J. S., "Machine ethics" (2011), Cambridge University Press
  15. Haksar, V., "Routledge Encyclopedia of Philosophy vol.6" (1998), Routledge
  16. Himma, K. E., "Artificial Agency, Consciousness, and the Criteria for Moral Agency : What Properties must an Artificial Agent have to be a Moral Agent?", Ethics and Information Technology, 11(1) (2009)
  17. Jonas, H., "책임의 원칙: 기술 시대의 생태학적 윤리" (2017), 서광사
  18. Matheson, B., "Manipulation, Moral Responsibility, and Machines", The Machine Question: AI, Ethics and Moral Responsibility(AISB, 2012, ~
  19. Moor, J. H., "The Nature, Importance, and Difficulty of Machine Ethics", IEEE Intelligent Systems, 21(4) (2006)
  20. Scheutz, M., "The Case for Explicit Ethical Agents", AI Magazine, (Winter) (2017)
  21. Singer, P., "동물해방" (2016), 연암서가
  22. Sullins, J. P., "When is a Robot a Moral Agent", International Review of Information Ethics, 6(12) (2006)
  23. Tõnisson, R., "Can Autonomous Machines Make Ethical Decisions?", Bachelor, pp.2016
  24. Tonkens, R. S., "Ethical Implementation: A Challenge for Machine Ethics", 2nd Symposium on Computing and Philosophy(AISB 2009 Convention (2009), Heriot-Watt University
  25. Versenyi, L., "Can Robots be Moral?", Ethics, 84(3) (1974)
  26. Veruggio, G., "Machine Ethics and Robot Ethics" (2017)
  27. Verbeek, P. P., "Materializing Morality : Design Ethics and Technological Mediation", Science, Technology, & Human Values, 31(3) (2006)
  28. Wallach, W., "Moral Machine: Teaching Robots Right from Wrong" (2009), Oxford University Press
  29. Wareham, C., "Moral, Ethical, and Social Dilemmas in the Age of Technology: Theories and Practice" (2013), IGI Global
  30. Whitby, B., "Machine Ethics" (2011)
  31. Winfield, A. F., "Machine Ethics : The Design and Governance of Ethical AI and Autonomous Systems", Proceedings of IEEE, 107(3) (2019)

관련 논문AI추천

AI 로봇의 도덕적 책임에 관한 윤리학적 연구김상득한국동서철학회 · 동서철학연구2023 · 제107호AI 로봇의 도덕적 지위에 관한 예비적 고찰김상득동서사상연구소 · 철학∙사상∙문화2021 · 제37호흄의 도덕적 기계와 인공지능김다솜중앙철학연구소 · 철학탐구2021 · 제61권 기계의 메타 윤리학: AI 로봇의 윤리적 결정을 중심으로김상득한국동서철학회 · 동서철학연구2020 · 제96호자율 AI 책임에 관한 비판적 연구최문기한국윤리학회 · 倫理硏究2021 · 제1권 제135호인공지능윤리학의 메타윤리적 접근이상희한국초등도덕교육학회 · 초등도덕교육2022 · 제76호

이 간행물의 다른 논문 (23건)

노자철학에서 깨달은 사람과 그 삶의 방식-성인과 현자의 구별을 중심으로-이재권pp. 5-42다르마끼르띠(Dharmakīrti)의 언어인식 효용론- 아뽀하(apoha)론을 중심으로 -배경아pp. 43-62격물치지의 확충과 업의 개념김홍인pp. 63-90Shu 殊 (differentia) in the Wugong 五公: Its Philosophical Meanings and Philological Background허민준pp. 91-134돌봄으로서의 철학 교육과 주자의 격물치지설전현희pp. 135-158
원문 보기