본문 바로가기
KERD
논문KCI 등재

자아 없는 자율성 - 인공 지능의 도덕적 지위에 대한 고찰 -

A Reflection on the Moral Status of AI

정태창
한국사회와철학연구회|2020.10|사회와 철학 (Social Philosophy)|제40호|pp. 147-180|DOI 10.22858/sp.2020..40.006

0

조회

0

다운로드

7

인용

0

참고문헌

키워드

인공 지능인격적 자율성자기 이익도덕적 지위.

초록

인공 지능이 딥러닝에 기반하여 갖게 된 자율성은 그것에 도덕적 지위를 부여해 야 한다는 주장의 최종 근거를 이룬다. 하지만 인공 지능의 자율성이 정확히 어떠한 것이고, 그것이 왜 도덕적 지위의 근거가 될 수 있는지는 불분명한 채로 남아 있다. 본 논문에서는 인공 지능의 ‘자아 없는 자율성(autonomy without self)’은 그것에 도덕적 지위를 부여할 근거가 될 수 없음을 ‘자기 이익(self-interest)’의 개념을 중심으로 논증할 것이다. 인공 지능에 대해서는 자기 이익이라는 개념이 성립할 수 없기 때문에 그것은 도덕적 고려의 대상이 될 수 없다는 것이 본 논문의 핵심 주장이다. 이러한 주장에 대해서는 미래에는 자기 이익을 추구하는 인공 지능이 등장할 수 있다는 반론 및 현존하는 인공 지능을 통해 자기 이익의 기능을 구현할 수 있다는 반론이 제기될 수 있다. 본 논문은 이러한 두 가지 가능한 반론에 대한 답변을 제시할 것이다.

Abstract

Autonomy of deep learning-based artificial intelligence constitutes the main ground for arguing that a moral status should be given to it. But the true nature of AI autonomy and the reason why it can be the basis of moral status remain unclear. In this paper, I will argue the ‘autonomy without self’ of AI cannot be the basis for giving it a moral status. Artificial intelligence cannot be an object of moral consideration, because it does not have self-interest. The counterarguments to this would be that AI capable of self-interest might emerge in the future, and that the function of self-interest could be programmed into AI. I will reply to these two possible counterarguments.

참고문헌 (61)

  1. 강철, "자율성에 대한 개념적 분석: 인공지능의 자율성을 위하여", 과학철학, 21(3), pp.213~234 (2018), 한국과학철학회
  2. 고인석, "인공지능의 존재론", pp.81~116 (2018), 한울아카데미 : 한울엠플러스
  3. 목광수, "인공지능 시대에 적합한 인격 개념 - 인정에 근거한 모델을 중심으로 -", 철학논총, 90(4), pp.187~211 (2017), 새한철학회
  4. 목광수, "인공적 도덕 행위자 설계를 위한 고려사항: 목적, 규범, 행위지침", 철학사상, (69), pp.361~391 (2018), 철학사상연구소[DOI]
  5. 손화철, "인공지능 시대의 과학기술 거버넌스", 철학사상, (68), pp.267~299 (2018), 철학사상연구소[DOI]
  6. 신상규, "인공지능, 새로운", 철학과현실, 112, pp.155~178 (2017)
  7. 신상규, "인공지능은 자율적 도덕행위자일 수 있는가?", 철학, (132), pp.265~292 (2017), 한국철학회[DOI]
  8. 신상규, "인공지능의 도덕적 지위와 관계론적 접근", 철학연구, 149, pp.243~273 (2019), 대한철학회[DOI]
  9. 안재현, ""XAI : 설명가능한 인공지능" (2020), 위키북스
  10. 이상욱, "인공지능의 도덕적 행위자로서의 가능성: 쉬운 문제와 어려운 문제", 철학연구, (125), pp.259~279 (2019), 철학연구회[DOI]
  11. 이중원, "인공지능의 존재론", pp.117~137 (2018), 한울아카데미
  12. 정태창, "칸트의 자율성에 대한 구성주의 해석과실재론 해석의 화해 가능성", 철학사상, (67), pp.33~59 (2018), 철학사상연구소[DOI]
  13. 허라금, "관계적 자율성에 대한 철학적 연구 - 절차적 자율성과 실질적 자율성 논쟁을 중심으로 -", 철학, (120), pp.103~129 (2014), 한국철학회
  14. Anderson, S., "Machine Ethics", pp.21~27 (2011), Cambridge University Press
  15. Aristoteles, "Ethica Nicomachea" (1894), Oxford University Press
  16. Basl, J., "The Oxford Handbook of Ethics of AI", pp.289~306 (2020), Oxford University Press
  17. Beer, J., "Toward a Framework for Levels of Robot Autonomy in Human-Robot Interaction", Journal of Human-Robot Interaction, 3(2), pp.74~99 (2014)
  18. Behdadi, D., "A Normative Approach to Artificial Moral Agency", Minds and Machines, 30, pp.195~218 (2020)
  19. Boddington, P., "Towards a Code of Ethics for Artificial Intelligence" (2017), Springer
  20. Bostrom, N., "Superintelligence" (2014), Oxford University Press
  21. Bryson, J., "Close Engagements with Artificial Companions", pp.63~74 (2010), John Benjamins
  22. Coeckelbergh, M., "Growing Moral Relations: Critique of Moral Status Ascription" (2012), Palgrave
  23. Dreyfus, H., "What Computers Can’t Do" (1978), Harper & Row
  24. Dworkin, G., "The Theory and Practice of Autonomy" (1988), Cambridge University Press
  25. Elster, J., "Rational Choice", pp.1~33 (1986), New York University Press
  26. Floridi, L., "AI and Its New Winter : from Myths to Realities", Philosophy & Technology, 33(1), pp.1~3 (2020)
  27. Frankfurt, H., "Freedom of the Will and the Concept of a Person", The Journal of Philosophy, 68(1), pp.5~20 (1971)
  28. Franklin, S., "The Cambridge Handbook of Artificial Intelligence", pp.15~33 (2014), Cambridge University Press
  29. Gordon, J. -S., "Building Moral Robots : Ethical Pitfalls and Challenges", Science and Engineering Ethics, 26(1), pp.141~157 (2020)
  30. Gordon, J.-S., "What Do We Owe to Intelligent Robots?", AI & Society, 35, pp.209~223 (2020)
  31. Gunkel, D., "The Machine Question" (2012), The MIT Press
  32. Habermas, J., "Theorie des kommunikativen Handelns" (1981), Suhrkamp
  33. Hill, T., "Autonomy and Self-Respect", pp.43~51 (1991), Cambridge University Press
  34. Johnson, D., "Machine Ethics", pp.168~183 (2011), Cambridge University Press
  35. Kurzweil, R., "The Singularity Is Near" (2007), Penguin
  36. Mackenzei, C., "Relational Autonomy: Feminist Perspectives on Autonomy, Agency, and the Social Self", pp.3~34 (2000), Oxford University Press
  37. Man, K., "Homeostasis and Soft Robotics in the Design of Feeling Machines", Nature Machine Intelligence, 1, pp.446~452 (2019)
  38. McDermott, D., "Machine Ethics", pp.88~114 (2011), Cambridge University Press
  39. Moor, J., "Four Kinds of Ethical Robot", Philosophy Now, 72, pp.12~14 (2009)
  40. Plebe, A., "The Unbearable Shallow Understanding of Deep Learning", Minds & Machines, 29(4), pp.515~553 (2019)
  41. Pohlmann, R., "Historische Wörterbuch der Philosophie, Vol. I", pp.701~719 (1971), Wissenschaftliche Buchgesellschaft
  42. Rawls, J., "Kantian Constructivism in Moral Theory", The Journal of Philosophy, 77(9), pp.515~572 (1980)
  43. Rawls, J., "A Theory of Justice" (1999)
  44. Rawls, J., "Justice as Fairness: A Restatement" (2001), Harvard University Press
  45. Raz, J., "The Morality of Freedom" (1986), Oxford University Press
  46. Robbins, S., "A Misdirected Principle with a Catch: Explicability of AI", Minds & Machines, 29(4), pp.495~514 (2019)
  47. Russell, S., "Artificial Intelligence: A Modern Approach" (2016), Pearson
  48. Schneewind, J., "The Invention of Autonomy" (1998), Cambridge University Press
  49. Searle, J., "Minds, Brains, and Programs", The Behavioral and Brain Sciences, 3, pp.417~457 (1980)
  50. Silver, A., "Justice through Trust : Disability and the ‘Outlier Problem’ in Social Contract Theory", Ethics, 116(1), pp.40~76 (2005)
  51. Singer, P., "Practical Ethics" (2011), Cambridge University Press
  52. Tan, K. H., "The Artificial Intelligence Renaissance", APSIPA Transactions on Signal and Information Processing, 7, pp.e6~ (2018)
  53. Tessier, C., "Autonomy and Artificial Intelligence: A Threat or Savior?", pp.179~194 (2017), Springer
  54. Tzafestas, S., "An Introduction to Robophilosophy" (2016), River Publishers
  55. Wallach, W., "Moral Machines" (2009), Oxford University Press
  56. Wallach, W., "Robot Ethics", pp.55~68 (2012), The MIT Press
  57. Wani, M., "Advances in Deep Learning" (2020), Springer
  58. Weber, M., "Wirtschaft und Gesellschaft" (1976), J. C. B. Mohr
  59. Williams, B., "Deliberative Democracy and Human Rights", pp.49~60 (2000), Yale University Press
  60. Wooldridge, M., "Intelligent Agents : Theory and Practice", Knowledge Engineering Review, 10, pp.115~152 (1995)
  61. Ziff, P., "The Feelings of Robots", Analysis, 19(3), pp.64~68 (1958)

관련 논문AI추천

흄의 도덕적 기계와 인공지능김다솜중앙철학연구소 · 철학탐구2021 · 제61권 AI 로봇의 도덕적 지위에 관한 예비적 고찰김상득동서사상연구소 · 철학∙사상∙문화2021 · 제37호인공 지능의 도덕적 지위와 현상적 의식정태창한국사회와철학연구회 · 사회와 철학2024 · 제47호AI 로봇의 도덕적 책임에 관한 윤리학적 연구김상득한국동서철학회 · 동서철학연구2023 · 제107호동물과 AI를 통한 인간의 도덕적 지위 탐구이경근한국윤리학회(8A3209) · 윤리학2024 · 제13권 제2호AI 로봇의 도덕 행위자 가능성에 관한 윤리학적 연구김상득한국동서철학회 · 동서철학연구2022 · 제105호

이 간행물의 다른 논문 (5건)

하이데거의 사유에서 ‘전회’ - ‘존재’로부터 주체와 형이상학의 회복임익성pp. 1-42아렌트 공적 행복 개념의 발전적 재구성을 위한 보충적 논제들정원규pp. 43-68헤겔의 민족 개념에 관한 고찰 - 『예나 체계기획Ⅰ, Ⅲ』을 중심으로 -황순호pp. 69-985․18민주화운동의 계승과 시민교육의 방향: 정치철학적 고찰임경석pp. 99-122‘지속적 위기’의 시대, 보호망 짓기의 새로운 방법으로서 ‘지방자치’의 가능성에 대한 정치철학적 제안김만권pp. 123-146
원문 보기