본문 바로가기
KERD
논문KCI 등재

인공 지능의 도덕적 지위와 현상적 의식

Moral Status of Artificial Intelligence and Phenomenal Consciousness

정태창
한국사회와철학연구회|2024.04|사회와 철학 (Social Philosophy)|제47호|pp. 119-155

0

조회

0

다운로드

1

인용

0

참고문헌

키워드

Artificial Intelligence인공 지능인간중심주의Anthropocentrism도덕적 지위기능주의FunctionalismMoral StatusPhenomenal Consciousness현상적 의식

초록

오늘날 인공 지능의 발달이 점점 더 가속화됨에 따라 고차원적인 수준의 인공 지능 및 그것을 탑재한 로봇의 도덕적 지위에 대한 물음이 순수한 이론적 차원을 넘어 현실 속에서 하나의 중요한 문제로 대두되고 있다. 본 논문의 목표는 이 물음에 대한 가장 합당한 답변을 감성주의(sentientism), 즉 현상적 의식을 인공 지능이 도덕적 지위를 갖기 위한 하나의 필요조건으로 간주하는 입장에서 찾을 수 있음을 보이는 것이다. 이를 위해 본 논문에서는 다음과 같은 작업이 수행된다. 먼저 감성주의를 지지하는 논변으로 개념적 정당화 논변과 간접적 정당화 논변이 제시된다. 이러한 두 가지 논변은 오늘날 감성주의가 어떤 존재자의 도덕적 지위의 소유 여부를 판단하기 위한 표준적인 입장을 이루고 있음을 시사한다. 계속해서 현상적 의식을 결여하는 존재자에게 도덕적 지위를 부여할 수 있다는 입장들이 설득력을 갖기 어려움을 보일 것이다. 그러한 반감성주의적 입장들 대부분의 공통의 기초를 이루고 있는 기능주의는 방만한 기능주의와 도구주의라는 두 가지 근본적인 문제점에 직면하게 되며, 관계론적 입장은 기능주의에 의존하지 않는 대신 도덕적 지위의 문제를 지나치게 주관적이고 상대적인 것으로 만든다는 대가를 치른다. 마지막으로 감성주의가 인간에게 특권적 지위를 부여하는 인간중심주의에 빠짐으로써 종차별주의의 오류를 범하고 있다는 관계론적 입장의 비판이 잘못된 이유들을 살펴본다. 본 논문의 관점에서는 반대로 이러한 입장이야말로 인공 지능을 인간의 ‘형상대로’ 이해하는 인간중심주의에 빠져 있는 것으로 이해될 수 있다.

Abstract

As the development of artificial intelligence continues to accelerate, the question of moral status of higher-level artificial intelligence and robots is no longer purely theoretical, but has become an important issue in the real world. This paper aims to show that the most plausible answer to this question can be found in sentientism, i.e. a position that views phenomenal consciousness as a prerequisite for AI to have moral status. The main discussion of this paper is organized as follows. First, conceptual justification argument and indirect justification argument are presented as arguments in support of sentientism. These two arguments suggest that sentientism constitutes the standard position for determining whether an entity has moral status or not. This paper will go on to show that positions that deny sentientism and allow us to assign moral status to entitiess lacking phenomenal consciousness are hardly convincing. Functionalism, which is the common ground for these anti-sentientist positions, has two fundamental problems: loose functionalism and instrumentalism. The relationalist position makes it possible to assign moral status to beings that lack phenomenal consciousness without resorting to functionalism. This paper will show that this position makes the question of the moral status overly subjective and relative. Finally, we’ll look at why the relationalist critique that sentientism commits the fallacy of speciesism by falling into anthropocentrism, which gives humans a privileged status, is misguided. From the perspective of this paper, the relationalist position, on the contrary, can be understood as mired in anthropocentrism, understanding AI as “in the image” of humans.

참고문헌 (62)

  1. 김형주, "인공지능 인문학: If의 미래학에서 As-If의 철학으로", 철학연구, 151, pp.109~134 (2019)
  2. 노형래, "진화론적 기능 개념에 따른 복수실현 논제", 철학적분석, (45), pp.1~31 (2021)
  3. 목광수, "인공지능 시대에 적합한 인격 개념: 인정에 근거한 모델을 중심으로", 철학논총, 90(4), pp.187~212 (2017)
  4. 신상규, "‘기능’과 기능주의", 철학논집, 21, pp.89~120 (2010)
  5. 신상규, "인공지능은 자율적 도덕행위자일 수 있는가?", 철학, 132, pp.265~292 (2017)
  6. 신상규, "인공지능, 새로운 타자의 출현인가?", 철학과현실, 112, pp.155~178 (2017)
  7. 신상규, "인공지능의 도덕적 지위와 관계론적 접근", 철학연구, 149, pp.243~273 (2019)
  8. 정태창, "칸트의 자율성에 대한 구성주의 해석과 실재론 해석의 화해 가능성", 철학사상, (67), pp.33~59 (2018)
  9. 정태창, "자아 없는 자율성: 인공 지능의 도덕적 지위에 대한 고찰", 사회와철학, 40, pp.147~180 (2020)
  10. 천현득, "대형언어모형은 이해를 가지는가?", 철학사상, (90), pp.75~105 (2024)
  11. 최희열, "인공지능이 마음을 가질까?", 철학과현실, (124), pp.129~143 (2020)
  12. 한우진, "비개념적 내용과 현상적 의식", 철학연구, (84), pp.315~340 (2009)
  13. 한우진, "복수 실현가능성과 환원", 철학적분석, (23), pp.109~137 (2011)
  14. "구글 AI가 ‘살아 있지 않은’ 이유" (2022)[URL]
  15. "젠슨 황 엔비디아 CEO “인간과 같은 수준의 AGI, 5년이내 등장”" (2024)[URL]
  16. Andreotta, A., "The Hard Problem of AI Rights", AI & Society, 36, pp.19~32 (2021)
  17. Basl, J., "The Oxford Handbook of Ethics of AI", pp.289~306 (2020), Oxford University Press
  18. Behdadi, D., "A Normative Approach to Artificial Moral Agency", Minds and Machines, 30, pp.195~218 (2020)
  19. Bentham, J., "An Introduction to the Principles of Morals and Legislation" (2017), Anodos Books
  20. Bostrom, N., "Superintelligence" (2014), Oxford University Press
  21. Block, N., "The Nature of Consciousness", pp.375~416 (1997), The MIT Press
  22. Brooks, R., "Artificial Intimacy" (2021), Columbia University Press
  23. "Sparks of Artificial General Intelligence: Early Experiments with GPT-4" (2023)[URL]
  24. Chalmers, D., "The Conscious Mind" (1996), Oxford University Press
  25. Chalmers, D., "The Character of Consciousness" (2010), Oxford University Press
  26. Chalmers, D., "Could a Large Language Model be Conscious?", NeurIPS 2022 (2022)
  27. Churchland, P., "Matter and Consciousness" (2013), The MIT Press
  28. Coeckelbergh, M., "Growing Moral Relations: Critique of Moral Status Ascription" (2012), Palgrave
  29. Coeckelbergh, M., "The Moral Standing of Machines", Philosophy & Technology, 27, pp.61~77 (2014)
  30. Coeckelbergh, M., "How to Do Robots with Words", Ethics and Information Technology, 25 (2023)
  31. DeGrazia, D., "Genetic Enhancement, Post-Persons and Moral Status: A Reply to Bucahnan", Journal of Medical Ethics, pp.135~139 (2012)
  32. Dreyfus, H., "What Computers Can’t Do" (1978), Harper & Row
  33. Franklin, S., "The Cambridge Handbook of Artificial Intelligence", pp.15~33 (2014), Cambridge University Press
  34. Gibert, M., "In Search of the Moral Status of AI", AI & Society, 37, pp.319~330 (2022)
  35. Gordon, J.-S., "What Do We Owe to Intelligent Robots?", AI & Society, 35, pp.209~223 (2020)
  36. Gorr, M., "Is Moral Status Done with Words?", Ethics and Information Technology, 26 (2024)
  37. Gunkel, D., "The Machine Question" (2012), The MIT Press
  38. Gunkel, D., "Robot Rights" (2018), The MIT Press
  39. Gunkel, D., "Person, Thing, Robot" (2023), The MIT Press
  40. Harris, J., "The Moral Consideration of Artificial Entities: A Literature Review", Science and Engineering Ethics, 27(4), pp.1~95 (2021)
  41. Johnson, D., "Why Robots Should Not Be Treated Like Animals", Ethics and Information Technology, 20, pp.291~301 (2018)
  42. Kurzweil, R., "The Singularity Is Near" (2007), Penguin
  43. Liao, S., "Ethics of Artificial Intelligence", pp.480~503 (2020), Oxford University Press
  44. McDermott, D., "Machine Ethics", pp.88~114 (2011), Cambridge University Press
  45. Mosakas, K., "On the Moral Status of Social Robots", AI & Society, 36, pp.429~443 (2021)
  46. Müller, V., "Is It Time for Robot Rights? Moral Status in Artificial Entities", Ethics and Information Technology, 23, pp.579~587 (2021)
  47. Putnam, H., "Representation and Reality" (1991), The MIT Press
  48. Putnam, H., "Mind, Language and Reality, Philosophical Papers Vol. 2", pp.215~271 (1997), Cambridge University Press
  49. Putnam, H., "Mind, Language and Reality, Philosophical Papers Vol. 2", pp.429~440 (1997), Cambridge University Press
  50. Rajakishore, N., "The Problem of Machine Ethics in Artificial Intelligence", AI & Society, 35, pp.103~111 (2020)
  51. Regan, T., "The Case for Animal Rights" (2004), University of California Press
  52. Russell, S., "Human Compatible" (2019), Viking Press
  53. Searle, J., "Minds, Brains, and Programs", The Behavioral and Brain Sciences, 3, pp.417~457 (1980)
  54. Shapiro, L., "Multiple Realizations", The Journal of Philosophy, 97(12), pp.635~654 (2000)
  55. Shepherd, J., "Consciousness and Moral Status" (2018), Routledge
  56. Siewert, C., "The Significance of Consciousess" (1998), Princeton University Press
  57. Singer, P., "Animal Liberation" (2002), Harper Collins Publishers
  58. Singer, P., "Practical Ethics" (2011), Cambridge University Press
  59. Street, S., "Oxford Studies in Metaethics, Vol. 3", pp.207~246 (2008), Oxford University Press
  60. Maclure, J., "The New AI Spring: a Deflationary View", AI & Society, 35, pp.747~750 (2020)
  61. Wallach, W., "Moral Machines" (2009), Oxford University Press
  62. Warren, M., "Moral Status" (1997), Oxford Clarendon Press

관련 논문AI추천

AI 로봇의 도덕적 지위에 관한 예비적 고찰김상득동서사상연구소 · 철학∙사상∙문화2021 · 제37호동물과 AI를 통한 인간의 도덕적 지위 탐구이경근한국윤리학회(8A3209) · 윤리학2024 · 제13권 제2호인공지능의 도덕적 지위에 대한 관계-존재론적 접근: 관계 속에서 자라나는 과정적 속성 기반의 도덕적 지위 부여김재환한국윤리학회(8A3209) · 윤리학2025 · 제14권 제2호인공 지능에(게) 예술 작품의 저작권이 있는가?: 철학적 접근최훈인간환경미래연구원 · 인간.환경.미래2025 · 제35호자아 없는 자율성 - 인공 지능의 도덕적 지위에 대한 고찰 -정태창한국사회와철학연구회 · 사회와 철학2020 · 제40호로봇과 인간의 우정은 가능한가? －로봇의 도덕적 지위와 인간성의 의미－이원봉범한철학회 · 범한철학2024 · 제115권 제4호

이 간행물의 다른 논문 (5건)

자연 지배적 사회의 기만적 화해: MBN <나는 자연인이다>의 대중 기만적 성격 비평강한pp. 1-29자율성과 사회적 사실 - 아도르노 미학에서 예술과 사회의 관계곽영윤pp. 31-56지성적 양심과 사유의 도덕 - 아도르노의 지식인론 -이하준pp. 57-85악셀 호네트의 인정이론에서 사랑의 상호성장성빈pp. 87-118‘21세기 K-지식인’과 ‘지구 지성’ - 문명 존립에서 ‘지식인’ 실존의 양상에 관한 역사적 탐색과 사회인식론적 개념화를 바탕으로 -홍윤기pp. 157-206
원문 보기