인공지능, 도덕적 기계, 좋은 사람
AI, Moral Machine, Good Person
0
조회
0
다운로드
8
인용
0
참고문헌
키워드
초록
이 글은 인공지능은 행위의 동기와 의도 그리고 목적을 스스로 생성하고 산출할 수 있는 자율적 행위자가 아니기 때문에 도덕적 기계가 될 수 없다고 주장한다. 예상 가능한 인공지능 행위자가 갖게 될 공학적 의미의 자율성은 인간 행위자의 도덕적 자율성과 근본적인 차이를 가지며, 그것은 단지 의사(pseudo) 자율성에 불과하다. 따라서 그것은 그냥 놀랍도록 편리하거나 위험한 기계일 뿐이다. 동기와 의도 그리고 목적의 자기생성과 자기산출 및 자기변경이 가능한 자율성만이 진정한 의미의 도덕적 자율성이다. 반면에 인공지능 행위자는 기껏해야 형식적 자율성만을 가지며, 그러한 자율성은 한정된 목적에 제약되고, 그것만을 실행하도록 특화된 자동기계의 자동성에 다름 아니다. 아무리 복잡한 윤리적 문제의 해결을 위해 설계된 인공지능이라도 언제나 프로그램이 지시하는 일정한 그리고 한정된 행위만을 충실히 이행하는 기계인 한, 그것은 실제로는 도덕적 기계도 도덕적 행위자도 아니다. 도덕적 기계는 이론적으로도 실제적으로도 불가능하다. 만일 그런 존재가 있다면, 그것은 분명 인간종 이상의 다른 새로운 가공할 위력을 지닌 인공종일 것이다. 현재 가능한 인공지능 행위자를 둘러싸고 벌어지는 대부분의 전망들은 그릇된 상상의 산물이다. 도덕적 기계의 불가능성과 함께 윤리적 관점에서 의사 자율적 행위자에 불과한 인공지능 로봇은 모든 면에서 위험성을 완전히 제거하도록 철저하게 기획되고 통제된 기계이지 않으면 안 된다.
Abstract
In this paper I will argue that artificial intelligence cannot be a moral machine because it is not an autonomous agent who can create and establish the motive, intention and purpose of the act on his own. The autonomy of the engineering meaning that an anticipated artificial intelligence agent will have, or the autonomy of artificial intelligence, has a fundamental difference from the moral autonomy of the human agent, and it is merely a pseudo-autonomy. So it's just an incredibly convenient or dangerous machine. Only self-creation and self-establishment and self-modification of motive, intention and purpose are the real moral autonomy, whereas artificial intelligence agents have only formal autonomy at best, and such autonomy is no less than the automation of automatic machines which is limited to a limited purpose, and specialized to implement only that. A machine that always performs certain acts is not really a moral machine or a moral agent. Artificial intelligence can never be a moral machine. Moral machines are theoretically and practically impossible. If there was such an existence, it would certainly be an artificial species with other formidable powers beyond human species. Thus, most of those prospects that take place around the current possible artificial intelligence agents are a product of false imagination. Artificial intelligence robots, which are nothing but pseudo-autonomous agents from an ethical standpoint, along with the impossibility of moral machines, must be thoroughly planned and controlled machines in all respects.
참고문헌 (39)
- 고인석, "인공지능의 존재 지위에 대한 두 물음", 철학, (136), pp.161~183 (2018), 한국철학회[DOI]
- 도용태, "인공지능 개념 및 응용" (2009), 사이텍미디어
- 맹주만, "이성과 공감" (2020), 어문학사
- 맹주만, "칸트의 윤리학" (2019), 어문학사
- 맹주만, "인공지능과 로봇의사윤리", 철학탐구, 52, pp.271~308 (2018), 중앙철학연구소[DOI]
- 맹주만, "칸트의 덕과 덕-감정", 칸트연구, (28), pp.29~50 (2011), 한국칸트학회
- 변순용, "로봇윤리란 무엇인가" (2015), 어문학사
- 변순용, "로봇윤리의 이론적 기초를 위한 근본 과제 연구", 倫理硏究, 1(88), pp.1~26 (2013), 한국윤리학회[DOI]
- 신상규, "인공지능은 자율적 도덕행위자일 수 있는가?", 철학, (132), pp.265~292 (2017), 한국철학회[DOI]
- 이중원, "인공지능의 존재론" (2018), 한울아카데미
- Anderson, M, "Machine Ethics" (2008), Cambridge University Press
- Aristotle, "The Nicomachean Ethics" (2000), Cambridge University
- Aristotle, "니코마코스 윤리학" (1984), 서광사
- Aristotle, "니코마코스 윤리학" (2006), 이제이북스
- Asimov, I, "I, Robot" (2008), Spectra
- Boden, Margaret A, "The Philosophy of Artificial Intelligence" (1990), Oxford University Press
- Bostrom, N, "Superintelligence: Paths, Dangers, Strategies" (2014), Oxford University Press
- Bostrom, N, "In defense of Posthuman Dignity", Bioethics, 19(3), pp.202~214 (2005)
- Cohon, R, "The Common Point of View in Hume’s Ethics", Philosophy and Phenomenological Research, 57 (1997)
- Edelman, Gerald M, "Second Nature: Brain Science and Human Knowledge" (2006), Yale University Press
- Engelhardt, Jr. H, "Tristram, Foundations of Bioethics" (1996), Oxford University
- Gelhaus, P, "Robot decisions: on the importance of virtuous judgment in clinical decision making", Journal of Education in Clinical Practice, 17, pp.883~887 (2011), Blackwell Publishing Ltd
- Hume, D, "A Treatise of Human Nature" (1980), Oxford University Press
- Hume, D, "An Enquiry concerning the Principles of Morals" (1983), Hackett Publishing Company
- Jatinder N. D. Gupta, "Intelligent Decision-making Support Systems: Foundations, Applications and Challenges" (2006), Springer
- Kant, I, "Grundlegung zur Metaphysik der Sitten, Herausgegeben von Wilhelm Weischedel" (1968), Suhrkamp
- Oliver, Richard W, "The Coming Biotech Age" (2000), McGraw-Hill
- Prinz, Jesse J, "The Emotional Construction of Moral" (2007), Oxford University Press
- Rifkin, J, "The Biotech Centry", pp.1998, Jeremy P. Tarcher
- Russell, S, "Artificial Intelligence : A Modern Approch" (2010), Prentice Hall
- Sobel, J. H, "Walls and Vaults: a natural science of morals, virtue ethics according to David Hume" (2009), John Wiley & Sons, Inc
- 4), "Semiotica, Journal of the International Association for Semiotic Studies, 2001 Vol. 134(1", pp.2001, Sebeok, Thomas A
- Swain, Corliss G, "Passionate Objectivity", Nous, 26 (1992)
- Turing, Alan D, "Computing Machinery and Intelligence", Mind, LIX(236) (1950)
- Vallverdú, Jordi, "Thinking Machines and the Philosophy of Computer Science: Concepts and Principles" (2010), IGI Global
- Wallach, W, "Moral Machines" (2009), Oxford University Press
- Wallach, W, "왜 로봇의 도덕인가" (2014), 메디치