흄의 도덕적 기계와 인공지능
Hume‘s Moral Machine and Artificial Intelligence
1
조회
0
다운로드
2
인용
0
참고문헌
키워드
초록
인공지능은 도덕적 기계가 될 수 있는가? 도덕적 기계의 불가능성을 주장하는 견해에 의하면 한 존재가 진정한 의미의 도덕적 자율성을 갖기 위해서는 ‘자기생성적, 자기정립적, 자기목적적, 자기선택적’ 주체이어야 한다. 이를 한 주체가 도덕적 행위자이기 위한 “도덕적 자율성 조건”이라 부를 수 있다. 이러한 조건적 가정 아래 다음과 같은 물음이 가능하다. 1) 도덕적 자율성은 한 존재를 도덕적 주체로 간주할 수 있는 필연적 조건인가? 그리고 2) 자율주행 자동차처럼 특정한 목적을 수행하도록 설계된 인공지능도 자율적인 도덕적 행위자라 할 수 있는가? 이 글은 첫 번째 물음에 대해서는 ‘중립적 입장’을 견지하며, 두 번째 물음에 대해서는 ‘그렇다’는 대답과 함께 그 실제적 가능성을 데이비드 흄의 철학에 담겨 있는 통찰에 기대어 옹호한다. 이와 함께 흄적 관점에서의 도덕적 기계가 지닌 위험성도 진단해 볼 것이다.
Abstract
Can artificial intelligence be a moral machine? The argument for the impossibility of a moral machine states that in order for an entity to have true moral autonomy, its will must be fundamentally "self-generated, self-established, self-directed, self-selective" entity. This can be called "the moral autonomy conditions" for the subject to be a artificial moral actor as moral machine. Under these conditional assumptions, the following questions are possible: 1) Is moral autonomy a necessary condition to regard an existence as a moral subject? And 2) Is artificial intelligence designed to serve a particular purpose, such as self-driving cars, an autonomous moral agent as moral machine? This paper maintains a neutral standpoint on the first question, and attempts to find its practical possibilities based on the insights contained in David Hume's philosophy on the human nature and the ethical theory, with the answer "yes" on the second question. In addition, I will diagnose the dangers of moral machines from a Humean perspective.
참고문헌 (28)
- 김다솜, "흄의 정념과 도덕적 속성", 철학탐구, 51, pp.91~113 (2018), 중앙철학연구소[DOI]
- 김다솜, "흄의 자연주의 윤리학", pp.2018
- 맹주만, "인공지능, 도덕적 기계, 좋은 사람", 철학탐구, 59, pp.213~242 (2020), 중앙철학연구소[DOI]
- 맹주만, "이성과 공감" (2020), 어문학사
- 신상규, "인공지능은 자율적 도덕행위자일 수 있는가?", 철학, (132), pp.265~292 (2017), 한국철학회[DOI]
- 양선이, "흄의 인과과학과 자유와 필연의 화해 프로젝트", 철학, (113), pp.27~66 (2012), 한국철학회
- 이중원, "인공지능의 존재론" (2018), 한울아카데미
- Anderson, M., "Machine Ethics" (2018), Cambridge University Press
- Baird R. M., "Cyberethics" (2000), Prometheus Books
- Cohon, R., "The Common Point of View in Hume’s Ethics", Philosophy and Phenomenological Research, 57 (1997)
- Edelman, Gerald M., "세컨드 네이처" (2017), 이음
- Gauthier, D, "Morals by Agreement" (1986), Clarendon Press
- Gauthier, D., "합의도덕론" (1993), 철학과현실사
- Gelhaus, P., "Robot decisions: on the importance of virtuous judgment in clinical decision making", Journal of Education in Clinical Practice, 17, pp.883~887 (2011), Blackwell Publishing Ltd
- Goldman, Alan H, "Moral Knowledge" (1988), Routledge
- Hume, D., "A Treatise of Human Nature" (1980), Oxford University Press
- Hume, D., "An Enquiry concerning the Principles of Morals" (1983), Hackett Publishing Company
- Hursthouse, R., "On Virtue Ethics" (1999), Oxford University Press
- Jatinder N. D. Gupta, "Intelligent Decision-making Support Systems: Foundations, Applications and Challenges" (2006), Springer
- Mill, J. S., "On Liberty, A Forum Book" (1966), Pyramid
- Mill, J. S., "Utilitarianism" (1957), The Liberal Arts Press
- Prinz, Jesse J., "The Emotional Construction of Moral" (2007), Oxford University Press
- Russell, S, "Artificial Intelligence : A Modern Approch" (2010), Prentice Hall
- Scheffler, S, "The Rejection of Consequentialism" (1994), Clarendon Press
- Sobel, J. H., "Walls and Vaults: a natural science of morals, virtue ethics according to David Hume" (2009), John Wiley & Sons, Inc.
- Vallverdú, Jordi, "Thinking Machines and the Philosophy of Computer Science : Concepts and Principles" (2010), IGI Global
- Wallach, W., "Moral Machines" (2009), Oxford University Press
- Wallach, W., "왜 로봇의 도덕인가" (2014), 메디치