인공지능을 활용한 도덕 향상에 대한 비판적 검토
A Critical Examination of Moral Enhancement Using Artificial Intelligence
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
본 논문은 인공지능을 활용한 도덕 향상, 즉 인공적 도덕 향상(artificial moral enhancement, AME)의 성립 조건과 한계를 검토하여 인공적 윤리 보조자(artificial ethics assistant, AEA)의 적절한 역할을 규명한다. 우선 기존 AME 논의들이 제시한 ‘정보 제공형’, ‘소크라테스적 대화형’, ‘모듈식 대화형’ 등의 유형을 분석하여, 이들이 AEA의 기능적 측면에만 주목한 채 인간-기술의 관계적이고 협력적인 측면 및 도덕적 성장 과정에서 발생하는 부정적 감정의 문제를 충분히 다루지 못했음을 지적한다. 이러한 한계를 보완하기 위해 선행 연구에서 대화를 통한 도덕적 향상의 표준형으로 제시되는 소크라테스적 산파술을 관계적 관점에서 재해석하고, AEA가 도덕 향상이라는 목적을 달성하기 위해서는 사용자에게 부정적 경험을 초래할 수도 있는 모종의 자율성이 허용될 필요가 있다고 주장한다. 다만 이러한 AEA의 능동성은 맥락에 따라 적절히 조절될 필요가 있는데, 이를 위한 실용적 기준으로서 도덕(moral/morality)과 윤리(ethics) 개념의 구분을 제안한다. 본 연구는 AME와 AEA를 둘러싼 윤리적 쟁점들을 비판적으로 검토함으로써, 관련 기술의 설계와 적용을 위한 규범적 함의를 제공한다.
Abstract
This study examines the conditions and limitations of artificial moral enhancement (AME) through artificial intelligence, exploring the appropriate role of the artificial ethics assistant (AEA). Existing AME discussions—exemplified by the “information-providing,” “Socratic dialogue,” and “modular dialogue” models—have often focused narrowly on the functional aspects of the AEA, overlooking the relational aspects of human-technology collaboration and the negative emotions that can emerge during moral growth. To address these shortcomings, this study reinterprets Socratic midwifery, posited in prior research as the standard form of dialogical moral enhancement, from a relational perspective. It contends that the AEA requires a certain degree of autonomy—one that may sometimes provoke discomfort in users—to effectively facilitate moral development. However, this autonomy must be judiciously modulated to suit varying contexts, for which a conceptual distinction between “moral/morality” and “ethics” is proposed as a practical criterion. By critically examining the ethical issues surrounding AME and the AEA, this study offers normative implications for the design and application of related technologies.
참고문헌 (45)
- 김상득, "윤리적 행동주의와 AI 로봇의 도덕적 지위", 철학연구, 167 (2023)
- 대규모 언어모델은 마음을 갖는가?: ChatGPT와 ‘대화’의 의미와 윤리적 문제, "김현섭", ~, pp.인공지능 ELSI 리포트 1 (2024)
- 목광수, "도덕적 지위에 대한 기존 논의 고찰", 윤리학, 5(2) (2016)
- 목광수, "도덕의 구조: 인공지능 시대 도덕 논의의 출발점", 철학사상, 73 (2019)
- 목광수, "인공지능 개발자 윤리" (2024), 커뮤니케이션북스
- 손영창, "리쾨르의 윤리학에서 살펴본 자기성과 타자의 문제: 리쾨르의 아리스토텔레스와 칸트의 해석을 중심으로", 대동철학, 59 (2012)
- 윤준식, "기술적 도덕 향상 시대의 도덕교육", 도덕윤리과교육, 85 (2024)
- 정태창, "인공 지능의 도덕적 지위와 현상적 의식", 사회와 철학, 47 (2024)
- Beauchamp, Tom L., "생명의료윤리의 원칙들" (2014), 이화여자대학교 생명의료법연구소
- Habermas, Jürgen, "인간이라는 자연의 미래: 자유주의적 우생학 비판" (2003), 나남
- Habermas, Jürgen, "사실성과 타당성: 담론적 법이론과 민주적 법치국가 이론" (2007), 나남
- Haidt, Jonathan, "나쁜 교육: 덜 너그러운 세대와 편협한 사회는 어떻게 만들어지는가" (2019), 프시케의숲
- Diogenes Laertius, "유명한 철학자들의 생애와 사상 1" (2021), 나남
- Persson, Ingmar, "미래 사회를 위한 준비: 도덕적 생명 향상" (2015), 도서출판 하우
- Plato, "소크라테스의 변명 외" (2012), 올재
- 메논, "플라톤전집Ⅱ: 파이드로스", pp.카르미데스, 뤼시스
- Plato, "테아이테토스" (2022), 아카넷
- Risse, Mathias, "AI 시대의 정치이론: 인공지능이 민주주의를 파괴할 것인가?" (2024), 그린비
- Scharre, Paul, "새로운 전쟁: 인공지능과 로봇은 전쟁을 어떻게 바꿀 것인가?" (2021), 로크미디어
- Williams, Bernard, "윤리학과 철학의 한계" (2022), 필로소픽
- Boddington, Paula, "AI Ethics: A Textbook" (2023), Springer Nature
- Boghossian, Peter, "Socratic Pedagogy: Perplexity, Humiliation, Shame and a Broken Egg", Educational Philosophy and Theory, 44(7) (2012)
- Bryson, Joanna J., "Patiency Is not a Virtue: The Design of Intelligent Systems and Systems of Ethics", Ethics and Information Technology, 20 (2018)
- Danaher, John, "Welcoming Robots into the Moral Circle: A Defence of Ethical Behaviourism", Science and Engineering Ethics, 26(4) (2021)
- Dietrich, Eric, "Homo Sapiens 2.0: Why We Should Build the Better Robots of Our Nature", Journal of Experimental & Theoretical Artificial Intelligence, 13(4) (2001)
- Douglas, Thomas, "Moral Enhancement", Journal of Applied Philosophy, 25(3) (2008)
- Firth, Roderick, "Ethical Absolutism and the Ideal Observer", Philosophy and Phenomenological Research, 12(3) (1952)
- Giubilini, Alberto, "The Artificial Moral Advisor: The ‘Ideal observer’ Meets Artificial Intelligence", Philosophy & Technology, 31 (2018)
- Harris, John, "Moral Enhancement and Freedom", Bioethics, 25(2) (2011)
- Hauskeller, Michael, "Is it Desirable to Be Able to Do the Undesirable?: Moral Bioenhancement and the Little Alex Problem", Cambridge Quarterly of Healthcare Ethics, 26(3) (2017)
- Lara, Francisco, "Artificial Intelligence as a Socratic Assistant for Moral Enhancement", Neuroethics, 13(3) (2020)
- Lara, Francisco, "Why a Virtual Assistant for Moral Enhancement When We Could Have a Socrates?", Science and Engineering Ethics, 27(4) (2021)
- Matthias, Andreas, "The Responsibility Gap: Ascribing Responsibility for the Actions of Learning Automata", Ethics and Information Technology, 6 (2004)
- Moor, James, "Four Kinds of Ethical Robots", Philosophy Now, 72 (2009)
- Nails, Debra, "The Stanford Encyclopedia of Philosophy" (2022)
- Nyholm, Sven, "This Is Technology Ethics: An Introduction" (2023), John Wiley & Sons, Inc
- Pekarsky, Daniel, "Socratic Teaching: A Critical Assessment", Journal of Moral Education, 23(2) (1994)
- Persson, Ingmar, "The Perils of Cognitive Enhancement and the Urgent Imperative to Enhance the Moral Character of Humanity", Journal of Applied Philosophy, 25(3) (2008)
- Rakić, Vojin, "Voluntary Moral Enhancement and the Survival-at-any-cost Bias", Journal of Medical Ethics, 40(4) (2014)
- Savulescu, Julian, "Beyond Artificial Intelligence: The Disappearing Human-Machine Divide" (2015)
- Um, Sungwoo, "Trustfulness as a Risky Virtue", Journal of Humanities, 81(2) (2024)
- Vedder, Anton, "An Obligation to Enhance?", Topoi, 38 (2019)
- Volkman, Richard, "AI Moral Enhancement: Upgrading the Socio-technical System of Moral Engagement", Science and Engineering Ethics, 29(2) (2023)
- Walker, Paul, "Should We Be Talking About Ethics or About Morals?", Ethics & Behavior, 27(5) (2017)
- Wallach, Wendell, "Moral Machines" (2009), Oxford University Press