인공지능 상담의 윤리적 이슈와 대안
Ethical Issues and Alternatives in Artificial Intelligence Counseling
0
조회
0
다운로드
3
인용
0
참고문헌
키워드
초록
본 논문은 공감적 인공지능상담가의 등장이 초래할 수 있는 윤리적 이슈들을분석하고 덕윤리적 입장에서 대안을 제시하려 한다. 첫째, 본 논문은 공감적 인공지능 상담가와 인간 내담자 사이에 전이 또는 역전이가 발생할 경우 심리 및 행동통제의 이슈가 발생할 수 있음을 지적한다. 둘째, 인공지능상담가와 인간 내담자의 상담시에 문제가 발생했을 경우, 윤리적, 법적 책임 소재의 여부가 논쟁이될 수 있으므로, 본 논문은 이를 판단하기 위한 선제적 연구와 기준을 마련할것을 주장한다. 셋째로, 본 논문은 인공지능 상담시에는 내담자의 민감한 사적정보가 기록 및 분석될 수 있으므로, 일반적인 수준보다 높고 철저하게 프라이버시 보호를 강화할 방안이 마련되어야 함을 주장한다. 윤리적 이슈들에 대응하는방법들은 주로 윤리 강령을 제정하는 것이며 국내에서도 ‘사람이 중심이 되는인공지능 윤리기준’을 마련하였지만, 이러한 윤리 강령들에는 제한점이 많고 인공지능 개발에 있어서는 초기 단계에서만 유효할 가능성이 높다. 따라서, 본 논문은 인공지능 상담가의 개발과 이에 따른 윤리적 이슈를 예방하기 위해서는 윤리강령의 제정과 실행에 그치지 말고, 덕윤리적 관점을 채용하여 도덕적 또는 덕을함양한 공감적 인공지능 개발을 지향할 것을 주장한다. 이때, 본 논문은 종교적인덕을 포함하는 공감적 인공지능이 더욱 효과적이고 윤리적으로 다양한 문제 상황에 대응할 수 있을 것으로 추정한다.
Abstract
This paper analyzes ethical issues that the emergence of empathic artificial intelligence counselors can lead to and presents alternatives from virtue ethics. First, this paper points out that the issue of psychological and behavioral control may arise when transference or countertransference occur between empathetic artificial intelligence counselors and human clients. Secondly, if problems are ex- pected to arise between artificial intelligence counselors and human clients, it is argued that preemptive measure should be established to determine ethical and legal responsibilities. Third, it is argued that in artificial intelligence counseling, sensitive private information of the clients will be recorded and analyzed, so it is imperative to seek ways to enhance privacy protection higher than usual cases. While some possible ways to respond to ethical issues are to establish a code of ethics in general, the code of ethics has some limitations and is likely to be valid only in the early stages of artificial intelligence development. Therefore, this pa- per argues that in order to prevent the ethical issues that may arise from the de- velopment of artificial intelligence counselors, it is necessary to employ virtue ethics to the development of moral or virtuous artificial intelligence counselors. This paper estimates that empathic artificial intelligence counselors that develop religious virtues, may be more effective and ethically sound, which are able to re- spond to various problematic situations.
참고문헌 (26)
- 과학기술정보통신부, "사람이 중심이 되는 인공지능(AI) 윤리기준", 관계부처 합동, ~ (2020)
- 니시다, 토요아키, "로봇윤리" (2013), 어문학사
- 문시영, "하우어워스와 ‘덕의 공동체’로서의 교회", 기독교사회윤리, (23), pp.159~186 (2012), 한국기독교사회윤리학회[DOI]
- 아사로, 피터, "로봇윤리" (2013), 어문학사
- 월러치, 웬델, "왜 로봇의 도덕인가" (2014), 메디치
- Armstrong, Stuart, "Thinking inside the Box: Controlling and Using an Oracle AI", Minds and Machines, 22(4), pp.299~324 (2012)
- Atkinson, Paul, "Ethics and Ethnography", Twenty-First Century Society, 4(1), pp.17~30 (2009)
- Boddington, Paula, "Towards a Code of Ethics for Artificial Intelligence" (2017), Springer International Publishing
- Bostrom, Nick, "Superintelligence : Paths, Dangers, Strategies" (2014), Oxford University Press
- Bostrom, Nick, "The Superintelligent Will: Motivation and Instrumental Rationality in Advanced Artificial Agents", Minds and Machines, 22(2), pp.71~85 (2012)
- Geraci, Robert M., "Apocalyptic AI: Visions of Heaven in Robotics, Artificial Intelligence, and Virtual Reality" (2010), Oxford University Press
- High-Level Expert Group on Artificial Intelligence, "Ethics Guidelines for Trustworthy AI", European Commission, 1~39 (2019)
- Levy, David, "Robots Unlimited: Life in a Virtual Age" (2005), CRC Press
- Luxton, David D., "Recommendations for the Ethical Use and Design of Artificial Intelligent Care Providers", Artificial Intelligence in Medicine, 62(1), pp.1~10 (2014)
- MacIntyre, Alasdair C., "After Virtue" (2007), University of Notre Dame Press
- Mann, David, "Erotic Transference and Countertransference: Clinical Practice in Psychotherapy" (1999), Psychology Press
- Mann, David, "Psychotherapy, an Erotic Relationship: Transference and Countertransference Passions" (1997), Psychology Press
- McBride, James, "Robotic Bodies and the Kairos of Humanoid Theologies", Sophia, 58(4), pp.663~676 (2019)
- Smuha, Nathalie A., "The Eu Approach to Ethics Guidelines for Trustworthy Artificial Intelligence", Computer Law Review International, 20(4), pp.97~106 (2019)
- Song, Yong Sup, "Religious AI as an Option to the Risks of Superintelligence:A Protestant Theological Perspective", Theology and Science, 19(1), pp.65~78 (2021)
- Ulnicane, Inga, "Good Governance as a Response to Discontents? Déjà Vu, or Lessons for AI from Other Emerging Technologies", Interdisciplinary Science Reviews, 46(1-2), pp.71~93 (2021)
- Wallach, Wendell, "Ethics of Artificial Intelligence", pp.383~412 (2020), Oxford University Press
- "집주소계좌정보 ‘술술’...‘AI 이루다’ 개인정보 유출 논란"[URL]
- "AI 챗봇 ‘이루다’ 서비스 잠정 중단...‘개선 후 찾아올 것’"[URL]
- "AI 이루다, 논란 일주일만에 사실상 종료 ‘중추신경계 폐기’"[URL]
- "‘진짜 사람같은’ 스무살 여대생과 연애... 성착취도"[URL]