본문 바로가기
KERD
논문KCI 등재

의인화가 인공지능의 윤리적 책임 평가에 미치는 영향: 지각된 자유의지의 매개효과를 중심으로

The Effect of Anthropomorphism on AI’s Ethical Responsibility: The Mediating Role of the Perceived Freewill

안정용|성용준
한국소비자·광고심리학회 (Korean Society For Consumer And Advertising Psychology)|2021.05|한국심리학회지: 소비자·광고 (The Korean Journal of Consumer and Advertising Psychology)|제22권 제2호|pp. 155-177|DOI 10.21074/kjlcap.2021.22.2.155

0

조회

0

다운로드

4

인용

0

참고문헌

키워드

인공지능의인화자유의지freewillAI ethics인공지능 윤리윤리적 책임anthropomorphismethical responsibilityartificial Intelligence (AI)
주제분류심리과학

초록

본 연구는 무생물인 인공지능에게 사람들이 윤리적 책임을 기대하는 심리적 기제를 밝혀, 인간-인공지능 상호작용에서 인공지능 윤리의 중요성을 제안하기 위해 설계되었다. 구체적으로 의인화에 의해 야기된 지각된 인공지능 자유의지 수준이 높아질수록 사람들이 지각하는 인공지능의 윤리적 책임이 크기가 커질 것이라는 가설을 설문연구를 통해 검증하였다. 20~50대 남녀를 대상으로 진행한 설문조사 결과, 의인화가 인공지능의 윤리적 책임에 미치는 정적 영향이 검증되었다. 이러한 영향은 의인화에 의해 야기된 지각된 인공지능 자유의지에 의해서 완전 매개되었다. 또한, 인간과 인공지능 비교를 통해, 지각된 자유의지가 윤리적 책임에 미치는 정적 영향이 인간과 인공지능에게 모두 같은 방향으로 적용된다는 것이 검증되었고, 사람들이 인간에 비해 인공지능의 자유의지를 낮게 지각하고, 윤리적 책임 역시 낮게 지각하는 이유가 인간에 비해 상대적으로 낮은 의인화 수준 때문이라는 것을 검증하였다. 본 연구는 사람들이 무생물인 인공지능에게 윤리적 책임을 기대하는 심리적 기제가 지각된 인공지능 자유의지임을 밝혀 인간-인공지능 상호작용에 대한 이해를 넓혔다는 이론적 함의와 윤리적 인공지능 디자인의 필요성을 제안했다는 실무적 함의를 함께 담고 있다.

Abstract

The present research examined the psychological mechanism that lead individuals to expect ethical responsibility of artificial intelligence (AI). Specifically, this research tested the hypothesis that the positive effect of anthropomorphism on the AI’s ethical responsibility is mediated by the perceived freewill. The findings showed that the higher the level of anthropomorphism of AI, the greater the AI’s ethical responsibility. Also, this effect was fully mediated by the perceived AI’s freewill caused by anthropomorphism. Additionally, findings showed that the positive effect of perceived freewill on ethical responsibility applies to both human and AI. That is, participants reported lower ethical responsibility for AI than human as the level of freewill of AI was perceived to be lower than that of human. This research offers theoretical implications of expanding the understanding of human-AI interactions by revealing that the psychological mechanism in which individuals expect ethical responsibility to AI is the perceived free will of AI. It also provides managerial and policy implications by suggesting the need for ethical design of AI for human-AI interaction.

참고문헌 (52)

  1. Angwin, J., "Machine bias", ProPublica, ~ (2016)
  2. Awad, E., "The moral machine experiment", Nature, 563(7729), pp.59~64 (2018)
  3. Bonnefon, J. F., "The social dilemma of autonomous vehicles", Science, 352(6293), pp.1573~1576 (2016)
  4. Buolamwini, J., "Gender shades: Intersectional accuracy disparities in commercial gender classification", Conference on fairness, accountability and transparency, pp.77~91 (2018)
  5. Chandrashekar, S. P., "It’s in Your Control : Free will Beliefs and Attribution of Blame to Obese People and People with Mental Illness", Collabra : Psychology, 6(1), pp.29~ (2020)
  6. "Alexa, Will You Be My Friend? When Artificial Intelligence Becomes Something More" (2018)[URL]
  7. Darwin, C., "The origin of species by means of natural selection: or, the preservation of favored races in the struggle for life", pp.458~ (2009), AL Burt
  8. Dressler, "Understanding criminal law" (1995), Matthew Bender
  9. Duffy, B. R., "Anthropomorphism and the social robot", Robotics and Autonomous Systems, 42(3-4), pp.177~190 (2003)
  10. Ekstrom, L., "Free will" (2018), Routledge
  11. Ellemers, N., "Gender stereotypes", Annual Review of Psychology, 69, pp.275~298 (2018)
  12. Eskine, K. J., "A name you can trust? Personification effects are influenced by beliefs about company values", Psychology & Marketing, 31(1), pp.48~53 (2014)
  13. Epley, N., "On seeing human : a three-factor theory of anthropomorphism", Psychological Review, 114(4), pp.864~ (2007)
  14. Epley, N., "When we need a human : Motivational determinants of anthropomorphism", Social Cognition, 26(2), pp.143~155 (2008)
  15. Feuerbach, L., "The essence of Christianity" (2004), Barnes & Noble Publishing
  16. Fink, J., "Anthropomorphism and human likeness in the design of robots and human-robot interaction", International Conference on Social Robotics, pp.199~208 (2012), Springer
  17. Fischer, J. M., "The metaphysics of free will (Vol. 1)" (1994), Blackwell
  18. Fiske, A. P., "Relativity within Moose (“Mossi”) culture: Four incommensurable models for social relationships", Ethos, 18(2), pp.180~204 (1990)
  19. Frankfurt, H. G., "Alternate possibilities and moral responsibility", The Journal of Philosophy, 66(23), pp.829~839 (1969)
  20. Frankfurt, H. G., "Freedom of the Will and the Concept of a Person", The Journal of Philosophy, 68(1), pp.5~20 (1971)
  21. Freud, A., "Normality and pathology in childhood: Assessments of development" (2018), Routledge
  22. Genschow, O., "Belief in Free Will Affects Causal Attributions When Judging Others’ Behavior", Proceedings of the National Academy of Sciences, 114(38), pp.10071~10076 (2017)
  23. Glick, P., "Beyond prejudice as simple antipathy : hostile and benevolent sexism across cultures", Journal of Personality and Social Psychology, 79(5), pp.763~ (2000)
  24. Gill, T., "Blame It on the Self-Driving Car : How Autonomous Vehicles Can Alter Consumer Morality", Journal of Consumer Research, 47(2), pp.272~291 (2020)
  25. HLEG, A., "High-level expert group on artificial intelligence. Ethics Guidelines for Trustworthy AI", ~ (2019)
  26. Horowitz, A. C., "Naturalizing anthropomorphism : Behavioral prompts to our humanizing of animals", Anthrozoös, 20(1), pp.23~35 (2007)
  27. Hume, D., "An enquiry concerning human understanding: A critical edition (Vol. 3)" (2000), Oxford University Press
  28. Hur, J. D., "When temptations come alive : How anthropomorphism undermines self-control", Journal of Consumer Research, 42(2), pp.340~358 (2015)
  29. Kane, R., "A contemporary introduction to free will", ~ (2005)
  30. Krach, S., "Can machines think? Interaction and perspective taking with robots investigated via fMRI", PloS one, 3(7), pp.e2597~ (2008)
  31. Lee, J. E. R., "Trust and technology in a ubiquitous modern environment: Theoretical and methodological perspectives", pp.1~15 (2010), IGI Global
  32. Lee, M. K, "Understanding users! perception of privacy in human-robot interaction", 2011 6th ACM, 2011, ~[DOI]
  33. Loe, T. W., "A review of empirical studies assessing ethical decision making in business", Journal of Business Ethics, 25(3), pp.185~204 (2000)
  34. MacDorman, K. F., "Subjective ratings of robot video clips for human likeness, familiarity, and eeriness: An exploration of the uncanny valley", ICCS, 2006, 26~29
  35. McAuley, E., "Measuring causal attributions : The revised causal dimension scale(CDSII)", Personality and Social Psychology Bulletin, 18(5), pp.566~573 (1992)
  36. MacInnis, D. J., "Humanizing brands : When brands seem to be like me, part of me, and in a relationship with me", Journal of Consumer Psychology, 27(3), pp.355~374 (2017)
  37. Muller, M., "Multiple paradigms in affective computing", Interacting with Computers, 16(4), pp.759~768 (2004)
  38. Nass, C, "Computers are social actors", Proceedings of the SIGCHI conference on Human factors in computing systems, pp.72~78 (1994)
  39. Nass, C., "Are people polite to computers? Responses to computer-based interviewing systems 1", Journal of Applied Social Psychology, 29(5), pp.1093~1109 (1999)
  40. Nass, C., "Embodied Conversational Agents", pp.374~402 (2000)
  41. Nowak, K. L., "The effect of the agency and anthropomorphism on users' sense of telepresence, copresence, and social presence in virtual environments", Presence : Teleoperators & Virtual Environments, 12(5), pp.481~494 (2003)
  42. Reider, L., "Toward a new test for the insanity defense: Incorporating the discoveries of neuroscience into moral and legal theories", UCLA L. Rev, 46, pp.289~ (1998)
  43. Riek, L. D, "How anthropomorphism affects empathy toward robots", Proceedings of the 4th ACM, 2009, 245~246
  44. Rotter, J. B., "Generalized Expectancies for Internal Versus External Control of Reinforcement", Psychological monographs : General and applied, 80(1), pp.1~ (1966)
  45. Shahriari, K, "IEEE standard review-Ethically aligned design: A vision for prioritizing human wellbeing with artificial intelligence and autonomous systems", 2017 IEEE Canada International Humanitarian Technology Conference (IHTC), pp.197~201 (2017), IEEE
  46. Statista, "Revenues from the artificial intelligence (AI) market worldwide, from 2016 to 2025", ~ (2017)
  47. "IEEE Robotics & Automation Magazine", 2010, 105~109
  48. Vitale, J, "Be more transparent and users will like you: A robot privacy and user experience design experiment", Proceedings of the 2018 ACM, 2018, 379~387
  49. Vohs, K. D., "The value of believing in free will : Encouraging a belief in determinism increases cheating", Psychological Science, 19(1), pp.49~54 (2008)
  50. Waytz, A., "Causes and consequences of mind perception", Trends in Cognitive Sciences, 14(8), pp.383~388 (2010)
  51. Waytz, A., "The mind in the machine : Anthropomorphism increases trust in an autonomous vehicle", Journal of Experimental Social Psychology, 52, pp.113~117 (2014)
  52. Zeki, S., "Responsibility and punishment: whose mind? A response", Philosophical Transactions of the Royal Society of London. Series B: Biological Sciences, 359(1451), pp.1805~1809 (2004)

관련 논문AI추천

AI의 의사결정에 대한 도덕판단에서 의인화가 미치는 영향 -쌍 도덕 이론을 중심으로-장대익, 최윤빈한국인지과학회 · 인지과학2022 · 제33권 제4호Human-Likeness and Moral Responsibility in AI: The Roles of Dyadic Morality and Emotional Unpleasantness윤은진, 정은경미래사회전략연구소 · 미래사회2025 · 제16권 제3호AI서비스 실패에 대한 책임지각: 도덕적 기반의 조절효과성주현, 정은경한국문화및사회문제심리학회 · 한국심리학회지: 문화 및 사회문제2025 · 제31권 제2호불쾌한 골짜기: 로봇 속성의 의인화, 마음지각 및 도덕적 처우의 관계신홍임한국감성과학회 · 감성과학2021 · 제24권 제4호인공지능 챗봇의 의인화가 챗봇 이용자의 차별 발언 중단의도와 챗봇 지속이용의도에 미치는 영향: 심리적 반발의 매개효과와 사회규범 메시지의 조절효과박남기, 이휘란한국소통학회 · 한국소통학보2025 · 제24권 제1호인간-생성형 AI 협업이 인간의 노력 정도에 대한 지각과 책임 평가에 미치는 영향: 행위자 또는 관찰자 관점에서김지호, 최정현한국소비자학회 · 소비자학연구2024 · 제35권 제1호

이 간행물의 다른 논문 (6건)

소비자들은 항상 독특한 색상명의 제품을 구매할까?: 통제 결핍과 지각된 불안의 조절효과를 중심으로최지은, 유은아pp. 139-154시간압박, 조절초점, 인지적 종결욕구가 광고태도와 구매의도에 미치는 영향: 시간한정 메시지를 중심으로김희재, 김은실pp. 179-206디지털정부 웹사이트의 정보제시 유형에 따른 소비자 반응 연구: 정보 과부하와 인지 실패의 매개효과를 중심으로이병관, 노환호, 이태준pp. 207-2381인 미디어 인터넷 방송에서 의사사회적 상호작용이 브랜드 관여 및 구매의도에 미치는 영향: 빅파이브 성격요인에 의한 사회적 실재감의 조절된 매개효과이진균pp. 239-269한국판 선망 척도 개발 및 타당화 연구임혜빈, 이병관, 최준영, 윤진헌pp. 271-291
원문 보기