본문 바로가기
KERD
논문KCI 등재

자율주행차와 윤리적 의사결정: 누가 사는 것이 더 합당한가?

Who Should Live? Autonomous Vehicles and Moral Decision-Making

신홍임
한국감성과학회 (The Korean Society For Emotion & Sensibility)|2019.12|감성과학 (Science of Emotion & Sensibility)|제22권 제4호|pp. 15-30|DOI https://doi.org/10.14695/KJSOS.2019.22.4.15

0

조회

0

다운로드

0

인용

0

참고문헌

키워드

자율주행차가치의사결정Value공리주의Decision MakingUtilitarianismAutonomous Vehicles
주제분류감성과학

초록

자율주행차는 운전자의 부주의로 인한 사고를 줄일 수 있는 반면, 기계에 어느 정도의 자율성을 허용해야 할 것인 지의 문제를 제기한다. 특히 돌발상황의 발생시에 운전자와 보행자 중에서 누구를 선택해야 할 것인지에 대한 의사 결정은 모두가 합당하다고 생각하는 도덕적 원칙을 기반으로 일관적으로 실시되어야 한다. 본 연구(N = 103)에서는 한국 사회에서 자율주행차의 윤리적 의사결정을 프로그래밍한다고 가정했을 때, 의사결정과정에 영향을 끼칠 수 있 는 개인적/상황적 변인을 검증하였다. 이에 따라 개인적 변인으로서 참가자의 자율주행차의 자동화 기술에 대한 수 용도를 측정한 후, 상황적 변인으로 문장완성과제를 통해 참가자에게 성취 또는 배려의 가치를 활성화시켰다. 이후 자율주행차의 사고상황에서 공리주의 의사결정의 비율 및 자율주행차 구매의향이 어떻게 달라지는지를 설문지를 통해 비교하였다. 그 결과 연구참가자에게 성취의 가치를 활성화시켰을 때, 자신이 차 안의 운전자로 가정된 상황에서 다수의 보행자를 배려하는 공리주의 의사결정의 비율이 가장 낮게 나타났다. 또한 연구참가자가 자율자동차 기술을 긍정적으로 생각할수록 공리주의 원칙으로 설계된 자율주행차의 구매의향이 전반적으로 높았지만, 성취-운전자 조 건에서 참가자의 구매의향이 다른 조건보다 유의하게 낮게 나타났다. 이 결과는 자율주행차의 사고상황에서 의사결 정의 과정이 개인적 변인뿐만 아니라 특정 상황에서 활성화된 가치 및 관점의 차이에 따라 영향을 받을 가능성을 시사한다. 논의에서는 연구결과의 제한점 및 후속 연구방향에 관해 논의하였다.

Abstract

The reduction of traffic accidents is a primary potential benefit of autonomous vehicles (AVs). However, the prevalence of AVs also arouses a key question: to what extent should a human wrest control back from AVs? Specifically, in an unavoidable situation of emergency, should an AV be able to decide between the safety of its own passengers and endangered pedestrians? Should AV programming include well-accepted decision rules about actionsto take in hypothetical situations? The current study (N = 103) examined individual/situational variables that could perform critical decision-making roles in AV related traffic accidents. The individual variable of attitudes toward AVs was assessed using the Self-driving Car Acceptance Scale. To investigate situational influences on decisional processes, the study’s participants were assigned to one of two groups: the achievement value was activated in one group and the benevolence value was triggered in the other through the use of a sentence completion task. Thereafter, participants were required to indicate who should be protected from injury: the passengers of the concerned AV, or endangered pedestrians. Participants were also asked to record the extent to which they intended to buy an AV programmed to decide in favor of the greater good according to Utilitarian principles. The results suggested that participants in the “achievement value: driver perspective” groupexpressed the lowest willingness to sacrifice themselves to save several pedestrians in an unavoidable traffic accident. This group of participants was also the most reluctant to buy an AV programmed with utilitarian rules, even though there were significant positive relationships between members’ acceptance of AVs and their expressed intention to purchase one. These findings highlight the role of the decisional processes involved in the “achievement value” pertaining to AVs. The paper finally records the limitations of the present study and suggests directions for future research

참고문헌 (25)

  1. Bardi, A, "Values and behavior: Strength and structure of relations", Personality and Social Psychology Bulletin, 29(10), pp.1207~1221 (2003)
  2. J.-F. Bonnefon, "The social dilemma of autonomous vehicles", Science, 352(6293), pp.1573~1576 (2016), American Association for the Advancement of Science (AAAS)[DOI]
  3. 변순용, "자율주행자동차의 윤리적 가이드라인에 대한 시론", 倫理硏究, 1(112), pp.199~216 (2017), 한국윤리학회[DOI]
  4. 채진미, "쇼핑가치, 사용용이성, 유용성이 모바일 구매의도에 미치는 영향", 감성과학, 20(2), pp.73~86 (2017), 한국감성과학회
  5. Conway, P, "Deontological and utilitarian inclination in moral decision making: A process dissociation approach", Journal of Personality and Social Psychology, 104(2), pp.216~235 (2013)[DOI]
  6. 최낙환, "소비자의 구매의사결정에 있어 제품별 사고유형과 소비행동에 대한 연구", 감성과학, 14(2), pp.279~292 (2011), 한국감성과학회
  7. Fitzsimons, G. M, "How goal instrumentality shapes relationship evaluations", Journal of Personality and Social Psychology, 95(2), pp.319~337 (2008)[DOI]
  8. Greene, J. D, "The neural bases of cognitive conflict and control in moral judgment", Neuron, 44(2), pp.389~400 (2004)[DOI]
  9. Greene, J. D, "Cognitive load selectively interferes with utilitarian moral judgment", Cognition, 107(3), pp.1144~1154 (2008)[DOI]
  10. Greene, J. D, "An fMRI Investigation of Emotional Engagement in Moral Judgment", Science, 293(5537), pp.2105~2108 (2001)[DOI]
  11. Greene, J. D., "Dual-Process morality and the personal", impersonal distinction: A reply to McGuire, Langdon, Coltheart, and Mackenzie, 2009, pp.45(3), 581~584
  12. J. D. Greene, "Our driverless dilemma: When should your car be willing to kill you", Science, 352(6293), pp.1514~1515 (2016), American Association for the Advancement of Science (AAAS)[DOI]
  13. Jonathan Haidt, "The emotional dog and its rational tail: A social intuitionist approach to moral judgment.", Psychological Review, 108(4), pp.814~834 (2001), American Psychological Association (APA)[DOI]
  14. Hart, W, "The effects of chronic motivation and achievement primes on the activation of achievement and fun goals", Journal of Personality and Social Psychology, 97(6), pp.1129~1141 (2009)[DOI]
  15. 주미정, "의사결정에서의 자기관련성 수준에 따른 틀효과의 차이", 감성과학, 16(2), pp.177~186 (2013), 한국감성과학회
  16. Stamatis Karnouskos, "Self-Driving Car Acceptance and the Role of Ethics", IEEE Transactions on Engineering Management, pp.1~14 (2018), Institute of Electrical and Electronics Engineers (IEEE)[DOI]
  17. Koop, G. J, "An assessment of the temporal dynamics of moral decisions", Judgement and Decision Making, 8(5), pp.527~539 (2013)
  18. 이중기, "자율주행차의 발전단계로 본 운전자와 인공지능의 주의의무의 변화와 규범적 판단능력의 사전프로그래밍 필요성", 홍익법학, 17(4), pp.443~472 (2016), 법학연구소[DOI]
  19. Gregory R. Maio, "Changing, priming, and acting on values: Effects via motivational relations in a circular model.", Journal of Personality and Social Psychology, 97(4), pp.699~715 (2009), American Psychological Association (APA)[DOI]
  20. Malle, B. F, "Sacrifice one for the good of many? People apply different moral norms to human and robot agents", Proceedings of the Tenth Annual ACM, 2015, 117~124
  21. Nees, M. A, "Acceptance of self-driving cars: An examination of idealized versus realistic portrayals with a self-driving car acceptance scale", Proceedings of the Human Factors and Ergonomics Society Annual Meeting, 60(1), pp.1449~1453 (2016)
  22. Schwartz, S. H, "Universals in the content and structure of values: Theoretical advances and empirical tests in 20 countries", Advances in Experimental Social Psychology, 25, pp.1~65 (1992)
  23. Schwartz, S. H, "Value priorities and behavior: Applying the theory of integrated value systems (Vol. 8)" (1996), Erlbaum
  24. Sütfeld, R, "Using virtual reality to assess ethical decisions in road traffic scenarios: Applicability of value-oflife- based models and influences of time pressure", Frontiers in Behavioral Neuroscience, 11, pp.1~13 (2017)[DOI]
  25. Waldrop, M. M, "Autonomous vehicles: No drivers required", Nature, 518(7357), pp.20~23 (2015)[DOI]

관련 논문AI추천

자율주행 자동차 사고 상황에 대한 한국인의 윤리적 판단이혜원, 정은경한국심리학회 · 한국심리학회지:일반2021 · 제40권 제1호자율주행차에 대한 윤리적 평가와 수용:충돌 대응 알고리즘과 자동차 용도의 영향김반야, 주연경한국교통연구원 · 교통연구2023 · 제30권 제1호자율주행차의 충돌 대응 알고리즘과 차량 유형이 이해관계자들에 대한 윤리적 평가에 미치는 영향김동현, 김반야, 주연경미디어융합연구소 · 미디어융합연구2025 · 제39호자율주행자동차에 대한 한국형 윤리 가이드라인 연구변순용, 임이정, 황기연한국윤리학회 · 倫理硏究2018 · 제1권 제123호자율주행자동차 윤리 가이드라인 인식 조사 연구송재인, 임이정, 황기연한국교통연구원 · 교통연구2019 · 제26권 제1호자율주행차 오류가 수용 의향에 미치는 영향: 제조사와 이용자에 대한 윤리적 평가의 매개 효과김반야, 주연경한국교통연구원 · 교통연구2025 · 제32권 제4호

이 간행물의 다른 논문 (8건)

깊이감과 머물고 싶은 공간의 관계: 시선추적기를 이용한 카페를 중심으로 한 연구조지영, 곽은주pp. 3-14노화에 따른 작업기억능력의 저하에 영향을 받는 영상 속 자막인식위치 연구박장호, 정재범, 남기춘, 김상엽pp. 31-44감정노동자들의 부정적 정서가 정서소진에 미치는 영향: 정서조절의 매개효과를 조절하는 상황 요인 검증한규은, 김민영pp. 45-56분노를 경험하는 동안에 나타난 알코올 사용 장애자의 자율신경계 반응 특성노지혜, 손진훈, 박미숙pp. 57-64Individual Differences in Regional Gray Matter Volumes According to the Cognitive Style of Young Adults김초복, 허민영pp. 65-74
원문 보기