자율 주행 차량(AV)의 트롤리 딜레마 문제와AI 윤리교육의 과제
The Trolley Dilemma of Autonomous Vehicles and the Challenges of AI Ethics Education
0
조회
0
다운로드
10
인용
0
참고문헌
키워드
초록
자율 주행 차량(autonomous driving vehicle, ADV)과 같은 기술의 발달은 사회에 큰 영향을 미칠 수 있는 새로운 문제를 발생시키는데 이는 심리적, 윤리적, 사회적, 경제적 및 법적 측면을 포함한다양한 영역에 분포한다. 자율 차량(autonomous vehicle, AV)의 기술 개발이 빠르게 진행되고 있는동안 자율 기계에 제어권 부여의 도덕적 의미와 관련한 논의가 출현했다. 도덕 딜레마는 교통사고의영향력과 정서적 중요성을 고려할 때 더욱 주목된다. 이제 로봇 및 기타 AI 시스템은 폐쇄된 환경에서잘 정의된 작업을 수행하는 것에서 벗어나 실제 세계에서 중요한 물리적 행위자로 전환되는 과정에 있다. 더 이상 공장의 테두리 안에 갇혀 있지 않는 로봇은 도시 환경에 침투하여 인간과 사물에 영향력을 행사하고 인간과 함께 모든 종류의 작업을 수행할 수 있게 되었다. 더욱이 AV는 수많은 사회적, 경제적 이점을 약속함과 동시에 인간의 생명 자체를 좌우할 수 있다는 점에서 이목이 집중된다. AV가교통사고로 인한 사망과 부상의 비율을 획기적으로 낮출 것이라는 낙관적 기대에도 불구하고, 인간의생명과 직결된다는 점에서 기술 안에 도사린 파괴력 또한 간과할 수 없다. AV를 제어하는 알고리즘은피할 수 없는 위해 상황에서 결정을 안내하는 도덕적 원칙을 포함해야 한다. AV가 도덕적 결정을 내리는데 도움이 될 알고리즘을 정의하는 것은 큰 도전이며 사후가 아닌 사전에 조치되어야 할 사안이다. 특히, 인간의 생사와 직결되는 문제라는 점에서 AI 윤리, AI 윤리교육에서 주의하여 다룰 소재이다. 따라서 본 연구에서는 AV의 트롤리 딜레마의 여러 유형을 고찰하고 이것이 주는 AI 윤리 및 AI윤리교육에 제기하는 과제를 도출하고자 했다. 첫째, AV의 발전 현황과 윤리 문제를 확인했다. 둘째,도덕기계(Moral Machine, MM)의 연구 진행과 이것이 주는 시사점을 살펴보았다. 셋째, AV의 도덕적 딜레마가 제기하는 AI 윤리 문제와 교육현장에 갖는 과제를 제안했다.
Abstract
The development of technologies such as autonomous driving vehicles(ADV) creates new problemsthat can have a great impact on society. These problems have psychological, ethical, social,economic, and legal aspects. While the technological development of autonomous vehicles(AV) israpidly advancing, discussions have emerged regarding the moral implications of giving control toautonomous machines. The moral dilemma is more noticeable when considering the impact andemotional significance of traffic accidents. Robots and other AI systems are now in the process oftransition from performing well-defined tasks in closed environments to becoming important physicalactors in the real world. No longer confined within the restraint of factories, robots are able toinfiltrate urban environments, exert influence over humans and objects, and perform all kinds oftasks with humans. Moreover, AV is gaining attention as it promises numerous social and economicbenefits while at the same time is able to influence humans themselves. Despite the optimisticexpectation that AV will dramatically lower the rate of deaths and injuries caused by accidents, thedestructive power of technology cannot be overlooked since it is directly related to human life. Algorithms that control AV should incorporate moral principles to guide decisions in situations ofunavoidable harm. In this study, various types of AV's trolley dilemma were considered, and thechallenges it posed to AI ethics and AI ethics education were discussed. First, the development statusof AV and ethical issues were checked. Second, the progress of the study of the Moral Machine andits implications were examined. Lastly, the ethical dilemma of AV raises the AI ethics problem andthe challenges it has in the education field.
참고문헌 (32)
- 김준호, "‘폭주하는 전차’ 사례에 대한 형사법적 결론을 생각해보기 ― 자율주행자동차의 윤리적 딜레마에 관한 법학적 사유실험을 겸하여 ―", 법학연구, 29(2), pp.1~36 (2019), 법학연구원[DOI]
- 박형빈, "기계윤리 및 신경윤리학 관점에서 본 인공도덕행위자(AMA) 도덕성 기준과 초등도덕교육의 과제", 한국초등교육, 31, pp.77~92 (2021), 초등교육연구원
- 변순용, "자율주행자동차의 윤리적 가이드라인에 대한 시론", 윤리연구, 1(112), pp.199~216 (2017), 한국윤리학회[DOI]
- 이상돈, "자율주행자동차의 윤리화의 과제와 전망", IT와 법연구, (15), pp.281~325 (2017), IT와 법연구소[DOI]
- 이중기, "자율 주행 자동차 : 로봇으로서의 윤리와 법적 문제", 국토, 416, pp.38~43 (2016)
- 임이정, "자율주행차량의 운행을 위한 법적 이슈", 교통연구, 23(3), pp.75~91 (2016), 한국교통연구원
- 임이정, "자율 주행차량의 윤리적 문제 점검을 위한 시뮬레이션 연구", 한국 ITS 학회 학술대회 자료집, pp.130~137 (2017)
- 최경미, "자율주행자동차(Autonomous Vehicle) 도입을 위한 헌법적 연구", IT와 법연구, (14), pp.235~276 (2017), IT와 법연구소[DOI]
- Anderson, J. M., "Autonomous vehicle technology : A guide for policymakers" (2014), Rand Corporation
- Applin, S., "Autonomous vehicle ethics: Stock or custom?", IEEE Consumer Electronics Magazine, 6(3), pp.108~110 (2017)
- Awad, E., "Moral machines: perception of moral judgment made by machines", Doctor, pp.2017
- Bonnefon, J. F., "The social dilemma of autonomous vehicles", Science, 352(6293), pp.1573~1576 (2016)
- Cunneen, M., "Autonomous vehicles and avoiding the trolley (dilemma): vehicle perception, classification, and the challenges of framing decision ethics", Cybernetics and Systems, 51(1), pp.59~80 (2020)
- Du, Y., "Human-Computer Interaction. Interaction Technologies", pp.117~132 (2018), Springer
- Etienne, H., "The dark side of the ‘Moral Machine’and the fallacy of computational ethical decision-making for autonomous vehicles", Law, Innovation and Technology, 13(1), pp.85~107 (2021)
- Evans, K., "Ethical decision making in autonomous vehicles : the AV ethics project", Science and engineering ethics, 26(6), pp.3285~3312 (2020)
- Faulhaber, A. K., "Human decisions in moral dilemmas are largely described by utilitarianism:Virtual car driving study provides guidelines for autonomous driving vehicles", Science and engineering ethics, 25(2), pp.399~418 (2019)
- Frank, D. A., "Human decision-making biases in the moral dilemmas of autonomous vehicles", Scientific reports, 9(1), pp.1~19 (2019)
- Lex Fridman, "Mit autonomous vehicle technology study: Large-scale deep learning based analysis of driver behavior and interaction with automation", IEEE Access, 7, pp.102021~102038 (2019), Institute of Electrical and Electronics Engineers (IEEE)[DOI]
- Fridman, L., "Human-centered autonomous vehicle systems : Principles of effective shared autonomy", arXiv:1810.01835, 1~9 (2018)
- Goodall, N. J., "Ethical decision making during automated vehicle crashes", Transportation Research Record, 2424(1), pp.58~65 (2014)
- Greene, J. D., "An fMRI investigation of emotional engagement in moral judgment", Science, 293(5537), pp.2105~2108 (2001)
- Harris, J., "Who owns my autonomous vehicle? Ethics and responsibility in artificial and human intelligence", Cambridge Quarterly of Healthcare Ethics, 27(4), pp.599~609 (2018)
- Klenk, M., "Charting Moral Psychology’s Significance for Bioethics: Routes to Bioethical Progress, its Limits, and Lessons from Moral Philosophy", Diametros, 17(64), pp.36~55 (2020)
- Kuutti, S., "A survey of deep learning applications to autonomous vehicle control", IEEE Transactions on Intelligent Transportation Systems, 22(2), pp.712~733 (2020)
- Lin, P., "Autonomous driving", pp.69~85 (2016), Springer
- Nascimento, A. M., "A systematic literature review about the impact of artificial intelligence on autonomous vehicle safety", IEEE Transactions on Intelligent Transportation Systems, 21(12), pp.4928~4946 (2019)
- Maurer, M., "Autonomous driving: technical, legal and social aspects" (2016), Springer Nature
- McManus, R. M., "Autonomous vehicles and the attribution of moral responsibility", Social psychological and personality science, 10(3), pp.345~352 (2019)
- Novak, T. P., "A Generalized Framework for Moral Dilemmas Involving Autonomous Vehicles : A Commentary on Gill", Journal of Consumer Research, 47(2), pp.292~300 (2020)
- Rhim, J., "A deeper look at autonomous vehicle ethics: An integrative ethical decision-making framework to explain moral pluralism", Frontiers in Robotics and AI, 8(632394), pp.1~18 (2021)[DOI]
- Rowthorn, M., "Artificial Driving Intelligence and Autonomous Vehicle Ethics", Journalism Studies, 20(1), pp.38~52 (2019), Annals of Spiru Haret University