자율주행자동차 안전규제에서 트롤리 딜레마와 인공지능·로봇 윤리에 대한 오해와 이해
Misunderstanding and Understanding of the Trolley Problem and Ethics of Artificial Intelligence/Robot in Discussion of Safety Regulation of Autonomous Vehicles: A Lesson from South Korea
0
조회
0
다운로드
1
인용
0
참고문헌
키워드
초록
SAE International 기준 Level(L) 4 이상의 승용차의 상용화는 공학 기술적 안전과 사회 심리적 안심이 전제되어야 가능하고, 이를 위해서는 안전규제 실정법(positive law) 차원에서 합리적인 사전 논의가 필요하다. 그런데 안전 문제와 관련하여 비현실적인 트롤리 딜레마 문제와 너무 추상적인 AI/로봇 윤리 문제가 자율주행자동차 안전규제 논의에 그대로 도입되면 관련 논의가 혼란스럽게 전개될 수 있다. 가상적 사고실험에 불과한 트롤리 문제는 현실 안전규제 차원에서는 아무런 실익 없이 혼란만 초래하므로, 자율주행자동차 안전규제 논의에서 제외시켜야 한다. 특히 트롤리 딜레마 해결을 명목으로 특정 가치관에 기해 무고한 사람을 고의로 희생시키는 알고리즘 설계는 현실에서 긴급피난이 인정되지 않아 살인, 상해 등 범죄행위를 구성할 수 있으므로 주의를 요한다. 자율주행에서 사물 인식이나 최적경로 탐색에 딥러닝 AI 기술이 이용되지만, 여기에는 차별이나 인권 등 윤리적 문제가 거의 없으므로, AI/로봇 윤리 이슈를 자율주행자동차에 무차별적으로 도입하는 것은 부적절하다. 2020년 12월 국토교통부와 자동차 관련 연구기관이 공동 발간한 자율주행자동차 윤리가이드라인과 제작․안전가이드라인은 트롤리 딜레마와 AI/로봇 윤리 문제의 해결을 촉구하였는데, 여기에는 상당한 오해가 있으므로 시정이 필요하다. 자율주행 AI에 공학 기술상 안전 문제가 있을 수 있으나 처음부터 zero risk는 불가능하므로, 사회적 안심을 위해 zero risk를 요구하는 것은 자율주행자동차의 상용화를 금지하는 것과 다를 바 없다. 특히 L4 이상 승용차의 상용화를 위해서는 기술적으로나 사회적으로나 수용 가능한 ‘positive risk’에 대한 사전 합의가 필요하고, 이를 위해서는 산업계, 전문가 학계, 소비자, 규제 당국 등 다양한 이해관계자들 사이에 합리적 리스크 의사소통이 이루어질 수 있도록 정부의 적극적인 역할이 필요하다.
Abstract
Future mobility is expected to have fully autonomous driving (AD) system. The successful deployment of Level(L) 5, fully autonomous vehicles (AVs) depends on both technical safety and social acceptance. To achieve this, it is crucial to discuss various aspects of safety regulation at the level of positive law. However, the inclusion of the unrealistic trolley dillemma and the dubious ethics of AI/Robot in discussion of the satety regulation of AVs causes confusion, leading to many pointless and unnecessary debates. The trolley dilemma, which is nothing more than a hypothetical accident experiment, only causes confusion without any benefit in the context of AVs. Deep learning AI technology for collision avoidance has nothing to do with discrimination and human rights. In South Korea, however, the two guidelines for AVs of 2020 co-published by the government and other research group mistakenly demand a resolution to the unrealistic trolley dilemma and address dubious concerns of AI/Robot. A misguided focus on the trolley problem and AI/Robot ethics could hinder the social acceptance of AVs even before AD technology is fully developed. While there are safety concerns related AI for collision avoidance, attaining ‘zero risk’ is an impractical goal. Demanding zero risk would prohibit the deployment of AVs. Therefore, achieving a consensus on ‘acceptable positive risk’, both technically and socially, is imperative for the successful deployment of AVs. To facilitate this, the government should play a role in fostering rational risk communication among various stakeholders.
참고문헌 (36)
- "국토교통부 자율주행자동차 사고조사위원회 웹사이트"[URL]
- 국토교통부, "레벨4 자율주행자동차 제작․안전가이드라인", ~ (2020)
- 국토교통부, "자율주행자동차 윤리가이드라인", ~ (2020)
- 김민호, "자율주행자동차의윤리적 고찰과 법제정비 방안", 미국헌법연구, 31(1), pp.1~36 (2021)
- 김준호, "‘폭주하는 전차’ 사례에 대한형사법적 결론을 생각해보기 : 자율 주행 자동차의 윤리적 딜레마에 관한 법학적 사유실험을 겸하여", 법학연구, 29(2), pp.1~36 (2019)
- 나유승, "자율주행자동차의 판단 기술 동향 및 발전 방향", 모빌리티연구, 3(1), pp.33~51 (2023)
- 박갑용, "자율주행자동차법의 현황과 개선방안", 법학연구, 29(3), pp.139~168 (2021)
- 박성호, "자율주행자동차 주행안전성 확보를 위한 딜레마 상황 정의 및 운전전략 도출", 한국ITS학회 논문지, 17(2), pp.142~151 (2018)
- 박형빈, "자율 주행 차량(AV)의 트롤리 딜레마 문제와 AI 윤리교육의 과제", 한국초등교육, 32, pp.101~119 (2021)
- 박희수, "자율주행자동차의 형법적 쟁점 및 대응방안", 법학논집, 25(3), pp.93~120 (2021)
- 윤성현, "자율주행자동차 시대 국민의생명ㆍ신체의 안전보호를 위한 공법적검토", 헌법학연구, 22(3), pp.253~296 (2016)
- 이영택, "실제 도로상 자율주행자동차 평가 프로세스 도출 연구", 모빌리티연구, 3(1), pp.73~86 (2023)
- 이중기, "자율주행차의 법과 윤리" (2020), 박영사
- "Asilomar AI Principles" (2017)[URL]
- "Beijing AI Principles" (2019)[URL]
- Bleske-Rechek, A., "Evolution and the trolley problem: People save five over one unless the one is young, genetically related, or a romantic partner", Journal of Social, Evolutionary, and Cultural Psychology, 4(3), pp.115~127 (2010)
- Bostrom, N, "Superintelligence: Paths, Dangers, Strategies" (2016), Oxford University Press
- "Would You Kill One Person to Save Five? New Research on a Classic Debate" (2011)[URL]
- Dasgupta, S., "Handbook on Artificial Intelligence and Transport", pp.380~409 (2023), Edward Elgar Publishing
- Dubber, M., "Oxford Handbook of Ethics of AI" (2020), Oxford University Press
- "Emerging Technology from the arXivarchive. Why Self-Driving Cars Must Be Programmed to Kill" (2015)[URL]
- "EU Ethics Guidelines for Trustworthy AI" (2019)[URL]
- "The Trolley Problem Is the Internet’s Most Philosophical Meme" (2016)[URL]
- Foot, P, "The Problem of Abortion and the Doctrine of the Double Effect", Oxford Review, (5) (1967)
- "Ethical rules for automated and connected vehicular traffic" (2017)[URL]
- Herrmann, A, "자율주행" (2019), 한빛비즈
- "Is One of the Most Popular Psychology Experiments Worthless?" (2014)[URL]
- Koopman, P., "How Safe Is Safe Enough? Measuring and Predicting Autonomous Vehicle Safety" (2022), Independently published
- Lipson, H., "넥스트모바일: 자율주행혁명" (2017), 더퀘스트
- "Autonomous driving’s future: Convenient and connected" (2023)[URL]
- Smith, B. W., "Ethics of Artificial Intelligence in Transport", ~ (2020)
- Sumpter, D., "알고리즘이 지배한다는 착각" (2022), 해나무
- Schuster, F. P., "Coping with Moral Dilemmas in German Criminal Law Theory and Justice : Classical Cases and Modern Variants", Criminal Law Forum, 34, pp.237~270 (2023)
- Thomson, J. J., "Killing, Letting Die, and The Trolley Problem", The Monist, 59(2), pp.204~217 (1976)
- Thomphson, C, "은밀한 설계자들" (2020), 한빛비즈
- von Ungern-Sternberg, A., "Research Handbook on the Law of Artificial Intelligence", pp.251~278 (2018), Edward Elgar