인공지능 위험정책 필요성에 대한 실증적 고찰: AHP 조사결과를 중심으로
An Empirical Study on AI Risk Policies via AHP survey
1
조회
0
다운로드
11
인용
0
참고문헌
키워드
초록
2016년 1월 다보스 세계경제포럼에서 ‘4차 산업혁명 시대 도래’를 공표함과 더불어 알파고와 이세돌 9단의 대국 이후 국내에서도 인공지능(Artificial Intelligence: AI)에 대한 관심이 확산되기 시작하였다. 이와 더불어 인공지능 등 고도의 지능기술 신산업이 가져올 ‘잠재적 기술 위험’에 대한 관심이 점차 대두되고 있다. 그러나 인공지능 기술이 우리사회에 가져올 수 있는 위험은 아직은 ‘예측하지 못한 기술의 위험’으로만 제한적으로 다루어지고 있으며, 이에 대한 위험정책연구는 아직 시작 단계에 불과하다. 따라서 본 연구는위험관리에서 활용되는 ‘사전예방원칙’과 ‘복원력’ 에 대한 이론연구를 토대로 인공지능위험정책에 대한 전문가 AHP 조사를 수행하였다. 이 분석을 토대로 도출된 실증적이고구체적인 정책 우선순위는 다음과 같다. 사전예방원칙 관련 최우선적으로 도입해야 할정책수단으로는 위험감지 시 한시적 개발중지, AI 위험비용 및 책임체계 마련 및 AI 안전입증의 공급자 책임원칙 도입 등의 순서로 나타났다. 복원력 관련 최우선적으로 도입해야 할 정책수단으로는 사회적 위험커뮤니케이션 확대 정책, 국제 AI 기술 안전기준 표준및 안전성 인증제도 도입, AI 위험 대비 보안성, 신뢰성 강화 정책 등의 순서로 나타났다.
Abstract
The World Economic Forum (WEF) held in Davos in January 2016 announced that the Fourth Industrial Revolution has arrived, and Sedol Lee played a historic game of Go against Google DeepMind's AlphaGo computer program in March 2016. These events have raised the public’s interest and concerns in terms of Artificial Intelligence, or A.I. Most studies so far have largely focused on the positive potential and economic benefits of AI. Yet, there has been little attention given to AI’s negative impacts and possible risks. In this milieu, this study attempted to identify major elements of risk associated with the advent of AI and to suggest possible policy responses based upon two concepts-precautionary principles’ and ‘resilience,’which encompass both the ex-ante and ex-post reponses to AI risk. After listing up 36 possible precautionary policies and resilience policies via literature review and a series of expert brainstorming sessions, a further AHP survey of total 15 experts, equally 5 experts from three sectors of government, business and academia was conducted. In the pairwise comparison and weighing up by the AHP, this suggested the urgent and vital policies for preparing and responding towards AI risk.
참고문헌 (30)
- Costanza, R., "The 4P approach to dealing with scientific uncertainty", Environment, 34(9), pp.12~ (1992)
- Fisher, E. C., "Implementing the precautionary principle: perspectives and prospects" (2006), Edward Elgar Publishing
- Geiser, K., "Protecting Public Health & the Environment: Implementing the Precautionary Principle", pp.323~336 (1999), Island Press
- Kim, E. S., "Chemical sunset: Technological inflexibility and designing an intelligent precautionary ‘polluter pays’ principle", Science, Technology, and Human Values, 33(4), pp.459~479 (2008)
- Kim, E. S., "Technocratic precautionary principle: Korean risk governance of mad cow disease", Journal of Risk Research, 15(9), pp.1075~1100 (2012)
- Kim, E. S., "Technocratic precautionary principle: Korean risk governance of genetically modified organisms", New Genetics and Society, 33(2), pp.204~224 (2014)
- Klein, R. J., "Resilience to natural hazards: How useful is this concept?", Global Environmental Change Part B: Environmental Hazards, 5(1), pp.35~45 (2003)
- Lewis, S., "Protecting Public Health & the Environment: Implementing the Precautionary Principle", pp.241~251 (1999), Island Press
- Manyena, S. B., "The concept of resilience revisited", Disasters, 30(4), pp.434~450 (2006)
- Myers, N., "Debating the Precautionary Principle" (2000), Science and Environmental Health Network
- O’Brien, M., "Protecting Public Health & the Environment:Implementing the Precautionary Principle", pp.207~219 (1999), Island Press
- O’Halloran, D., "Industrial Internet of Things:Unleashing the Potential of Connected Products and Services", World Economic Forum (2015)
- Raffensperger, C., "Protecting Public Health & the Environment: Implementing the Precautionary Principle" (1999), Island Press
- Thornton, J., "Pandora's Poison: Chlorine, Health, and a New Environmental Strategy" (2000), MIT Press
- Tickner, J. A., "Protecting Public Health & the Environment: Implementing the Precautionary Principle", pp.162~180 (1999), Island Press
- Whiteside, K. H., "Precautionary Politics: Principle and Practice in Confronting Environmental Risk" (2006), Cambridge University Press
- 구본권, "로봇시대, 인간의 일" (2015), 어크로스
- 김은성, "사전예방원칙의 정책 유형과 사회문화적 맥락에 대한 고찰: 유럽 및 미국 위험정책을 중심으로", 한국행정학보, 45(1), pp.141~169 (2011), 한국행정학회
- ICT 융합환경에 적합한 사이버보안정책 및 거버넌스 연구: 인증제도를 중심으로, "류현숙", 한국행정연구원, 1~349 (2015)
- 마틴 포드, "로봇의 부상: 인공지능의 진화와 미래의 실직 위협" (2016), 세종서적
- AI의 미래를 위한 준비(Preparing for the Future of Artificial Intelligence), "미국 백악관", ~ (2016)
- 박희제, "한국의 과학기술정치와 거버넌스", 과학기술학연구, 14(2), pp.1~48 (2014), 한국과학기술학회
- 지능정보사회 중장기 종합대책의 의미와 입법과제, "심우민", 국회입법조사처, ~, pp.국회입법조사처, 1249호 (2017)
- 미래 위험과 회복력, "서지영", ~, pp.조사연구, 2014, 06-02 (2014)
- 한국인의 사회 위험 지각 과 정책적 함의, "정지범", 한국행정연구원, ~ (2009)
- 정지범, "재난에 강한 사회시스템 구축: 복원력과 사회적 자본" (2009), 법문사
- 인공지능 기술전망과 미래산업의 주요과제, "조성배", FUTURE, ~ (2016)