본문 바로가기
KERD
논문KCI 등재

인공지능 거버넌스에 관한 탐색적 연구

An Exploratory Study on Artificial Intelligence Governance

김길수
한국자치행정학회 (The korean Association for Local Government & Administration Studies)|2019.06|한국자치행정학보 (Korean Journal of Local Government & Administration Studies)|제33권 제2호|pp. 219-236|DOI 10.18398/kjlgas.2019.33.2.219

0

조회

0

다운로드

13

인용

0

참고문헌

키워드

인공지능Artificial IntelligenceAI Governance인공지능 거버넌스인공지능 윤리인공지능 위험성AI RiskAI Ethics

초록

인공지능은 양날의 칼이다. 칼의 한 면은 인간지능의 진전으로 인류는 산업혁명에 버금가는 수준으로 복지, 권력, 재산에 획기적인 변화가 발생할 것이라는 점이다. 이러한 변화로 인간의 부와 건강 그리고 복지를 크게 증가시킬 것이기 때문에 인공지능은 인류가 행복한 삶을 영위할 수 있는 수단이 된다. 다른 한 면은 인공지능이 예측할 수 없는 위험을 부과할 수 있다는 것이다. 인공지능이 인간의 생활에 해악을 끼치지 않고 유익하게 활용될 수 있도록 해야 한다. 이를 위해 고려할 수 있는 것이 규제이다. 하지만 AI가 개발 중인 기술이기 때문에 사전 예방적 규제를 할 수 없다. 따라서 다양한 행위자들이 참여해서 조정할 수 있도록 거버넌스를 구축하는 것이 필요하다. AI 거버넌스에 대한 연구는 아직은 활발하게 이루어지지 않고 있다. 미국과 영국에서 이것에 관심을 표명했고, 싱가포르는 거버번스 구축을 위한 방법론을 제시한 정도이다. 본 연구에서는 AI 거버넌스는 기술거버넌스, 사회․경제거버넌스, 글로벌 거버넌스 등 다층적으로 구성되어야 한다는 점을 제시하였다.

Abstract

Artificial intelligence is a double-edged sword. One side of the sword is that human intelligence will advance humanity to a level that is comparable to that of the nuclear revolution or industrial revolution, which will lead to dramatic changes in welfare, power, and property. Because these changes will greatly increase human wealth, health and welfare, artificial intelligence is a means by which humanity can lead a happy life. On the other hand, AI can impose unpredictable risks. Those who take a pessimistic view of artificial intelligence are that artificial intelligence can impose greater risks than nuclear bombs. We must make artificial intelligence useful for human life without harming it. What can be considered for this is regulation. However, because AI is a technology under development, preventive regulation can not be done. Therefore, it is necessary to build governance so that various actors can participate and adjust. The term governance is used in a variety of ways. In the broadest sense, it can be said that a variety of actors participate to coordinate specific matters. Research on artificial intelligence governance has not yet been actively pursued. In this study, artificial intelligence governance should be structured multi - layered, the most basic one is technical governance, the other ones are social and economic governance, followed by global governance. And these governances must work together. As the use of artificial intelligence increases, research on AI governance is actively carried out, and it is expected that a more elaborate plan will be derived.

참고문헌 (54)

  1. 김건우, "지능에 의한 일자리 위험 진단 : 사무․판매․기계조작 직군 대체 가능성 높아" (2018), LG 경제연구원
  2. 김길수, "협력적 거버넌스 형성의 실패 사례 연구-삼성의 새만금 투자 철회를 중심으로-", 한국자치행정학보, 31(1), pp.1~23 (2017), 한국자치행정학회[DOI]
  3. 김길수, "공공부문에서 인공지능 활용에 관한 연구", 한국자치행정학보, 33(1), pp.27~47 (2019), 한국자치행정학회[DOI]
  4. 김도훈, "알고리즘 책임성 논의와 알고리즘에 대한 이해", 주간기술동향 (2018), ICT 신기술. 정보통신기술진흥센터
  5. 김윤정, "인공지능 기술 발전에 따른 이슈 및 대응 방안", KISTEP Issue Weekly, (252) (2018), 한국과학기술기획평가원
  6. 김종미, "생명공학 거버넌스의 인과경로 분석", 한국비교정부학보, 22(3), pp.163~188 (2018), 한국비교정부학회[DOI]
  7. 류병운, "드론과 로봇 등 자율무기의 국제법적 적법성", 홍익법학, 17(2), pp.61~80 (2016), 법학연구소[DOI]
  8. 박상현, "미래의 무인체계, 킬러로봇에 대한 비판적 고찰", 국방논단, 1681 (2017)
  9. 김자회, "자율 로봇의 잠재적 무기화에 대한 소고 - 개념정립을 통한 규제를 중심으로", 입법과 정책, 9(3), pp.135~156 (2017), 국회입법조사처[DOI]
  10. 신기현, "정보문화 거버넌스 구축 방안 - 지방정부의 소셜미디어 활용을 중심으로 -", 한국비교정부학보, 20(4), pp.359~384 (2016), 한국비교정부학회[DOI]
  11. 인공지능(AI)과 프라이버시의 역설: AI 음성비서를 중심으로, "심홍진", KISDI, ~
  12. 오일석, "인공지능(AI)와 국가안보에 관한 입법 정책적 고찰", INSS 전략보고, 34, pp.34~ (2018), 국가안보전략연구원
  13. 윤혜선, "인공지능 기술을 윤리적으로 탐하다 : 영국의 데이터윤리혁신센터 설치 사례", KISO저널, 33, pp.17~23 (2019)
  14. 이광석, "인공지능의 사회적 거버넌스 논의에 부쳐", 기술비평, 30, pp.13~16 (2017)
  15. 최윤섭, "IBM 왓슨 포 온콜로지의 의학적 검증에 관한 고찰", Hanyang Med Rev, 37, pp.49~60 (2017)
  16. 홍종태, "살상 무기체계의 동향과 운용제한성", 한국해양안보포럼 E-저널, (29), pp.12~57 (2017)
  17. 서울신문, "한국경제매거진 1183호", ~ (2018)
  18. "조선일보, 2018. 05 23", ~ (2018)
  19. "중앙일보 2017. 08. 15", ~ (2017)
  20. 중앙일보, "신동아 703호", ~ (2017)
  21. "Artificial intelligence data privacy issues on the rise" (2017)[URL]
  22. "Machine Bias, ProPublica" (2016)[URL]
  23. "False Positives, False Negatives, and False Analyses: A Rejoinder to “Machine Bias: There’s Software Used Across the Country to Predict Future Criminals" (2016)[URL]
  24. Anne Bowser, "Artificial Intelligence: A Policy-Oriented Introduction" (2017), Wilson Center
  25. "The Risk of Automation for Jobs in OECD Countries: A Comparative Analysis" (2016)[URL]
  26. Autor, D, "Why Are There Still So Many Jobs? The History and Future of Workplace Automation", Journal of Economic Perspectives, 29(3), pp.3~30 (2015)
  27. Aylin Caliskan1, , Science, 356, pp.183~186 (2017)
  28. "Artifcial Intelligence: A Policy-Oriented Introduction" (2017)[URL]
  29. "AI Governance: A Research Agenda" (2018)[URL]
  30. "From brawn to brains: The impact of technology on jobs in the UK" (2015)[URL]
  31. "Artificial Intelligence: Potential Benefits and Ethical Considerations" (2016)[URL]
  32. "rtificial Intelligence: Potential Benefits and Ethical Considerations" (2016)[URL]
  33. "The future of employment: how susceptible are jobs to computerisation" (2013)[URL]
  34. Gasser, Almeida, "A Layered Model for AI Governance", IEEE Internet Computing, 21(6), pp.58~62 (2017)
  35. "Explainable Artificial Intelligence" (2016)[URL]
  36. "What is AI? Everything you need to know about Artificial Intelligence" (2018)[URL]
  37. "Artificial Intelligence and Machine Learning: Policy Paper" (2017)[URL]
  38. "AI Policy Principles" (2018)[URL]
  39. "Digital Decision-Making: The Building Blocks of Machine Learning and Artificial Intelligence" (2017)[URL]
  40. "The Policy Challenge of Artificial Intelligence" (2018)[URL]
  41. "How Society Can Maintain Human-Centric Artificial Intelligence" (2017)[URL]
  42. "Predicting non-small cell lung cancer prognosis by fully automated microscopic pathology image features" (2017)[URL]
  43. "New AI can guess whether you're gay or straight from a photograph" (2017)[URL]
  44. "A future that works: Automation, Employment, and Productivity" (2017)[URL]
  45. "Nowhere to Hide: Artificial Intelligence and Privacy in the Fourth Industrial Revolution" (2017)[URL]
  46. "Who Will Own The Secrets in Our Genes? A U.S.-China Race in Artificial Intelligence and Genomics" (2017)[URL]
  47. "The Intelligent and Connected Bio-Labs of the Future:Promise and Peril in the Fourth Industrial Revolution" (2017)[URL]
  48. "Science and Technology Forecasting" (2016)[URL]
  49. "A Proposed Model Artificial Intelligence Governance Framework" (2019)[URL]
  50. "UK Economic Outlook" (2017)[URL]
  51. "Building Trust in Artificial Intelligence, Machine Learning, and Robotics" (2018)[URL]
  52. "The Weaponization of Increasingly Autonomous Technologies in the Maritime Environment: Testing the Waters" (2015)[URL]
  53. "hey’re Listening: A Paranoid Guide to Smart-Speaker Privacy" (2018)[URL]
  54. Yudkowsky, Eliezer, "Draft for Cambridge Handbook of Artificial Intelligence" (2011), Cambridge University Press

관련 논문AI추천

인공지능 관련 거버넌스와 입법 방향 제언 : 예견적 거버넌스 모델을 중심으로김병수국회입법조사처 · 입법과 정책2022 · 제14권 제1호인공지능기본법 추진체계에 대한 검토 및 발전방향 — EU, 영국, 일본의 거버넌스를 중심으로 —이효진법학연구원 · 법학논총2025 · 제42권 제3호미국의 인공지능(AI) 윤리 및 거버넌스 현황권은정법학연구소 · 경제규제와 법2019 · 제12권 제2호신뢰할 수 있는 인공지능의 이론적 고찰박도현한국법철학회 · 법철학연구2022 · 제25권 제2호인공지능 기술 활성화를 위한 정보화사업 제도 개선에 관한 연구김종배, 예광호, 이서경한국IT정책경영학회 · 한국IT정책경영학회 논문지2018 · 제10권 제3호공공분야 인공지능서비스의 영향평가제도 도입에 관한 연구김법연한국정보법학회 · 정보법학2023 · 제27권 제2호

이 간행물의 다른 논문 (15건)

A. Giddens의 실천적 인간관과 구조화 이론 - 행정의 관례화에 대한 함의 -배병룡pp. 1-29사회적 통합 관점에서 본 사회적 배제가 인지적 사회자본에 미치는 영향 연구 - 세대 간 조절효과를 중심으로 -황선영, 어유경, 김순은pp. 31-61외교의 외연적 개념 구도를 통한 공공외교와 지방(정부)외교의 특성 및 상관성 분석송기돈pp. 63-90전자정부 웹사이트 신뢰와 시민의 만족도 및 지속적 사용의도에 관한 연구 - 신뢰와 정보시스템 성공모형을 중심으로 -김석용pp. 91-116Fuzzy-AHP 기법을 이용한 e_거버넌스 구성 내용의 종합중요도 분석 - 지방자치단체 환경업무 관계자의 의사결정과정 인식을 중심으로 -권정소, 임광현, 이동진, 박정용pp. 117-140
원문 보기