본문 바로가기
KERD
논문KCI 등재

AI 시스템의 위험 완화를 위한 정책적 접근방안 연구: AI 영향평가를 중심으로

A Study on Policy Approaches to Mitigate Risks in AI System : Focusing on AI Impact Assessment

박규동|김근혜
한국규제학회|2023.12|규제연구 (Journal of Regulation Studies)|제32권 제2호|pp. 105-134|DOI 10.22954/ksrs.2023.32.2.004

0

조회

0

다운로드

1

인용

0

참고문헌

키워드

인공지능Artificial Intelligence자동화된 의사결정알고리즘 영향평가인공지능 영향평가AI Impact AssessmentAlgorithmic AssessmentAutomated Decision System
주제분류행정학

초록

본 연구는 AI 시스템의 위험 완화를 위한 정책접근 방식으로 공공분야에서 발표한 AI 영향평가의 탐색적 사례분석 수행을 목표로 한다. 본 연구는 선행연구에서 제시한 AI 영향평가 설계의 핵심 사항을 토대로 연구분석 틀을 구성한다. 이후 분석 틀을 토대로 현재까지 국가 정부 혹은 공공기관에서 정책으로 구현하거나 제안한 6개의 AI 영향평가 사례를 분석하였다. 분석 결과 AI 영향평가는 기존 영향평가와 다른 기술적·산업적 특수성을 인정해야 한다는 인식이 존재했으며, AI 시스템을 포괄적이고 광범위하게 정의했다. 위험 완화조치와 관련하여 일부 의견이 수렴하고 있는 것을 확인하였지만, AI 영향평가에서 제시하는 완화조치가 위험분류 수준과 연결되는 방식이 국가마다 상이했다. 또한, AI 수명주기의 여러 지점에서 영향평가를 수행했으며 자율규제적 성격이 강했다. 본 연구는 AI 영향평가 개발과 관련하여 현재까지의 정책구현 동향을 살펴봄으로써 AI 영향평가 개발의 전반적 이해를 도울 수 있는 포괄적 자료를 제공하고, 추후 정책개발에 정보를 제공할 수 있다는 의의가 있다.

Abstract

This study aims to conduct an exploratory case analysis of AIA(AI Impact Assessment) published in the public sector as a policy approach to mitigating the risk of AI systems. This study constructs a research analysis framework based on the key points of AIA design presented in previous studies. Based on the subsequent analysis framework, six AIA cases implemented or proposed as policies by national governments or public institutions to date have been adopted and analyzed. As a result of the analysis, there was a perception that AIA should recognize technical and industrial specificity different from the existing impact assessment, and the AI system was comprehensively and broadly defined. Although some opinions were gathered regarding risk mitigation measures, the way the mitigation measures presented in the AI impact assessment were linked to the level of risk classification differed from country to country. In addition, it was carried out regularly at various points in the AI life cycle and had a strong self-regulatory character. This study contributes to a deeper understanding of AIA development by presenting comprehensive data on policy and research trends, thereby informing future policy development in this field.

참고문헌 (46)

  1. 김근혜, "AI 영향평가에 관한 국외 연구 동향 분석", 차세대융합기술학회논문지, 6(4), pp.615~623 (2022), 국제차세대융합기술학회[DOI]
  2. 권은정, "인공지능 서비스 영향평가의 체계와 방법론 - 「지능정보화 기본법」의 사회적 영향평가 제도를 중심으로 -", 경제규제와 법, 16(1), pp.29~50 (2023), 법학연구소[DOI]
  3. 권은정, "자동적 처분에 대한 통제 수단으로서의 알고리즘 영향평가", 국가법연구, 19(2), pp.121~148 (2023), 사단법인 한국국가법학회[DOI]
  4. 김법연, "공공분야 인공지능서비스의 영향평가제도 도입에 관한 연구", 정보법학, 27(2), pp.171~219 (2023), 한국정보법학회
  5. 김진열, "정책 ‘영향평가제도’와"소비자영향평가"에 대한 소고", 소비자정책동향, 109, pp.1~25 (2020)
  6. 노화준, "프로그램 이론 형성으로서의 정책영향평가", 행정논총, 24(1), pp.47~64 (1986)
  7. 유순덕, "인공지능 서비스 영향성 평가를 위한 분석 기준 연구", 한국인터넷방송통신학회 논문지, 23(1), pp.7~13 (2023), 한국인터넷방송통신학회[DOI]
  8. "Examing the Black Box" (2020)[URL]
  9. "Algorithmic Accountability for the Public Sector: Learning from the First Wave of Policy Implementation" (2021)[URL]
  10. Calvo RA, "Advancing impact assessment for intelligent systems", Nat Mach Intell, 2, pp.89~91 (2020)
  11. Chae. Y., "US AI regulation guide : legislative overview and practical considerations", The Journal of Robotics, Artificial Intelligence & Law, 3 (2020)
  12. "Opinion of the Data Ethics Commision" (2019)[URL]
  13. Elsevier, "Artificial intelligence: how knowledge is created, transferred, and used-trends in China, Europe, and the United States" (2018), Elsevier
  14. "Completing the Better Regulations Agenda: Better Solutions for better Results" (2017)[URL]
  15. "Regulatory Framework Proposal on Artificial Intelligence" (2021)[URL]
  16. A Survey of Artificial Intelligence Risk Assessment Methodologies, "Ezeani, G.", Ernst & Young LLP, ~ (2021)
  17. "Directive on Automated Decision-Making" (2019)[URL]
  18. "Fundamental Rights and Algorithms Impact Assessment (FRAIA)" (2022)[URL]
  19. "Algorithmic impact assessment: a case study in health care. Technical report" (2022)[URL]
  20. "Policy Briefing Algorithmic Impact Assessments" (2021)[URL]
  21. Kaminski, M., "Algorithmic impact assessments under the GDPR: producing multi-layered explanations", International Data Privacy Law, pp.19~28 (2019)
  22. Kazim E., "The interrelation between data and AI ethics in the context of impact assessments", AI and Ethics, 1(3), pp.219~225 (2021)[DOI]
  23. Kazim, E., "AI auditing and impact assessment : according to the UK information commissioner’s office", AI and Ethics, 1(3), pp.301~310 (2021)
  24. "Explainer: Impact Assessments for Artificial Intelligence" (2022)[URL]
  25. "Examining the black box: Tools for assessing algorithmic systems" (2020)[URL]
  26. Lo P, S., "Ethical principles in machine learning and artificial intelligence : cases from the field and possible ways forward", Humanities and Social Sciences Communications, 7(1), pp.1~7 (2020)
  27. Mantelero, A., "AI and Big Data : a blueprint for a human rights, social and ethical impact assessment", Comput Law Secur Rev, 34, pp.754~772 (2018)[DOI]
  28. Marquenie, T., "Security Technologies and Social Implications", pp.32~60 (2022)
  29. Nahmias, Y., "The Oversight of Content Moderation by AI:Impact Assessments and Their Limitations", Harv. J. on Legis., 58, pp.145~ (2021)
  30. "Algorithm Chater for Aotearoa New Zealand" (2020)[URL]
  31. "Roadmap for the NIST Artificial Intelligence Risk Management Framework (AI RMF 1.0)" (2023)[URL]
  33. "Regulatory Impact Assessment" (2020)[URL]
  34. "Tools for Trustworthy AI: A Framework to Compare Implementation Tools for Trustworthy AI Systems" (2021)[URL]
  35. "The state of implementation of the OECD AI Principles four years on" (2023)[URL]
  36. "Algorithmic impact assessments: What are they and why do you need them?" (2021)[URL]
  37. "Algorithmic Impact Assessments: A Practical Framework for Public Agency" (2018)[URL]
  38. Samuel, A. L., "Some studies in machine learning using the game of checkers", IBM Journal of research and development, 44(1.2), pp.206~226 (2000)
  39. Selbst, A. D., "An Institutional View of Algorithmic Impact", Harvard Journal of Law & Technology, 35(1), pp.117~191 (2021)
  40. Shah, H., "Algorithmic accountability", Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, 376(2128), pp.20170362~ (2018)
  41. Stahl, B. C., "A Systematic review of artificial intelligence impact assessments", Artificial Intelligence Review, 56, pp.12799~12831 (2023)
  42. Stix, C., "Actionable principles for artificial intelligence policy : three pathways", Science and engineering ethics, 27(1), pp.15~ (2021)
  43. "NEPA for Al? The Problem with Mandating Algorithmic Audits & Impact Assessments" (2023)[URL]
  44. Wiener, N., "The human use of human beings: cybernetics and society" (1988), Da Capo Press
  45. Yam, J., "From human resources to human rights : Impact assessments for hiring algorithms", Ethics and Information Technology, 23(4), pp.611~623 (2021)
  46. Guidance for the development of AI risk and impact assessments, "Yeung, L. A.", Center for Long-Term Cybersecurity, University of California, Berkeley, ~ (2021)

관련 논문AI추천

공공분야 인공지능서비스의 영향평가제도 도입에 관한 연구김법연한국정보법학회 · 정보법학2023 · 제27권 제2호인공지능 서비스 영향평가의 체계와 방법론 - 「지능정보화 기본법」의 사회적 영향평가 제도를 중심으로 -권은정법학연구소 · 경제규제와 법2023 · 제16권 제1호안전한 AI 서비스를 위한 국내 정책 및 가이드라인 개선방안 연구김역, 김지연, 석병진, 이창훈한국정보보호학회 · 정보보호학회논문지2023 · 제33권 제6호EU 인공지능법의 규제 체계에 대한 연구 - 위험 기반 접근법과 다층적 거버넌스를 중심으로 -염규현한국법제연구원 · 법제연구2025 · 제68호인공지능 거버넌스에서 신뢰 개념에 대한 고찰 및 정책 유형화 연구김수지, 우지숙법학연구소 · 경제규제와 법2024 · 제17권 제2호공공부문 AI-ML 알고리즘 시스템의 공정성 개선을 위한 다차원적 실현범위에 관한 연구: 알고리즘 편향 사례를 중심으로김근혜, 박규동한국지역정보화학회 · 한국지역정보화학회지2025 · 제28권 제3호

이 간행물의 다른 논문 (4건)

비금융업 자금세탁방지제도 현안과 연구 아젠다 제안: 카지노업을 중심으로서원석, 김진영, 이경민pp. 3-32기술혁신과 규제 개혁 정책이 신산업 분야의 기업성과에 미치는 영향 분석: 한국형 규제샌드박스의 조절효과를 중심으로이소담, 권기헌pp. 33-71인터넷게임의 강제적 셧다운제 폐지 정책결정과정 연구 : Kingdon의 정책흐름모형을 적용하여백석원, 배관표pp. 73-104주52시간 근무제가 기업의 성과에 미치는 영향유진성pp. 135-164
원문 보기