공공분야 인공지능서비스의 영향평가제도 도입에 관한 연구
A Study on the Adoption of Impact Assessment for Artificial Intelligence Service of Public Sector
1
조회
0
다운로드
6
인용
0
참고문헌
키워드
초록
인공지능 영향평가는 인공지능이 윤리적이고 합법적으로 사용되도록 초기 단계에서 부정적 영향에 대한 평가를 실시하고 이를 예방하는 것을 목적으로 실시하는 것이다. 공공서비스와 정부의 행정업무 등에 인공지능을 적용하는 사례가 증가하고 있고, 이에 따라 공공서비스에도 인공지능의 위험과 부작용이 동일하게 나타나고 있는 상황이다. 이에 본 논문에서는 공공분야에서 인공지능을 도입하거나 활용할 경우 인공지능 영향평가를 실시할 수 있도록 제도 개선이 필요함을 강조하고 있다. 인공지능에대한 규제 등 통제 수단이 마련되어 있지 않는 상황에서 인공지능의 부정적 영향을완화할 수 있는 수단으로서 인공지능 영향평가의 도입을 적극 고려할 필요가 있기 때문이다. 공공분야에서의 인공지능 활용은 국민의 권리와 의무에 미치는 영향이 크다는 점에서 더욱 더 통제가 필요한 상황임을 감안하여야 한다. 공공분야의 인공지능 영향평가에는 인공지능시스템의 기능적 영향을 평가하는 것뿐만 아니라 인공지능시스템과 서비스의 도입으로 인한 사회적 효용가치, 국민의 기본권에 미치는 영향 등에 대한 평가도 포함될 수 있어야 한다. 또한 인공지능 영향평가가 안정적으로 운영될 수 있도록 법적 근거를 마련하고, 여기에는 이를 관리하고운영할 거버넌스 체계의 수립, 평가의 대상의 선별 기준, 주요 평가 항목, 평가 항목선정 방법과 절차, 평가 결과에 대한 피드백, 영향평가 실시에 대한 지원 등에 관한규정이 함께 포함되어야 할 것이다.
Abstract
Artificial Intelligence impact assessment aims to assess and mitigate negative impacts from the initial stag e, ensuring the ethical and leg al use of AI. With the g rowth of AI applications in public services and government administration, the risks and negative impacts of AI in these areas are equally apparent. This paper highlights the need for systematic improvements to enable AI impact assessments when implementing or using AI in the public sector. In situations where AI regulations or other control measures don’t exist, it is crucial to proactively consider the implementation of AI impact assessments as a means to mitigate the negative effects of AI. Given the significant impact that AI applications in the public sector can have on citizens’ rights and responsibilities, it’s appropriate to consider the need for tighter controls. AI impact assessments in the public sector should include not only the functional impact assessment of AI systems, but also the assessment of the social utility value and the impact on citizens’ fundamental rights resulting from the use of AI systems and services. It’s necessary to establish legal grounds for the stable operation of AI impact assessments, which should include the establishment of a governance system for their management and operation, criteria for the selection of targets for assessment, main assessment items, methods and procedures for the selection of assessment items, feedback on assessment results, and regulations related to support for the conduct of impact assessments.
참고문헌 (52)
- 과학기술정보통신부, "소프트웨어사업 영향평가 가이드라인", ~ (2022)
- 알고리즘에 기반한 결정의 역기능 방지를 위한 규제 방안 연구, "김태오", 과학기술정보통신부⋅정보통신기획평가원, ~ (2020)
- 인공지능 인권영향평가 도입 방안 연구, "유승익", 국가인권위원회, ~ (2022)
- 인공지능(AI) 윤리와 법(Ⅰ) AI 윤리의 쟁점과 거버넌스 연구, "이상욱", 유네스코한국위원회-한국법제연구원, ~ (2021)
- ICT 기반 사회현안 해결방안 연구, "조성은", 정보통신정책연구원, ~ (2021)
- 권은정, "지능정보기술의 위험 통제를 위한 법정책적 고찰 - 규제행정의 다각화 관점에서 -", 법과정책연구, 21(3), pp.103~118 (2021), 한국법정책학회[DOI]
- 권은정, "자동적 처분에 대한 통제 수단으로서의 알고리즘 영향평가", 국가법연구, 19(2), pp.121~148 (2023), 사단법인 한국국가법학회[DOI]
- 김근혜, "AI 영향평가에 관한 국외 연구 동향 분석", 차세대융합기술학회논문지, 6(4), pp.615~623 (2022), 국제차세대융합기술학회[DOI]
- 김광수, "인공지능 규제의 법체계", 토지공법연구, 93, pp.217~243 (2021), 한국토지공법학회
- 김윤명, "생성형 인공지능(AI) 모델의 법률 문제", 정보법학, 27(1), pp.77~112 (2023), 한국정보법학회
- 서지영, "기술영향평가에 대한 다양한 관점과 쟁점, 그리고 나아갈 방향", 과학기술정책, 2(2) (2019), 과학기술정책연구원
- 선지원, "인공지능 알고리즘 규율에 대한 소고- 독일의 경험을 중심으로 -", 경제규제와 법, 12(1), pp.26~43 (2019), 법학연구소[DOI]
- 신선영, "인공지능 서비스 영향평가 추진방안에 대한 연구", 한국인터넷방송통신학회 논문지, 22(5), pp.147~157 (2022), 한국인터넷방송통신학회[DOI]
- 홍석한, "미국 “2022 알고리즘 책임법안”에 대한 고찰", 미국헌법연구, 34(1), pp.73~107 (2023), 미국헌법학회
- 양종모, "인공지능의 위험의 특성과 법적 규제방안", 홍익법학, 17(4), pp.537~565 (2016), 법학연구소[DOI]
- 윤혜선, "인공지능의 사회적 수용성과 법제도의 기능적 관계에 관한 소고", 경제규제와 법, 14(1), pp.32~56 (2021), 법학연구소[DOI]
- Bernd Carsten Stahl, "A systematic review of artifcial intelligence impact assessments", Artificial Intelligence Review (2023)[DOI]
- Colin van Noordt⋅Gianluca Misuraca, "Evaluatingthe impact of artificial intelligence technologies in public services: towards an assessment framework", International Conference on Theory and Practice of Electronic Governance(ICEGOV) (2020)
- Giusella Finocchiaro, "The regulation of artifcial intelligence", AI & Society (2023)[DOI]
- Hannah Ruschemeier, "AI as a challenge for legal regulation – the scope of application of the artificial intelligence act proposal", ERA Forum 23, 23 (2023)
- Irina Pencheva⋅Marc Esteve, "Big Data and AI – A transformational shift for government: So, what next for research?", Public Policy and Administration, 35(1) (2020)[DOI]
- Jesús Salgado-Criado, "A Wide Human-Rights Approach to Artificial Intelligence Regulation in Europe", IEEE Technology and Society Magazine, 40(2) (2021)
- Marvin van Bekkum, "Digital welfare fraud detection and the Dutch SyRI judgment", European Journal of Social Security, 23(4) (2021)
- Murray Scott, "IT quality and egovernment net benefits: A citizen perspective", 19th European Conference on Information Systems, ECIS 2011 Proceedings, 87 (2011)
- Patrick Glauner, "The Future Circle of Healthcare: AI, 3D Printing, Longevity, Ethics, and Uncertainty Mitigation" (2021), Springer
- Håkan HYDÉN, "AI, Norms, Big Data, and the Law", Asian Journal of Law and Society, 7(3) (2020)
- 국가인권위원회, "얼굴인식 기술의 도입⋅활용에 있어서 인권 보호를 위한 권고 및 의견표명", ~ (2023)
- 기술영향평가제도의 현황과 개선과제, "권성훈", 국회입법조사처, ~, pp.NARS 현안보고서 제232호 (2014)
- 알고리즘 영향평가 모델 사례, "김동현", NIA AI Future Strategy Center, ~, pp.The AI Report 2022-2 (2022)
- 디지털플랫폼정부 실현계획, "대통령직속 디지털플랫폼정부위원회", ~ (2023)
- 공공분야 인공지능 도입을 위한 실무자 안내서(안), "행정안전부", ~ (2021)
- "AI 모델링: 분석 분야에 인텔리전스 제공"[URL]
- "AI로 학폭 감지해 신고”… 사생활 침해-유출 우려" (2023)[URL]
- 법무부, "인공지능 식별추적시스템은 출입국관리 업무에 최소한으로 활용될 것이며, 개인신상정보가 남용되는 일은 결코 없을 것입니다", ~ (2021)
- "‘얼굴 무단 사용’ 법무부가 밝힌 개인정보열람 거부 이유" (2022)[URL]
- "尹 "디지털플랫폼정부, 전자정부 업그레이드 아닌 차원이 완전히 다른 것"" (2023)[URL]
- "Algorithmic impact assessment in healthcare"[URL]
- "A guide to using artificial intelligence in the public sector" (2019)[URL]
- "Dutch parliament agrees to make the use of human rights impact assessments mandatory before using algorithms by public institutions"[URL]
- "Artificial intelligence impact assessment" (2019)[URL]
- "Assessment List for Trustworthy Artificial Intelligence (ALTAI) for self-assessment" (2020)[URL]
- "SyRi - Detect welfare fraud, AI Watch - Artificial Intelligence in public services, Overview of the use and impact of AI in public services in the EU"[URL]
- "IEEE 7010-2020a-IEEE recommended practice for assessing the impact of autonomous and intelligent systems on human well-being" (2020)[URL]
- "Algorithmic Impact Assessment tool"[URL]
- "Directive on Automated Decision-Making"[URL]
- "Impact Assessment Fundamental Rights and Algorithms"[URL]
- "The Government of Canada’s Algorithmic Impact Assessment: Take Two" (2018)[URL]
- "Dutch scandal serves as a warning for Europe over risks of using algorithms"[URL]
- "Planning and preparing for artificial intelligence implementation: Guidance to help you plan and prepare for implementing artificial intelligence (AI)" (2019)[URL]
- U.K. Government, "Assessing if artificial intelligence is the right solution, Guidance to help you assess if artificial intelligence (AI) is the right technology for your challenge", ~ (2019)
- "Guidelines for AI procurement" (2020)[URL]
- "Recommendation on the Ethics of Artificial Intelligence" (2021)[URL]