본문 바로가기
KERD
논문KCI 등재

고위험 인공지능에 대한 가치지향적 · 위험평가기반 형사정책

Ethics-based Control of High-risk AI Technology in Criminal Law and Policy

김한균
한국형사정책학회 (Korean Association Of Criminology)|2022.04|형사정책 (Korean Journal Of Criminology)|제34권 제1호|pp. 7-40

0

조회

0

다운로드

7

인용

0

참고문헌

키워드

National AI Strategy신뢰가능한 인공지능고위험 인공지능EU AI Act인공지능 국가전략2021년 유럽연합 인공지능법안자동화의사결정시스템생체정보인식시스템High-risk AI Technologyautomated decision-making systembiometric identification systems

초록

본 논문은 윤리적 가치를 지향하고, 위험평가에 기반을 둔 인공지능 위험 규제논의 최근 동향을 분석하여 고위험인공지능기술에 대한 형사정책의 방향을 제시해 보고자 한다. 인공지능기술 윤리 지침 정립을 통한 공동체적, 자율적 규제논의에 이어 국가전략적 접근과 국제사회의 규범정립 노력이 진행되는 가운데, 인공지능기술로써 지향해야 할 윤리적 가치를 기반으로 안전과 권리에 중한 영향을 미치게 될 고위험 인공지능 통제 기본틀을 구축하고, 그 틀안에서 인공지능기술의 개별구체적 개발과 구현의 고위험성을 평가하여 형법을 포함한 법적 통제하에 두려는 입법정책적 노력이 전개되고 있다. 인공지능 형사정책은 고위험인공지능기술 통제의 문제다. 미국의 예와 같이 신뢰가능한 인공지능시스템이라는 가치지향을 법제화하고, 유럽연합의 예와 같이 합의된 가치와 합리적 위험평가 기반 위에서 관리·통제입법을 진행하면서, 형사정책적개입도 고려되어야 할 것이다. 고위험인공지능기술의 구현으로서 법과 형사정책적대응 검토가 필요한 대상은 인공지능기반 로봇(산업용 로봇, 의료용 로봇, 자율주행운송 로봇, 성기능 로봇, 군사용 로봇), 그리고 인공지능기반 자동인식 및 의사결정시스템이다. 그러나 형사정책적 대응을 위해서는 위험평가와 개입수단과 효과의 비교형량이 필요한데, 과잉·부실대응이나 방치 결과에 이를 위험성도 있다. 이처럼 문제대응이 곧 문제의 일부가 될 수 있기 때문에 예방과 금지의 법제화 논의 진전은 신중할 수 밖에 없다. 또한 고위험인공지능기술 현실에는 범죄예방과 탐지, 진압에 활용되는 각종 로봇과 생체정보식별시스템, 자동화의사결정시스템이 포함되어 있다. 따라서 고위험인공지능기술의 위험과 침해에 대응하는 형사법과 정책은 자신에게도 엄격한 인공지능기술활용 통제와 시민안전과 권리보호를 위한 활용과제를 함께 감당해야 한다.

Abstract

This essay aims to review recent socio-technical ideas and discussions on the ethical guidelines and regulations regarding the development and deployment of artificial intelligence technology. It can be understood that AI technology should be regulated by some ethical value-base, such as Human-centric AI, Trustworthy AI, Responsible AI, and Explainalbe AI. Form the perspective of criminal law and criminal justice policy, what will be matter in the field is the control institutions on high-risk AI. European Union takes leading role in the regulation of AI risk, and its 2021 proposal of AI Act classify such risks as unacceptable-highlimited- minimal risk. High-risk AI technology may bring adverse impact to people’s safety and rights when used in critical infrastructures, educational or vocational training, safety components of products, employment and management of workers, essential private and public services, law enforcement that may interfere with fundamental rights, migration and border control management, and administration of justice and democratic processes. Criminal policy should focus on the high-risk implemented robots and automated system, such as industry robot, medical robot, automated vehicle, lethal automated weapons, sex robot, and biometric identification system and automated decision-making system. The task of AI criminal justice will be strict self-regulation on the use of the technology and effective protection of safety and rights of people against any threats from the development and deployment of high-risk AI technology.

참고문헌 (37)

  1. 관계부처합동, "인공지능 국가전략", ~ (2019)
  2. 관계부처합동, "인공지능 법·제도·규제 정비 로드맵", ~ (2020)
  3. 후기현대사회의 위험관리를 위한 형법 및 형사정책 연구(I), 현대과학기술사회 위험관리 형법 및 형사정책의 체계와 원리, "김한균", 한국형사정책연구원, ~ (2012)
  4. 김한균, "아동형체 ‘리얼돌’ 성범죄화에 관한 영미국가 입법동향 비교 분석", 비교형사법연구, 21(4), pp.105~130 (2020), 한국비교형사법학회[DOI]
  5. 이상돈, "형법강론" (2020), 박영사
  6. 이중기, "의료 AI에 대한 규제체제와 책임의 귀속 - 진단 AI와 수술로봇을 중심으로", 홍익법학, 21(4), pp.263~290 (2020), 법학연구소[DOI]
  7. 임용진, "형사정책시스템 알고리즘 구축 과정에서의 편향성", 한국정책분석평가학회 학술대회 발표논문집 (2021)
  8. Arnold, Thomas, "Beyond Moral Dilemmas: Exploring the Ethical Landscape in HRI", 2017 ACM, 2017, 445~452
  9. Bastani, "완전히 자동화된 화려한 공산주의" (2020), 황소걸음
  10. Castelvecchi, Davide, "Can we open the black box of AI?", NATURE, 538 (2016)
  11. Crew, Bec, "Worth the cost? A closer look at the da Vinci robot’s impact on prostate cancer surgery", Nature, 580 (2020)
  12. Responsibility and AI, "Council of Europe, Expert Committee on human rights dimensions of automated data processing and different forms of artificial intelligence", ~ (2019)
  13. European Commission, Independent High-Level Expert Group on Artificial Intelligence, "Ethics Guidelines For Trustworthy A", ~ (2019)
  14. White Paper on Artificial Intelligence - A European approach to excellence and trust, "European Comission", ~, pp.COM(2020) 65 final (2020)
  15. European Parliament, "Artificial intelligence act", EU Legislation in Progress, ~ (2021)
  16. Automating Injustice: The Use of Artificial Intelligence & Automated Decision-Making Systems in Criminal Justice in Europe, "Fair Trials", ~ (2021)
  17. Guang-Zhong Yang, "The grand challenges of Science Robotics", Science Robotics, 3(14) (2018)
  18. Haoarchive, Karen, "In 2020, let’s stop AI ethics-washing and actually do something", MIT Technology Review (2019)
  19. Horvitz, Eric, "One Hundred Year Study on Artificial Intelligence: Reflections and Framing", ~ (2014)
  20. Eubanks, Virginia, "자동화된 불평등" (2018), 북트리거
  21. Hambling, David, "우리는 로봇이다" (2019), 미래의 창
  22. "IEEE Global Initiative for Ethical Consideration in Artificial Intelligence and Autonomous Systems, Ethically Aligned Design A Vision for Prioritizing Human Well-being with Artificial Intelligence and Autonomous Systems, Version 1- For Public Discussion", Institute of Electrical and Electronics Engineers, ~ (2016)
  23. IEEE, "Artificial Intelligence: Calling on Policy Makers to Take a Leading Role in Setting a Long-Term AI Strategy - An IEEE European Public Policy Initiative Position Statement", ~ (2017)
  24. Kleeman, Jenny, "AI 시대, 본능의 미래" (2020)
  25. Kranzberg, Melvin, "Technology and history : Kranzberg's Laws", Technology and Culture, 27(3) (1986)
  26. Leslie, D., "Understanding artificial intelligence ethics and safety: A guide for the responsible design and implementation of AI systems in the public sector", Alan Turing Institute, ~ (2019)
  27. Gathering Strength, Gathering Storms: AI100: 2021 Study Panel Report, "Littman, Michael L.", ~ (2021)
  28. Jakob Mökander, "Ethics-based auditing of automated decision-making systems: intervention points and policy implications", AI & SOCIETY (2021), Springer Science and Business Media LLC[DOI]
  29. Regulating facial recognition in the EU, "Madiega, Tambiama", European Parliament Research Service, ~ (2021)
  30. National Institute of Standards and Technology, "AI Risk Management Framework: Initial Draft", ~ (2022)
  31. Our Sexual Future with Robots, "Sharkey, Noel", Foundation for Responsible Robotics, ~ (2017)
  32. Office for Artificial Intelligence, "A guide to using artificial intelligence in the public sector", ~ (2020)
  33. Powers, Thomas, "The Oxford Handbook of AI" (2020), OUP
  34. Stinson, Catherine, "Algorithms that Associate Appearance and Criminality", American Scientist, 109(1) (2021)
  35. Artificial Intelliegence and Life in 2030: AI 100: Report of the 2015-2016 Study Panel, "Stone, Peter", ~ (2016)
  36. Explainable AI: the basics, "The Royal Society", ~ (2019)
  37. Russell, Stuart, "어떻게 인간과 공존하는 인공지능을 만들 것인가" (2021), 김영사

관련 논문AI추천

인공지능 윤리와 형사정책적 시사점 - 형사사법에서의 인공지능 윤리 이슈를 중심으로 -김희정한국형사정책학회 · 형사정책2022 · 제34권 제1호인공지능(AI)의 발전과 형사사법의 주요논점송기복, 정용기한국경찰연구학회 · 한국경찰연구2019 · 제18권 제2호형사사법 절차에서 인공지능 기술의 활용과 기술경영에 관한 연구김태율, 정혜련한국경영법률학회 · 경영법률2020 · 제31권 제1호인공지능과 형법 책임 귀속의 한계와 가능성최호진사법발전재단 · 사법2024 · 제1권 제70호주요국의 인공지능 법제와 한국의 입법 방향심우민한국사회과학연구회 · 동향과 전망2024 · 제122호인공지능위험규제 형법개입에 대한 재고왕치앙쥐인한국비교형사법학회 · 비교형사법연구2022 · 제24권 제1호

이 간행물의 다른 논문 (6건)

인공지능재범위험성평가도구의 도입가능성과 규범적 문제점 - 보안처분 선고절차에서의 적용가능성을 중심으로 -장진환pp. 41-77인공지능 윤리와 형사정책적 시사점 - 형사사법에서의 인공지능 윤리 이슈를 중심으로 -김희정pp. 79-110성폭력 피해자 조사면담용 인공지능 챗봇 개발과 형사정책적 함의양기주, 윤여훈, 이윤정, 문혜민, 조은경pp. 111-138국제범죄로서 ‘생태살해(ecocide)죄’의 도입에 대한 검토김재윤pp. 141-165임의제출된 정보 저장매체에 대한 적법한 압수수색 절차전치홍pp. 167-202
원문 보기