본문 바로가기
KERD
논문KCI 등재

인공지능재범위험성평가도구의 도입가능성과 규범적 문제점 - 보안처분 선고절차에서의 적용가능성을 중심으로 -

A study on a increasing need to introduce the AI recidivism risk assessment and normative questions

장진환
한국형사정책학회 (Korean Association Of Criminology)|2022.04|형사정책 (Korean Journal Of Criminology)|제34권 제1호|pp. 41-77

0

조회

0

다운로드

7

인용

0

참고문헌

키워드

증거능력인공지능보안처분공정한 재판을 받을 권리Artificial Intelligenceadmissibility of evidenceright to a fair trial재범위험성 평가recidivism risk assessmentsafety measure

초록

효율성과 비용절감을 무엇보다 중요시하는 사회전반적인 흐름과 인공지능에 대한 전폭적인 국가지원의 흐름을 감안해 보면, 형사정책의 영역에서도 앞으로 인공지능이 차지하는 비중은 다른 영역에서처럼 점점 높아져 갈 것으로 예측된다. 이에 본연구에서는 현재의 재범예측도구와 비교하여 인공지능재범예측도구가 도입될 실익이 있는지, 그리고 만약에 도입될 경우 발생할 수 있는 법적 문제점에 대해 검토하였다. 검토결과 인공지능재범예측도구는 아직은 재범예측의 정확성측면에서 현재의재범예측도구에 비해 뛰어나다고 할 수 없었다. 하지만 장래에 빅 데이터들의 수집량이 늘어나고, 이를 통해 신빙성이 높은 훈련데이터들이 점점 더 확보된다면, 같은통계적 방식에 기반하고 있는 현재의 재범예측도구보다 우수한 정확도를 나타낼 것으로 예측된다. 보안처분의 선고와 관련해 인공지능재범예측도구의 결과를 사용할경우, 이는 사실관계의 확정과 관계가 없으므로 증거능력의 문제는 발생하지 않을것이다. 그러나 인공지능을 통해 도출된 재범위험성 평가결과의 불투명성과 설명 불가능성, 검증 불가능성으로 인해 헌법 제27조에서 보장하는 공정한 재판을 받을 권리는 침해될 수 있다. 또한 인공지능재범예측도구가 도입된다면, 이러한 재범예측도구가 가지는 정확성은 법관의 직관적인 판단보다 우수하다고 판단되므로 법관이 이 결과를 반드시 공판과정에서 고려하도록 법률 개정이 이루어져야 한다. 하지만 이경우에도 법관의 독립성과 특수한 지위로 인해 법관이 이러한 판단결과에 강제적으로 구속될 필요는 없다.

Abstract

Currently the Korean government actively supports an introduction and application of AI (Artificial Intelligence) in the various fields. The importance of AI is on the rise, considering the social perspective which highly values efficiency as well as cost reduction. The criminal policy is no exception to this trend. This study is concerned with two significant issues: i) the potential and effectiveness for AI recidivism prediction tool in comparison with the current prediction tool of the recidivism risk and ii) possible legal issues in the case of AI utilization. With respect to the predictive accuracy, it cannot be affirmed that recidivism prediction tool using AIis superior to the current assessment tool. However, extensive collection of big data and reliable training dataset will lead to more accurate prediction results of the recidivism prediction tool based on the AI technology comparing with the current estimation. In the case of using the results based on the recidivism prediction tool using AI for the decision of safety measure, problems on the admissibility of evidence do not occur because there exists no relationship with a legal determination of fact relevance. However, the right on a fair trial is infringed in Article 27 of the constitutional law since the results of the recidivism prediction tool using AI have an opacity as well as feature that defies explanation and verification. In order to introduce the recidivism prediction tool using AI, the law should certainly be amended for the application of AI predictive results in a trial procedure, because it is assessed that the accuracy of predictive recidivism assessment tool is higher than that of intuitive determination by the judges. However, judges should not absolutely depend on this AI predictive assessment results due to their independency and specific position.

참고문헌 (36)

  1. 고려진, "성범죄자들에 대한 재범 추적 연구: KSORAS 평가를 중심으로", 한국심리학회지:법, 1(2), pp.155~170 (2010), 한국법심리학회
  2. 김기범, "범죄 빅데이터를 활용한 범죄예방시스템 구축을 위한 예비연구(I)" (2014), 한국형사정책연구원
  3. 김성돈, "전통적 형법이론에 대한 인공지능 기술의 도전", 형사법연구, 30(2), pp.81~116 (2018), 한국형사법학회
  4. 김웅재, "형사절차에서 인공지능 알고리즘의 활용가능성과 그 한계", LAW & TECHNOLOGY, 16(4) (2020), 서울대학교기술과 법센터
  5. 김혜정, "형사제재에 있어 빅데이터를 이용한 재범위험성예측의 활용 프레임 재정립을 위한 시론적 연구", 형사법의 신동향, (66), pp.118~146 (2020), 대검찰청[DOI]
  6. 김효은, "인공지능 편향식별의 공정성 기준과 완화", 한국심리학회지:일반, 40(4), pp.459~485 (2021), 한국심리학회[DOI]
  7. 노성훈, "시공간 분석과 위험영역모델링을 활용한 범죄예측모형의 예측력 검증", 형사정책연구, 26(3), pp.1~28 (2015), 한국형사법무정책연구원
  8. 서종한, "전문가판단모델(SPJ) 기반 폭력위험성평가(HCR-20) 버전 3 타당화 연구: 재범예측에서 예방으로의 패러다임 전환", 형사정책연구, 29(1), pp.309~366 (2018), 한국형사법무정책연구원
  9. 양종모, "법 분야 위험의 예측을 위한 인공지능 알고리즘과 관련된 법적 쟁점", IT와 법연구, (22), pp.371~412 (2021), IT와 법연구소
  10. 양종모, "인공지능 알고리즘의 편향성, 불투명성이 법적 의사결정에 미치는 영향 및 규율 방안", 법조, 66(3), pp.60~105 (2017), 법조협회[DOI]
  11. 양종모, "재범의 위험성 예측 알고리즘과 설명가능성 및 공정성의 문제", 형사법의 신동향, (70), pp.207~240 (2021), 대검찰청[DOI]
  12. 양주아, "경찰의 과학치안 활동 현황 및 전망", 한국경찰연구, 16(4), pp.147~168 (2017), 한국경찰연구학회[DOI]
  13. 유진, "‘위험한 범죄자’와 현대 위험관리체제의 성격 : 재범위험성 평가의 발전과 역설적 효과", 법과사회, (58), pp.171~215 (2018), 법과사회이론학회[DOI]
  14. 윤상연, "범죄 예측의 현재와 미래- 한국형 범죄예측 시스템 개선․도입에 대한 제언 -", 한국공안행정학회보, 27(3), pp.248~272 (2018), 한국공안행정학회[DOI]
  15. 이병규, "AI의 예측능력과 재범예측알고리즘의 헌법 문제- State v. Loomis 판결을 중심으로", 공법학연구, 21(2), pp.169~191 (2020), 한국비교공법학회
  16. 이수정, "한국 성범죄자 위험성 평가 도구 개발 및 타당도 연구", 형사정책연구, 19(4), pp.309~345 (2008), 한국형사법무정책연구원
  17. 이수정, "재범방지를 위한 범죄자처우의 과학화에 관한 연구(Ⅰ) - 위험성평가도구 개발에 관한 연구" (2010), 형사정책연구원
  18. 이수정, "재범 추적을 통한 한국성범죄자위험성평가척도(KSORAS) 타당도 연구", 한국심리학회지:일반, 29(4), pp.999~1016 (2010), 한국심리학회
  19. 임석순, "형법상 인공지능의 책임귀속", 형사정책연구, 27(4), pp.1~23 (2016), 한국형사법무정책연구원
  20. 정원섭, "인공지능 알고리즘의 편향성과 공정성", 인간.환경.미래, (25), pp.55~73 (2020), 인간환경미래연구원[DOI]
  21. 정진, "범죄 빅데이터를 활용한 범죄예방시스템 구축을 위한 예비연구(II)" (2015)
  22. 주현경, "범죄예측 및 형사사법절차에서 알고리즘 편향성 문제와 인공지능의 활용을 위한 규범 설계", 법학논총, 27(1), pp.115~162 (2020), 법학연구원
  23. 한애라, "“사법시스템과 사법환경에서의 인공지능 이용에 관한 유럽 윤리헌장”의 검토 - 민사사법절차에서의 인공지능 도입 논의와 관련하여 -", 저스티스, 172, pp.38~79 (2019), 한국법학원[DOI]
  24. 홍영오, "강력범죄의 재범률 및 재범예측에 대한 연구" (2012), 형사정책연구원
  25. Angele Christin, "Data & Civil Rights: A New Era of Policing and Justice" (2015), Data & Society
  26. Axel Boetticher, "Zum richtigen Umgang mit Prognoseinstrumenten durch psychiatrische und psychologische Sachverständige und Gerichte", Neue Zeitschrift für Strafrecht(NStZ), 10 (2009)
  27. Axel Dessecker, "Gefährlichkeit und Verhältnismäßigkeit, -Eine Untersuchung zum Maßregelrecht" (2004), Duncker & Humblot
  28. Bernd-Dieter Meier, "Kriminologie" (2021), C.H.BECK
  29. Julia Dressel, "The accuracy, fairness, and limits of predicting recidivism", SCIENCE ADVANCES, ~ (2018)
  30. Julian Sigmund, "Probleme und wissenschaftliche Methoden bei der Prognose von Gefährlichkeit", Freilaw, ~ (2012)
  31. Nobert Nedopil, "Forensische Psychiatrie: Klinik, Begutachtung und Behandlung zwischen Psychiatrie und Recht" (2007), Thieme
  32. Peter Asprion, "Gefährliche Freiheit?: Das Ende der Sicherungsverwahrung" (2013), Herder
  33. Stefan Rusche, "In Freiheit gefährlich? Eine Untersuchung zu Häufigkeit und Gründen falscher Kriminalprognosen bei psychisch kranken Gewaltverbrechern" (2004), Roderer Verlag
  34. Thomas Feltes, "Rückfallprognose und Sicherungsverwahrung-die Rolle des Sachverständigen", Strafverteidiger(StV), 5 (2000)
  35. Ulrich Eisenberg, "Kriminologie" (2017), Mohr Siebeck
  36. Walter L. Perry, "Predictive Policing -The Role of Crime Forecasting in Law Enforcement Operations" (2013), RAND Corporation

관련 논문AI추천

형사제재에 있어 빅데이터를 이용한 재범위험성예측의 활용 프레임 재정립을 위한 시론적 연구김혜정대검찰청 · 형사법의 신동향2020 · 제66호인공지능 판사 앞의 7가지 숙제 -재범위험성 예측 알고리즘을 둘러싼 과학기술적·법적 논의 분석이슬아사법발전재단 · 사법2023 · 제1권 제64호양형조사에서 인공지능의 활용에 관한 시론적 고찰김진한국형사정책학회 · 형사정책2024 · 제36권 제1호범죄예측 및 형사사법절차에서 알고리즘 편향성 문제와 인공지능의 활용을 위한 규범 설계정채연, 주현경법학연구원 · 법학논총2020 · 제27권 제1호법 분야 위험의 예측을 위한 인공지능 알고리즘과 관련된 법적 쟁점양종모IT와 법연구소 · IT와 법연구2021 · 제22호근기(Near-term) AI의 형사절차적 활용방안 - 가정폭력 재범위험성 평가를 예로 하여 -박희수법학연구소 · 법학논집2024 · 제28권 제4호

이 간행물의 다른 논문 (6건)

고위험 인공지능에 대한 가치지향적 · 위험평가기반 형사정책김한균pp. 7-40인공지능 윤리와 형사정책적 시사점 - 형사사법에서의 인공지능 윤리 이슈를 중심으로 -김희정pp. 79-110성폭력 피해자 조사면담용 인공지능 챗봇 개발과 형사정책적 함의양기주, 윤여훈, 이윤정, 문혜민, 조은경pp. 111-138국제범죄로서 ‘생태살해(ecocide)죄’의 도입에 대한 검토김재윤pp. 141-165임의제출된 정보 저장매체에 대한 적법한 압수수색 절차전치홍pp. 167-202
원문 보기