본문 바로가기
KERD
논문KCI 등재

예측 알고리즘과 형사사법에 관한 논의 - 알고리즘의 사용원칙을 중심으로 -

Discussion On Predictive Algorithms And Criminal Justice - Focusing On The Principle Of Use Of Algorithms -

송기복
한국경찰연구학회 (Korean Police Studies Association)|2023.12|한국경찰연구 (Korean Police Studies Review)|제22권 제4호|pp. 107-130

1

조회

0

다운로드

1

인용

0

참고문헌

키워드

범죄예방투명성Crime PreventionTransparency형사사법예측 알고리즘Criminal Justice공정성과 설명책임.Predictive AlgorithmsFairness And Accountability.

초록

알고리즘은 기계학습(Machine Learning)이나 인공지능(Artificial Intelligence) 기술과 접목되어 다양한 분야에서 활용되고 있다. 그러나 알고리즘은 장점과 동시에 위험을 수반한다. 즉, 알고리즘은 개인과 사회의 편익을 위해 사용되지만, 동시에 차별과 불평등을 조장할 위험을 포함하고 있다. 이는 형사사법의 영역에서도 마찬가지다. 데이터와 알고리즘에 의한 결정은 법집행의 신속성과 효율성, 정밀성을 가져오지만 잠재적으로 기존의 편견과 편향을 재생산할 위험을 포함하고 있다. 인간이 데이터를 바탕으로 알고리즘을 생성·구축하고 작동시키고 있으므로 알고리즘은 인간으로부터 독립할 수 없으나 알고리즘의 결정은 인간의 의사결정에 영향을 미치게 된다. 따라서 알고리즘은 기술적·객관적 형태의 운영 방식이라기보다는 사회적 성질을 가진 기술적 집합체로 볼 수 있다. 이러한 알고리즘이 형사사법 분야에 편입되어 법집행 과정에 영향을 미치고 형사사법을 지배하고 있는 기본원칙 등을 변화시키고 있지만 이에 대한 논의가 부족한 현실이다. 따라서 본고는 이러한 인식하에 형사사법에서 알고리즘의 활용 현황과 문제점을 살펴보고 형사사법에서 알고리즘의 활용 원칙으로 투명성과 공정성, 설명책임에 대하여 제언한다.

Abstract

Algorithms are combined with machine learning and artificial intelligence technologies and are used in various fields. However, algorithms come with both advantages and risks. In other words, algorithms are used for the benefit of individuals and society, but at the same time contain the risk of promoting discrimination and inequality. This is also the case in the realm of criminal justice. Decisions made by data and algorithms bring speed, efficiency, and precision to law enforcement, but potentially contain the risk of reproducing existing prejudices and biases. Algorithms cannot be independent of humans because humans create, build, and operate algorithms based on data, but algorithmic decisions influence human decision-making. As a result, algorithms can be viewed as a technical collection with social characteristics rather than a technical or objective form of operation. These algorithms have been incorporated into the criminal justice field, affecting the law enforcement process, and changing the basic principles that govern criminal justice, but there is a lack of discussion on this. Therefore, with this recognition, this paper examines the current status and problems of algorithm use in criminal justice and suggests transparency, fairness, and accountability as principles of algorithm use in criminal justice.

참고문헌 (67)

  1. 강승식, "절차적 적법절차의 본질에 관한 연구", 미국헌법연구, 25(2), pp.1~34 (2014), 미국헌법학회
  2. 공종잉, "중국 인공지능 알고리즘 블랙박스에 대한 법적 규제", 법학논총, 46(3), pp.41~74 (2022), 법학연구소[DOI]
  3. 김은미, "네트워크화된 개인의 등장: 청소년의 SNS 활용과 관계 인식", 한국방송학보, 29(4), pp.187~224 (2015), 한국방송학회
  4. 민수홍, "수형자의 교도소 내 규율위반 : 교도소화의 적용과 자기통제이론에 근거한 재해석", 형사정책연구, 22(2), pp.67~87 (2011), 한국형사법무정책연구원
  5. 박기주, "인공지능 알고리즘을 활용한 전문(추천) 서비스 제공의 법적 성격에 관한 연구", 법제, 688, pp.97~128 (2020), 법제처[DOI]
  6. 배재권, "인공지능법 제정안과 설명가능한 인공지능(XAI)의 기본원칙에 관한 연구", 한국지식정보기술학회 논문지, 18(2), pp.439~448 (2023), 한국지식정보기술학회[DOI]
  7. 백수원, "헌법상 투명성원칙에 기반한 인공지능 규제의 방향", 성균관법학, 33(2), pp.589~622 (2021), 법학연구원[DOI]
  8. 송기복, "경찰활동과 프라이버시 보호에 관한 논의 -빅데이터를 이용한 활동을 중심으로-", 한국경찰학회보, 25(2), pp.325~344 (2023), 한국경찰학회
  9. 송기복, "인공지능(AI) 시대의 도래와 법제도의 방향에 관한 논의 - 독일의 인공지능 정책을 중심으로 -", 경찰법연구, 18(2), pp.177~203 (2020), 한국경찰법학회[DOI]
  10. 송재민, "이미지 인식 기술의 산업 적용 동향 연구", 한국콘텐츠학회 논문지, 20(7), pp.86~96 (2020), 한국콘텐츠학회[DOI]
  11. 안명옥, "안면인식 기술 규제 동향 및 시사점", AI Trend Watch, 2022(1), pp.2~ (2022)
  12. 양종모, "인공지능 알고리즘의 편향성, 불투명성이 법적 의사결정에 미치는 영향 및 규율 방안", 법조, 66(3), pp.60~105 (2017), 법조협회[DOI]
  13. 유다현, "머신 러닝을 이용한 트윗 데이터의 위치 추정 연구", 국토지리학회지, 53(4), pp.365~373 (2019), 국토지리학회
  14. 이슬아, "인공지능 판사 앞의 7가지 숙제 -재범위험성 예측 알고리즘을 둘러싼 과학기술적·법적 논의 분석", 사법, 1(64), pp.665~714 (2023), 사법발전재단[DOI]
  15. 이윤아, "인공지능 알고리즘이 유발하는 차별 방지방안에 관한 연구", 한국거버넌스학회보, 29(2), pp.175~202 (2022), 한국거버넌스학회
  16. AI 기반 안면인식 기술 동향, "이정률", KOSEN, 1~6 (2022)
  17. 이지나, "형사사법에서의 인공지능 예측프로그램 활용 제언: 인종적 편향 가능성 회피를 중심으로", 원광법학, 39(2), pp.57~73 (2023), 법학연구소[DOI]
  18. 주현경, "범죄예측 및 형사사법절차에서 알고리즘 편향성 문제와 인공지능의 활용을 위한 규범 설계", 법학논총, 27(1), pp.115~162 (2020), 법학연구원
  19. 정용기, "인공지능(AI)의 발전과 형사사법의 주요논점", 한국경찰연구, 18(2), pp.3~24 (2019), 한국경찰연구학회[DOI]
  20. 사법절차 및 사법서비스에서인공지능 기술의 도입 및 수용을 위한 정책연구, "정채연", 사법정책연구원, 89~ (2021)
  21. 최은창, "알고리즘 거버넌스", Future Horizon, 33, pp.30~ (2017)
  22. Brayne, S., "The Criminal Law and Law Enforcement Implications of Big Data", Annual Review of Law and Social Science, 14, pp.293~308 (2018)
  23. Beth, P, "Predictive Policing : The Future of Law Enforcement?", NIJ Journal, 2010, pp.266, 16~
  24. Burrell, J, "How the machine ‘thinks’ : Understanding opacity in machine learning algorithms", Big Data & Society, 3(1), pp.2~3 (2016)
  25. Policing, "2019", 42(1)
  26. Chiao, V., "Fairness, accountability and transparency : notes on algorithmic decisio n-making in criminal justice", International Journal of Law in Context, 15, pp.126~ (2019)
  27. Chan, J., "Is Big Data challenging criminology?", Theoret ical Criminology, 20(1), pp.21~39 (2016)
  28. Citron, D. K., "Technological Due Process", Wash. U. L. Rev, 85(1249), pp.1249~1250 (2008)
  29. David M. Nabirahni, "Al-Khwarizmi (Algorithm) and the Development of Algebra", Mathematics Teaching Research Journal, 11(1-2), pp.14~ (2019)
  30. Douglas, T., "Risk assessment tools in criminal justice and forensic psychiatry : The need for better data", European Psychiatry, 42, pp.134~137 (2017)
  31. FTC, "Big data: A Tool for Inclusion or Exclusion?", 29~31 (2016)
  32. Gates, K. A., "Our Biometric Future: Facial Recognition Technology and the Culture of Surveillance", pp.151~152 (2011), New York University Press
  33. Goel, S., "Personalized Risk Assessment in the Crimina l Justice System", American Economic Review: Papers and Proceedings, 106(5), pp.119~123 (2016)
  34. Gillespie, T., "Media Technologies: Essays on Communication, Materiality, and Society", pp.167~ (2014), The MIT Press
  35. GPAI, "State-of-the-art Foundation AI Models Should be Accompanied by Detection", ~ (2023)
  36. Harvey, A., "Book review : Safiya umoja noble, algorithms of oppression : How search engines reinforce racism", European Journal of Cultural Studies, 24(3), pp.780~783 (2021)
  37. Joh, E. E., "Policing by Numbers : Big Data and the Fourth Amendment", Washington Law Review, 89(1), pp.49~ (2014)
  38. Buolamwin, J., "Proceedings of the 1st Conference on Fairness, Ac countability and Transparency", Proceedings of Machine Learning Research, 81(1), pp.1~15 (2018)
  39. Algorithms in the Criminal Justice System: As sessing the Use of Risk Assessments in Sentencing, "Kehl, D.", Responsive Communities Init iative, Berkman Klein Center for Internet and Society, Harvard Law School, 32~33 (2017)
  40. Kitchin, R., "Thinking critically about and researching algorithms", Information Communication and Society, 20(1), pp.17~18 (2017)
  41. Koene, Ansgar, "IEEE P7003TM standard for algorithmic bias considerations", IEEE 2018, pp.38~41 (2018)
  42. Mehozay, Y., "The epistemology of algorithmic risk assessment and the path towards a non-penology penology", Punishment and Society : The Inter national Journal of Penology, 21(5), pp.523~541 (2019)
  43. Mehri, B., "From Al-Khwarizmi to Algorithm", Olympiads in Informatics, 11, pp.71~74 (2017)
  44. Mittelstadt, B. D., "The ethics of algorithms : Mapping the debate", Big Data and Society, 3(2), pp.1~21 (2016)
  45. Peeters, R., "Machin justice : Governing security through the bureaucracy of algorithms", Information Policy, 23, pp.272~275 (2018)
  46. Rouvroy, A., "Algorithmic governmentality and prospects of emancip ation : Disparateness as a precondition for individuation through relationships?", Réseaux, 177, pp.163~196 (2013)
  47. Discriminating Syste ms : Gender, Race and Power in AI, "Sarah Myers West", AI Now Institute, 15~19 (2019)
  48. Saunders, J., "Predictions put into practice : a quasi-experimental evaluation of Chicago’s predictive policing pilot", Journal of Experi mental Criminology, 12(3), pp.1~25 (2016)
  49. Sweeney, L., "Discrimination in Online Ad Delivery", 2~3 (2013)
  50. Scantamburlo, T., "Algorithmic Regulation", pp.50~51 (2019), Oxford University Press
  51. Solensten, B., "Risk Based-Policing : Evidence-Based Crime Prevention With Big Data And Spatial Analytics", Theory In Action, 13(3), pp.158~164 (2020)
  52. Thomas H. Cormen, "Intro duction to Algorithms", pp.5~ (2009), The MIT Press
  53. Williams. M. L., "Crime Sensing With Big Data : The Affordance and Limitations of Using Open-source Communications to Estimate Cr ime Patterns", The British Journal of Criminology, 57(2), pp.320~340 (2017)
  54. "인공지능 위한 노역에 교도소 죄수 쓴다", 한겨례, ~ (2019)
  55. "“이력서에 ‘여성’ 들어가면 감점”…아마존 AI 채용, 도입 취소", 조선일로, ~ (2018)
  56. "HP 노트북 웹캠용 얼굴추적 SW ‘인종차별?’", 전자신문, ~ (2009)
  57. "경찰, 빅데이터로 '범죄위험도 예측' 전국 확대", 연합뉴스, ~ (2021)
  58. "‘공정한 인공지능’의 어려움", AI타임즈, ~ (2021)

관련 논문AI추천

범죄예측 및 형사사법절차에서 알고리즘 편향성 문제와 인공지능의 활용을 위한 규범 설계정채연, 주현경법학연구원 · 법학논총2020 · 제27권 제1호형사사법에서의 인공지능 예측프로그램 활용 제언: 인종적 편향 가능성 회피를 중심으로이지나법학연구소 · 원광법학2023 · 제39권 제2호형사사법에 있어서 인공지능의 활용과 그 적법성 확보 방안최대호법학연구원 · 法學論文集2025 · 제49권 제3호법 분야 위험의 예측을 위한 인공지능 알고리즘과 관련된 법적 쟁점양종모IT와 법연구소 · IT와 법연구2021 · 제22호인공지능 알고리즘의 편향성, 불투명성이 법적 의사결정에 미치는 영향 및 규율 방안양종모사단법인 법조협회 · 법조2017 · 제66권 제3호형사정책시스템 알고리즘 구축 과정에서의 편향성박규동, 임용진한국공안행정학회 · 한국공안행정학회보2022 · 제31권 제2호

이 간행물의 다른 논문 (8건)

IPA 분석을 통한 경찰학 관련 학과 신입생들의 대학선택 결정요인 연구 - 강원권 대학을 중심으로 -남재성pp. 3-32경찰공무원의 자살 현황 및 예방에 관한 연구박양재, 최응렬pp. 33-54형사사법학 전공자들의 동성애 태도에 대한 가부장 신념과 인지적·정서적 공감의 매개효과박현나pp. 55-82지역사회경찰활동이 사업체 관리자의 범죄두려움에 미치는 영향: 범죄예방활동의 조절효과를 중심으로신명현, 이창배, 손은아, 유정호pp. 83-106단기체류 외국인에 대한 십지지문 채취·등록의 필요성에 관한 연구김혜림, 이지연, 유제설pp. 131-160
원문 보기