본문 바로가기
KERD
논문KCI 등재

형사정책시스템 알고리즘 구축 과정에서의 편향성

The Deviation and Responses in the Construction of Criminal Policy System Algorithm

임용진|박규동
한국공안행정학회 (Korean Association Of Public Safety And Criminal Justice)|2022.06|한국공안행정학회보 (korean Journal of Public Safety and Criminal Justice)|제31권 제2호|pp. 161-198

0

조회

0

다운로드

2

인용

0

참고문헌

키워드

재범 예측예측 치안형사사법시스템알고리즘 구축범죄예측Predictive policingThe criminal justice systemAlgorithm constructionCrime predictionRecidivism prediction
주제분류행정학

초록

자동화된 의사결정 형태로 발전 운용하고자 하는 형사사법 알고리즘의 효율성과 효과성을 파악하며, 알고리즘의 부정적 효과라 이해하는 편향성(bias)을 줄이기 위한 논의가 필요하다. 예측적 경찰활동이란, 능동적 범죄예측의 방식에서 현장 정보나 일선 관련 정보가 아닌 순수 사회 데이터를 활용해 통계적 예측을 통해 범죄 예방 또는 경찰의 개입 대상을 결정하는 것이다. DAS, PredPol, COMPAS 등의 시스템이 존재하나, 국내는 현재까지 진화된 방식의 기술적 논의와 테스트 단계일 뿐 법·제도적으로 갖추어야 할 요소와 알고리즘 구축에 대한 논제가 많다. 그런데도 쟁점은 기술 발달 측면에 가려져 있다. 따라서 기술적 측면을 배제하고 인문사회과학 영역에서 형사사법 알고리즘 시스템 도입에 선두 국가인 미국의 사례를 통해 그 문제점과 쟁점을 파악하는 것 또한 중요하다. 예측 치안을 어우르는 형사정책 분야에서 알고리즘의 자동화된 판단이 수반하는 편향성을 검토하고, 문제를 해결하기 위한 규범적 측면과 자료수집과 활용 측면에서 세밀한 보완과 구축의 전제적 필요성을 구상해보고자 한다.

Abstract

A discussion is urgently needed to identify the efficiency and effectiveness of the criminal justice algorithm, which is intended to develop and operate in an automated decision-making form and to reduce the bias that is understood as a negative effect of the algorithm. In the method of Active Crime Prediction, which comprehensively analyzes current data and accessible public data and transmits the predicted and analyzed information to the on-site police in real-time, it utilizes pure social data rather than on-site information or front-line information. It is defined as a predictive police activity that determines the target of crime prevention or police intervention through statistical prediction and is facing a change to the establishment of criminal justice procedures through an algorithmic system as a type. Overseas, systems such as DAS, PredPol, and COMPAS are being produced and operated by private companies. However, in Korea, it is only at the stage of technical discussion and testing of the evolved method so far, and there are many issues and issues regarding the elements and algorithms that must be equipped legally and institutionally. Nevertheless, the realm of these debates and issues is obscured by technological advances. Therefore, it is important to exclude technical aspects and identify the problems and issues through the examples of the United States and the United Kingdom, which are leading countries in introducing criminal justice algorithm systems in the humanities and social sciences. In this study, the problems that appeared through previous studies and cases were classified and explored according to the system operation stage (construction, utilization, management). The various issues and problems analyzed are ultimately problems that appeared in the use of the algorithm. It also had a structure that reduced it to a problem created by the person using the technology. It is interpreted as a limitation in that it cannot provide a clear solution to the ongoing debate or reflect it in the field. Therefore, in the field of criminal policy dealing with predictive policing and recidivism prediction, we examine the bias accompanying the automated judgment of algorithms, and envision the prerequisite for detailed complementation and construction in terms of normative aspects and data collection and utilization to solve problems.

참고문헌 (67)

  1. 권양섭, "범죄예방과 수사에 있어서 빅데이터 활용과 한계에 관한 연구", 법학연구, 17(1), pp.179~198 (2017), 한국법학회
  2. 전자통신동향분석, "2019", 34(1)
  3. 선지원, "인공지능 알고리즘 규율에 대한 소고- 독일의 경험을 중심으로 -", 경제규제와 법, 12(1), pp.26~43 (2019), 법학연구소[DOI]
  4. 심우민, "인공지능의 발전과 알고리즘의 규제적 속성", 법과사회, (53), pp.41~70 (2016), 법과사회이론학회
  5. 양종모, "인공지능 이용 범죄예측 기법과 불심검문 등에의 적용에 관한 고찰", 형사법의 신동향, (51), pp.210~242 (2016), 대검찰청[DOI]
  6. 양종모, "형사사법절차 전자화와 빅 데이터를 이용한 양형합리화 방안 모색", 홍익법학, 17(1), pp.419~448 (2016), 법학연구소[DOI]
  7. 양종모, "인공지능 알고리즘의 편향성, 불투명성이 법적 의사결정에 미치는 영향 및 규율 방안", 법조, 66(3), pp.60~105 (2017), 법조협회[DOI]
  8. 양천수, "형사소송에서 사실인정의 구조와 쟁점 - 법적 논증의 관점에서 -", 형사정책연구, 26(4), pp.1~40 (2015), 한국형사법무정책연구원
  9. 양천수, "인공지능과 법체계의 변화 ―형사사법을 예로 하여―", 법철학연구, 20(2), pp.45~76 (2017), 한국법철학회[DOI]
  10. 오세욱, "알고리즘화(Algorithmification): 미디어의 핵심 논리로서 알고리즘", 언론정보연구, 55(2), pp.74~111 (2018), 언론정보연구소[DOI]
  11. 이근영, "인공지능 알고리즘 투명성에 관한 법· 정책적쟁점의 고찰", 한국 IT 서비스학회 학술대회 논문집, pp.650~653 (2018)
  12. 이병규, "AI의 예측능력과 재범예측알고리즘의 헌법 문제- State v. Loomis 판결을 중심으로", 공법학연구, 21(2), pp.169~191 (2020), 한국비교공법학회
  13. 이수정, "재범방지를 위한 범죄자처우의 과학화에 관한연구(Ⅰ) : 위험성평가도구 개발에 관한 연구", 형사정책연구원 연구총서, pp.15~230 (2010)
  14. 이수정, "재범방지를 위한 범죄자처우의 과학화에 관한 연구(Ⅱ) : 위험성 평가도구의 개발에 관한 연구(Ⅱ)", 형사정책연구원 연구총서, pp.17~164 (2011)
  15. EU의 알고리즘 규제 이슈와 정책적 시사점, "이원태", KISDI, 1~34 (2016)
  16. 임창호, "스마트 경찰활동의 주요 사례 분석 및 활성화 방안", 한국공안행정학회보, 28(2), pp.265~296 (2019), 한국공안행정학회[DOI]
  17. 윤상연, "범죄 예측의 현재와 미래- 한국형 범죄예측 시스템 개선․도입에 대한 제언 -", 한국공안행정학회보, 27(3), pp.248~272 (2018), 한국공안행정학회[DOI]
  18. 장완규, "초연결사회의 도래와 빅데이터 -법제도적 개선방안을 중심으로-", 과학기술법연구, 24(2), pp.113~159 (2018), 과학기술법연구원[DOI]
  19. 정소영, "빅데이터의 형사법적 활용에 관한 연구", 공공정책연구, 29(2), pp.161~184 (2012)
  20. 정제용, "미국과 한국 경찰의 빅 데이터 경찰활동에 관한 비교경찰학적 고찰", 한국경찰연구, 18(3), pp.165~186 (2019), 한국경찰연구학회[DOI]
  21. 정제용, "영국 경찰기관의 빅 데이터 활용 관리와 정책 시사점에 관한 연구", 경찰학연구, 19(1), pp.85~114 (2019), 경찰대학[DOI]
  22. 정제용, "공공 안전을 위한 빅 데이터 경찰활동의 적합성에 대한 연구", 한국경찰연구, 19(2), pp.115~132 (2020), 한국경찰연구학회
  23. 주현경, "범죄예측 및 형사사법절차에서 알고리즘 편향성 문제와 인공지능의 활용을 위한 규범 설계", 법학논총, 27(1), pp.115~162 (2020), 법학연구원
  24. 차경현, "빅 데이터를 이용한 범죄패턴 분석 알고리즘의 구현", 한국위성정보통신학회논문지, 9(4), pp.57~62 (2014), 사단법인 한국위성정보통신학회
  25. 치안정책연구소, "범죄예측 기술 어디까지 왔나?", 치안정책리뷰, (60), pp.5~8 (2018)
  26. 한애라, "“사법시스템과 사법환경에서의 인공지능 이용에 관한 유럽 윤리헌장”의 검토 - 민사사법절차에서의 인공지능 도입 논의와 관련하여 -", 저스티스, 172, pp.38~79 (2019), 한국법학원[DOI]
  27. 허유선, "인공지능에 의한 차별과 그 책임 논의를 위한 예비적 고찰 -알고리즘의 편향성 학습과 인간 행위자를 중심으로-", 한국여성철학, 29, pp.165~210 (2018), 한국여성철학회[DOI]
  28. Alarie, B., "How artificial intelligence will affect the practice of law", University of Toronto Law Journal, 68(1), pp.106~124 (2018)
  29. Angwin, J., "Machine bias. In Ethics of Data and Analytics", Auerbach Publications, pp.254~264 (2016)
  30. Babuta, A., "Big data and policing. An Assessment of Law Enforcement Requirements, Expectations and Priorities", Royal United Services Institute for Defence and Security Studies, pp.1~58 (2017)
  31. Berk, R., "Fairness in Criminal Justice Risk Assessments: The State of the Art", Sociological Methods & Research, 20(10), pp.1~42 (2018)
  32. Brantingham, P. J., "Does predictive policing lead to biased arrests? Results from a randomized controlled trial", Statistics and public policy, 5(1), pp.1~6 (2018)
  33. Brayne, S., "Predictive policing", Data & Civil Rights: A New Era Of Policing And Justice, pp.2015~1027 (2015)
  34. Carlson, A. M., "The need for transparency in the age of predictive sentencing algorithms", Iowa L. Rev, 103, pp.303~ (2017)
  35. Degeling, M., "What is wrong about Robocops as consultants? A technology-centric critique of predictive policing", Ai &Society, 33(3), pp.347~356 (2018)
  36. Fielding, M., "Disrupting the optimal forager’: predictive risk mapping and domestic burglary reduction in Trafford, Greater Manchester", International Journal of Police Science & Management, 14(1), pp.30~41 (2012)
  37. Freeman, K., "Algorithmic injustice: How the Wisconsin Supreme Court failed to protect due process rights in State v. Loomis", North Carolina Journal of Law & Technology, 18(5), pp.75~106 (2016)
  38. Friend, Z., "Predictive policing: Using technology to reduce crime", FBI Law Enforcement Bulletin, 82(4), pp.1~4 (2013)
  39. Gless, S., "If Robots cause harm, Who is to blame? Self-driving Cars and Criminal Liability", New Criminal Law Review, 19(3), pp.412~436 (2016)
  40. Hamilton, M., "Adventures in Risk: Predicting Violent and Sexual Recidivism in Sentencing Law", Arizona State Law Journal, Forthcoming, U of Houston Law Center, 47, pp.1~62 (2014)
  41. Hälterlein, J., "Epistemologies of predictive policing: Mathematical social science, social physics and machine learning", Big Data & Society, 8(1), pp.1~13 (2021)
  42. Hvistendahl, M., "Crime Forecasters", Science, 353(6307), pp.1484~1487 (2016)
  43. Howgego, J., "Police algorithm favours easy cases", New scientist, 241, pp.1~7 (2019)
  44. Joh, E. E., "Policing by numbers: big data and the Fourth Amendment", Wash. L. Rev, 89, pp.35~ (2014)
  45. Joh, E. E., "The new surveillance discretion: automated suspicion, big data, and policing", Harv. L. & Pol'y Rev, 10, pp.15~ (2016)
  46. Karamouzis, S. T., "An artificial intelligence system suggests arbitrariness of death penalty", International Journal of Law and Information Technology, 16(1), pp.1~7 (2008)
  47. Kehl, D. L., "Algorithms in the criminal justice system:Assessing the use of risk assessments in sentencing", Responsive Communities Initiative, Berkman Klein Center for Internet & Society, Harvard Law School, pp.1~36 (2017)
  48. Kleinberg, J., "Human decisions and machine predictions", The quarterly journal of economics, 133(1), pp.237~293 (2018)
  49. Koss, K., "Leveraging Predictive Policing Algorithms to Restore Fourth Amend", Chi.-Kent L. Rev, 90, pp.301~ (2015)
  50. Megan Stevenson, "Assessing Risk Assessment in Action", Minn. L. Rev, 103, pp.303~304 (2018)
  51. Pasquale, F., "Restoring transparency to automated authority", J. on Telecomm. & High Tech. L, 9, pp.235~ (2011)
  52. Pedreshi, D., "Discrimination-aware data mining. In Proceedings of the 14th ACM SIGKDD", international conference on Knowledge discovery and data mining, pp.560~568 (2008)
  53. Perry, W. L., "forecasting in law enforcement operations" (2013), Rand Corporation
  54. Uchida, C. D., "Encyclopedia of criminology and criminal justice", pp.3871~3880 (2014), Springer New York
  55. "빅데이터 분석해 범죄예측'…런던경찰청 시험운용" (2014), 매일경제[URL]
  57. "경찰, 한국형 범죄예측 시스템 개발 착수…스마트치안 추진" (2019), 연합뉴스[URL]
  58. "LAPD will end controversial program that aimed to predict where crimes would occur" (2020)[URL]
  59. "AIが犯罪を予測、是か非か 揺れるアメリカ社会" (2019)[URL]
  60. "Police super-database prompts Liberty warning on privacy" (2018)[URL]
  61. "The activist dismantling racist police algorithms" (2020)[URL]
  62. Human Rights and Technology Issues Paper, "Australian Human Rights Commission", ~ (2018)
  63. Cornell Law School, "Fourth Amendment", ~
  64. Council of Europe, "Consultative Committee of the Convention for the Protection of Individuals with Regard to Automatic Processing of Personal Data, T-PD (2016) 02rev11 – draft practical guide on the use of personal data in the police sector", 10~ (2017)
  65. Law Enforcement Data Service(LEDS)–Privacy Impact Assessment Report, "HomeOffice", ~ (2018)
  66. "Wie die bayerische Polizei das Predictive Policing nach Deutschland brachte" (2019)[URL]
  67. Nicholas Diakopoulos, "Algorithmic Accountability Reporting: On the Investigation of Black Boxes", Two Center for Digital Journalism - A Tow, 2013

관련 논문AI추천

형사사법에서의 인공지능 예측프로그램 활용 제언: 인종적 편향 가능성 회피를 중심으로이지나법학연구소 · 원광법학2023 · 제39권 제2호범죄예측 및 형사사법절차에서 알고리즘 편향성 문제와 인공지능의 활용을 위한 규범 설계정채연, 주현경법학연구원 · 법학논총2020 · 제27권 제1호예측 알고리즘과 형사사법에 관한 논의 - 알고리즘의 사용원칙을 중심으로 -송기복한국경찰연구학회 · 한국경찰연구2023 · 제22권 제4호공공안전을 위한 인공지능 활용 범죄의 예측 및 예방김종구법학연구원 · 법학논총2025 · 제32권 제2호인공지능의 경찰활동 도입 쟁점에 관한 연구오경석, 조미지경찰대학 · 경찰학연구2023 · 제23권 제1호범죄 예측의 현재와 미래- 한국형 범죄예측 시스템 개선․도입에 대한 제언 -신상화, 윤상연한국공안행정학회 · 한국공안행정학회보2018 · 제27권 제3호

이 간행물의 다른 논문 (7건)

근접경호 도보경호대형 형성방법의 정립에 관한 연구김태민pp. 1-26소방공무원 남녀 통합 체력검사에 대한 연구김필승pp. 27-50직장 내 성희롱 피해자의 2차 피해 실태 및 대응방안에 관한 연구허진아, 박희린pp. 51-82범죄피해자 보호를 위한 자치경찰 사무에 관한 연구심민규pp. 83-108해양경찰공무원의 서번트리더십이 직무열의에 미치는 영향 연구유재두pp. 109-128
원문 보기