데이터 기반 의사결정에서 편향과 공정성
Bias and Fairness in Data-Based Decision Making
0
조회
0
다운로드
5
인용
0
참고문헌
키워드
초록
이 논문은 데이터 기반 사회에서 데이터 기반 의사결정의 합리성을 위협하는 편향의 문제를 고찰하면서 그러한 위험을 줄이고 의사결정의 공정성을 높이는 방안을 모색한다. 이를 위하여 미국에서 범죄자 교정관리에 활용되어 온 COMPAS가 인종차별적 편향을 나타낸다는 비판을 둘러싼 토론을 검토하고, 데이터 기반 의사결정에서 편향을 발생시키는 원천을 분석한다. 이 분석에서 데이터가 주-술의 구조를 지닌 명제이고 실재를 고스란히 반영하는 중립적 자료가 아니라 데이터 생산자의 관점을 반영하는 측정 활동의 산물이라는 점이 부각된다. 이러한 개입이 그 자체로 데이터 기반 의사결정의 공정성을 위협하는 것은 아니다. 그러나 편향은 데이터에서 추론된 결론이 모집단의 속성을 적절히 반영하지 못함을 의미한다는 점에서 데이터 기반 의사결정의 가치를 감쇄한다. 이러한 위험을 다루는 방법은 데이터 기반 결정에서 나타나는 편향의 양상을 계속 평가하면서 평가 결과에 따라 데이터 처리 알고리즘을 보정하고 데이터집합을 보완하는 것뿐이다. 지속적인 비판과 보정, 보완을 통해 사회가 적정하다고 여기는 균형점과 현상의 거리를 좁혀 가는 실천만이 데이터 기반 결정의 가치를 보존하고 극대화할 수 있을 조건이다.
Abstract
In this paper I investigate the problem of bias that threatens the rationality of data-based decision-making in the data-driven society we are entering, and seek ways to minimize that threat and to enhance the fairness of such decision-making. With this purpose in mind, I examine recent criticism about COMPAS that has been used for criminal correctional management in several states in U.S.A. COMPAS has been criticized that it (re-)produces biases in the evaluation of the criminals that varies depending on the criminal's skin color. I analyze two sources of such biases, the dataset and the algorithm. This analysis reveals that the data are not neutral image that reflect reality as it is, but product of measurements that embodies the perspectives of data-producers. Such intervention from specific perspective does not in itself endangers the fairness of data-driven decision-making. However, the bias in which the properties of the sample data deviate from those of the population reduces the effectiveness of data-based decision-making and thus undermines its core value. Therefore, a data-driven society should keep an eye on the biases in data-based decisions, perform regular assessments and revisions of the data processing algorithms and supplement the dataset itself coping with the result of the assessments.
참고문헌 (13)
- 고인석, "데이터 기반 사회의 과학기술철학", 철학∙사상∙문화, (37), pp.1~21 (2021), 동서사상연구소[DOI]
- 변순용, "데이터 윤리에서 인공지능 편향성 문제에 대한 연구", 倫理硏究, 1(128), pp.143~158 (2020), 한국윤리학회[DOI]
- 오요한, "인공지능 알고리즘은 사람을 차별하는가?", 과학기술학연구, 18(3), pp.153~215 (2018), 한국과학기술학회[DOI]
- 이병규, "AI의 예측능력과 재범예측알고리즘의 헌법 문제- State v. Loomis 판결을 중심으로", 공법학연구, 21(2), pp.169~191 (2020), 한국비교공법학회
- 정원섭, "인공지능 알고리즘의 편향성과 공정성", 인간.환경.미래, (25), pp.55~73 (2020), 인간환경미래연구원[DOI]
- Andrews, D. A., "The recent past and near future of risk and", or need assessment, 2006, pp.52(1), ~
- "Machine Bias" (2016)[URL]
- Brennan, T., "Evaluating the Predictive Validity of the COMPAS Risk and Needs Assessment System", Criminal Justice and Behavior, 36(1) (2009)
- DeMichele, M., "Public Safety Assessment : Predictive utility and differential prediction by race in Kentucky", Criminology & Public Policy, 19(2) (2020)
- Flores, A. W., "False Positives, False Negatives, and False Analyses: A Rejoinder to “Machine Bias:There's Software Used Across the Country to Predict Future Criminals. And It's Biased Against Blacks.”", Federal Probation, 80(2) (2016)
- "How We Analyzed the COMPAS Recidivism Algorithm" (2016)[URL]
- Mehrabi, N., "A Survey on Bias and Fairness in Machine Learning", arXiv:1908.096352v2, ~ (2019)
- Pleiss, G., "On Fairness and Calibration", arXiv:1709.02012v2, ~ (2017)