데이터 윤리에서 인공지능 편향성 문제에 대한 연구
A Study on the Problem of AI Bias in Data Ethics
0
조회
0
다운로드
44
인용
0
참고문헌
키워드
초록
최근 빅데이터와 기계학습, 인공지능과 관련되어 제기되는 윤리적인 이슈 중 하나가 바로 편향성(bias)의 문제이다. 실제로 편향성(bias)의 문제를 편견(prejudice, Vorurteil)이나 고정관념의 문제와 혼동하는 경우가 많은데, 전자가 통계적, 기술적인 용어(technical term)라고 한다면 후자는 윤리적인 용어(ethical term)라고 할 수 있겠다. 데이터를 모으고 처리하는 과정에서 항상 편향성의 문제가 제기된다. 데이터의 편향성을 이 연구에서는 데이터 자체의 편향성과 데이터 처리과정의 편향성으로 구분하여 논의하고, 이와 별도로 이 두 가지 모두 데이터 공정성의 문제와 항상 갈등에 빠지게 되는 이유를 살펴본다. 특히 데이터 객관성과 공정성 역시 서로 상충될 소지가 충분히 있다. 데이터가 객관적이라는 것은 데이터가 지향하는 대상과 데이터의 일치를 전제로 하면서 이 데이터가 습득되는 과정에서 주관적인 개입이 배제되어야 확보될 수 있을 것이다. 그렇지만 이러한 근대적인 기계적 객관성이 보장된다 하더라도 공정하지 않을 수 있는 문제가 발생한다. 데이터의 객관성은 데이터 자체의 습득 과정에서 논의되겠지만, 데이터의 공정성은 데이터의 활용과정에서 더 문제가 제기되기 마련이다. 따라서 데이터윤리의 관점에서 빅데이터의 수집과 활용의 과정에서 모집단 편향성, 데이터 편향성, 데이터 객관성, 데이터 공정성의 의미가 분명하게 규정되어야 할 것이다.
Abstract
One of the ethical issues raised in recent years regarding big data, machine learning, and artificial intelligence is the issue of bias. Indeed, the problem of bias is often confused with the problem of prejudice (Voruteil) or stereotypes. If the former is a statistical and technical term, the latter is an ethical term. In the process of gathering and processing data, bias is always raised. In this study, the bias of data is divided into the bias of the data itself and the bias of the data processing. In particular, data objectivity and fairness may be at odds with each other. Data objectivity presupposes the correspondence between the data subject and the data. This objectivity can be secured only when subjective intervention is excluded in the process of data acquisition. Nevertheless, even if this modern mechanical objectivity is guaranteed, problems arise that may not be fair. The objectivity of data will be discussed in the process of acquiring data itself, but the fairness of data is more problematic in the use of data. Therefore, in terms of data ethics, the meaning of population bias, data bias, data objectivity, and data fairness should be clearly defined in the process of collecting and using big data.
참고문헌 (12)
- 2018 Naver Privacy White Paper, "고학수", Naver Corp, ~ (2018)
- 곽영윤, "편견에 대한 아도르노의 비판적 성찰", 현대유럽철학연구, (52), pp.83~103 (2019), 한국하이데거학회[DOI]
- 변순용, "AI로봇의 도덕성 유형에 근거한 윤리인증 프로그램(ECP) 연구", 倫理硏究, 1(126), pp.73~90 (2019), 한국윤리학회[DOI]
- 송선영, "정보화시대의 빅 데이터(Big Data) 활용에 대한 윤리적 논쟁과 전망", 倫理硏究, 1(108), pp.227~248 (2016), 한국윤리학회[DOI]
- 양종모, "인공지능 알고리즘의 편향성, 불투명성이 법적 의사결정에 미치는 영향 및 규율 방안", 법조, 66(3), pp.60~105 (2017), 법조협회[DOI]
- EU의 알고리즘 규제 이슈와 정책적 시사점, "이원태", 정보통신정책연구원, ~ (2016)
- 이희용, "편견에 대한 해석학적 성찰", 현대유럽철학연구, (52), pp.161~195 (2019), 한국하이데거학회[DOI]
- ICT 기반 사회현안 해결방안 연구, "정보통신정책연구원", 정보통신정책연구원, ~ (2017)
- 허유선, "인공지능에 의한 차별과 그 책임 논의를 위한 예비적 고찰 -알고리즘의 편향성 학습과 인간 행위자를 중심으로-", 한국여성철학, 29, pp.165~210 (2018), 한국여성철학회[DOI]
- Gadamer, H. -G., "Gesammelte Werke, Band 1" (1999), Mohr Sebeck
- Goodman, Bryce, "European Union regulations on algorithmic decision-making and a ‘right to explanation’", 2016ICML Workshop on Human Interpretability in Machine Learning (2016)
- Horkheimer, Max, "Ueber Das Vorurteil" (1963), Springer Fachmedien Wiesbaden GMBH