인공지능 알고리즘의 편향성과 공정성
Discrimination and Bias of Artificial Intelligence
0
조회
0
다운로드
35
인용
0
참고문헌
키워드
초록
인공지능 기술이 다방면으로 활용되면서 그 효율성에도 불구하고 편향성에 대한 논쟁이 국내외에서 격화하고 있다. 국내 온라인 시장을 대표하는 업체가 알고리즘에 대한 인위적인 조작 혐의로 거액의 과징금을 부여받았는가 하면, 미국 의회는 구글 등 4대 디지털 기업에 대해 불공정 행위를 기소하였다. 제 1장에서는 인공지능 편향성과 관련된 주요 논쟁들이 지닌 특징을 소개하고자 한다. 제 2장에서는 인공지능 알고리즘에서 차별과 편향성이 등장하는 이유와 유형들을 데이터 마이닝의 특성과 연관지어 살펴보고자 한다. 3장에서는 컴퓨터 기술의 비가시성과 논리적 변용성의 관점에서 알고리즘 편향성에 대해 살펴보았다. 4장에서는 인공지능 기술 응용과정에서 등장하는 편향성과 관련하여 인공지능 전문가들의 역할 및 시민 사회의 공동 대응 방안을 제시하고자 하였다.
Abstract
The subject of this study is artificial intelligence bias. As various artificial intelligence algorithms are used in public domains such as taxation, policing, and judicial law, the debate over bias is intensifying at home and abroad despite their effectiveness. Chapter 1 introduces the main issues related to AI bias. Chapter 2 examines the reasons and types of artificial intelligence bias in light of the characteristics of the data mining. In Chapter 3, I will examine some of bias issues of algorithms in terms of invisibility and logical malleability. Chapter 4 examines the role of experts in artificial intelligence and its social governance from the perspective of fairness, and then discusses the effects that artificial intelligence technology can have on the perception of fairness by repeating or hiding existing social biases or discrimination.
참고문헌 (25)
- 김도훈, "알고리즘 책임성 논의와 알고리즘에 한 이해", 주간기술동향, 16, pp.14~28 (2018)
- 라이놀드 니부어, "도덕적 인간 비도덕 사회" (2017), 문예출판사
- 변순용, "데이터 윤리에서 인공지능 편향성 문제에 대한 연구", 倫理硏究, 1(128), pp.143~158 (2020), 한국윤리학회[DOI]
- 오요한, "인공지능 알고리즘은 사람을 차별하는가?", 과학기술학연구, 18(3), pp.153~215 (2018), 한국과학기술학회[DOI]
- 빅데이터 산업과 데이터 브로커, "정용찬", KISDI, 1~23, pp.Premium Report, 15-04 (2015)
- 캐시 오닐, "대량살상 수학무기 : 어떻게 빅데이터는 불평등을확산하고 민주주의를 위협하는가" (2017), 흐름출판
- "컴퓨터·인터넷·IT용어대사전" (2005), 일진사
- 서태욱, "범죄 용의자 AI가 찾는다", 매일경제, 2016.12.29., ~ (2016)
- 이호준, "인공지능으로 범죄 막을 수 있을까…검, 범죄예방체계 컨설팅 착수", 전자신문, 2016.08.09, ~ (2016)
- 임세정, "카이스트發 ‘AI 킬러로봇’ 논란... 세계 로봇학자들 ‘보이콧’ 왜?", 국민일보, 2018.04.06, ~ (2018)
- 길, "AI가 준 학점, 가난한 학생을 차별했다", 한겨례, 2020.08.25, ~ (2020)
- "99헌마480 (헌재, 2002.6.27), 전기통신사업법 제53조 등 위헌확인", ~
- "네이버(쇼핑, 동영상 부문) 시장지배적 지위남용행위 및불공정거래행위 제재 - 온라인 플랫폼 사업자가 검색알고리즘을 조정·변경해 자사 서비스를 우대한 행위를 제재한 최초 사례" (2020)[URL]
- "행안부, 오픈데이터포럼 발족"[URL]
- Ferguson, A. G., "The Rise of Big Data Policing: Surveillance, Race, and the Future of Law Enforcement" (2017), NYU Press
- Moor, James, "What is Computer Ethics?", Metaphilosophy, 16(4) (1985)
- Rawls, John, "A Theory of Justice" (1971), Harvard University Press
- Rawls, John, "Political Liberalism" (1993), Columbia University Press
- Rawls, John, "PJustice as Fairness: A Restatement" (2001), Belknap Press
- Weisburd, D., "Place-based policing", Ideas in American policing, 9, pp.1~15 (2008)
- Williams, B. A., "How Algorithms Discriminate Based on Data They Lack", Journal of Information Policy, 8(1), pp.78~115 (2018)
- "Interpretability of deep learning models: a survey of results" (2017)[URL]
- "Amazon scraps secret AI recruiting tool that showed bias against women" (2018)[URL]
- "Investigation of Competition in Digital Markets" (2020)[URL]
- "Predictive policing: The Role of Crime Forecasting in Law Enforcement Operations" (2013)[URL]