간접차별과 머신러닝에 의한 특성추론
Indirect Discrimination and Feature Inference with Machine Learning
0
조회
0
다운로드
5
인용
0
참고문헌
키워드
초록
인공지능 연구에서 중요한 위치를 차지하고 있는 머신러닝 연구가 가져올 사회적 효능에 대한 기대의 이면에는 그 부작용으로서 사회의 데이터에 기반을두고 생성된 알고리즘이 차별을 재생산하거나 사회의 차별적 구조를 고착시킬수 있다는 우려가 문제로 제기된다. 이 글은 머신러닝에 의한 특성추론이 어떻게 그와 같은 문제로 이어질 수 있는지 복잡한 머신러닝의 작동원리를 염두에두면서 그에 못지않게 복잡한 차별 개념의 의미와 구조를 분석한다. 또한 머신러닝 알고리즘이 어떤 방식으로 차별에 관한 법 모델과 연결될 수 있는지 살펴봄으로써 이른바 ‘4차 산업혁명’의 기반이자 사회의 지배 조건 중 하나가 될 수있는 인공지능 기술이 갖는 법적 함의의 일부를 추적한다. 차별 개념에는 사람 또는 사물의 차이를 인식하고 구별, 분리, 분류하는 맥락에서 사용될 경우 정당성이나 부당성의 평가에 종속되지 않는다는 측면에서 사실적이고, 정당성이나 부당성의 평가를 위해 전제된 상황을 묘사한다는 측면에서 서술적인 의미가 부여될 뿐만 아니라, 평등, 자유, 존엄성 등의 가치와 결합할 수 있다는 측면에서 규범적 의미 또한 중첩적으로 부여된다. 차별을 법적으로 규율하기 위한 차별금지법 모델을 구성하고 적용할 때 행위를 중심에 둘 것인지 아니면 결과에 중심을 둘 것인지, 그리고 각각의 행위와 결과를 구별 자체에 초점을 맞출 것인지 아니면 그 구별을 기초로 한 후행 조치에 초점을 맞출 것인지에 따라 차별의 불법성 여부도 첨예하게 갈라질 수 있다. 특히 차별 개념을 폭넓게 이해하는 간접차별 개념을 차별의 한 유형으로 포착하는 차별금지법 모델의 경우 어떤 특성을 기준으로 한 구별, 분리, 분류 그자체 또는 이에 기초한 그 후속 결정들에 대한 법적 규제 가능성을 폭넓게 열어둔다. 그러나 역설적으로 어떤 특성을 기준으로 삼는 형식적 구조를 갖는 차별금지법 모델은 그러한 특성과 무관한 또는 통계적 관련성이 높아 합리적으로보이는 또 다른 특성들을 추론해 내는 머신러닝을 통해 어렵지 않게 우회될 수있다. 또한 합리적 차별을 불법으로 규정하지 않는 차별금지법 모델에서 간접차별 또는 차별효과는 그 간접성 또는 부수성으로 인해 쉽게 정당화되거나 합리화될 수 있다는 점에서 대용물을 자유자재로 사용할 수 있는 머신러닝은 차별의 양식도 대부분 간접차별의 형태로 만들어 불법적인 차별의 영역 자체를불명확하게 만들 수 있다.
Abstract
Machine learning is very important area of study in artificial intelligence (AI). AI is emphasized as the leading technology in the process of so-called ‘fourth industry revolution.’ But it also can function as one of governing conditions to manage partial systems of society. From this point of view, this article focuses on the discrimination issues in relation of machine learning inference, especially indirect discrimination. Machine learning system trained from dataset, which is collected and selected in social communication systems, may reproduce and reinforce discrimination by discovering the differential structure of society. The conception of discrimination in legal models is as complex as the mechanism of machine learning is. Descriptive meanings of discrimination such as distinction, division, and classification make the legal models of anti-discrimination subscribe to cognitive operations. Then normative meanings of discrimination which are connected to the virtues such as liberty, equality, and dignity make these significant. It is possible that legal models of anti-discrimination are constituted to be action-centric or result-centric. We can also construct them to be applied to distinction as such or following decision on the basis of that. However, in case that machine learning systems infer new or statistically rational features in the dataset from social system, feature-centric or rationality-centric legal models of anti-discrimination may become useless. Because a lot of proxies, which are utilized in machine learning process to correlate data, mask the features on the basis of which prohibited to decide and make those rational reasons of decision-making. This is why that it should be addressed in terms of asking for a reflective review on the limitations of anti-discrimination law that form social system to protect human beings.
참고문헌 (74)
- 김소영, "4차 산업혁명이라는 유령: 우리는 왜 4차 산업혁명에 열광하는가" (2017), Humanist
- 김승연, "처음 배우는 머신러닝" (2017), 한빛미디어
- 김의중, "(알고리즘으로 배우는) 인공지능, 머신러닝, 딥러닝 입문" (2016), 위키북스
- 서울대 법과경제연구센터, "데이터 이코노미" (2017), 한스미디어
- 이준일, "차별금지법" (2007), 고려대학교출판부
- 이준일, "차별없는 세상과 법" (2012), 홍문사
- 임홍빈, "기술문명과 철학" (1995), 문예출판사
- 정인섭, "사회적 차별과 법의 지배" (2004), 박영사
- 조순경, "간접차별의 이론과 여성노동의 현실" (2007), 푸른사상
- 홍성준, "고객을 유혹하고 기업을 성장으로 이끄는 차별화의 법칙" (2013), 21세기북스
- 고학수, "데이터 이코노미" (2017), 한스미디어
- 김민호, "지능정보사회의 규범설정 기본원칙에 대한 고찰", 성균관법학, 28(3), pp.281~308 (2016), 법학연구원[DOI]
- 김소영, "4차 산업혁명이라는 유령: 우리는 왜 4차 산업혁명에 열광하는가" (2017), Humanist
- 남중권, "머신러닝 알고리즘과 차별", 박사, pp.2019
- 손제연, "위상적 개념으로서의 인간존엄", 법철학연구, 21(1), pp.295~338 (2018), 한국법철학회[DOI]
- 송석윤, "사회적 차별과 법의 지배" (2004), 박영사
- 심우민, "인공지능과 법패러다임 변화 가능성: 입법 실무 거버넌스에 대한 영향과 대응 과제를 중심으로", 법과사회, (56), pp.351~385 (2017), 법과사회이론학회[DOI]
- 이준일, "소수자(minority)와 평등원칙", 헌법학연구, 8(4), pp.219~243 (2002), 한국헌법학회
- 이준일, "차별, 소수자, 국가인권위원회", 헌법학연구, 18(2), pp.177~222 (2012), 한국헌법학회[DOI]
- 정준현, "지능정보사회와 헌법상 국가의 책무", 법조, 66(3), pp.106~145 (2017), 법조협회[DOI]
- 허유선, "인공지능에 의한 차별과 그 책임 논의를 위한 예비적 고찰 -알고리즘의 편향성 학습과 인간 행위자를 중심으로-", 한국여성철학, 29, pp.165~210 (2018), 한국여성철학회[DOI]
- 현윤경, "니클라스 루만의 체계이론에서 ‘형식’ 개념의 수용과 응용", 사회와 이론, (31), pp.211~251 (2017), 한국이론사회학회
- 홍성수, "인간이 없는 인권이론? ―루만의 체계이론과 인권―", 법철학연구, 13(3), pp.243~272 (2010), 한국법철학회
- "문 대통령, 데이터·네트워크·인공지능 산업 지원" (2019)[URL]
- Collins, Hugh, "Foundations of Indirect Discrimination Law" (2018), Hart Publishing
- Cormen, Thomas H., "Introduction to Algorithms" (2009), MIT Press
- Custers, Bart, "Discrimination and Privacy in the Information Society: Data Mining and Profiling in Large Databases" (2013), Springer
- Domingos, Pedro, "마스터 알고리즘: 머신러닝은 우리의 미래를 어떻게 바꾸는가" (2016), 비즈니스북스
- Ely, John Hart, "민주주의와 법원의 위헌심사" (2006), 나남
- Hellman, Deborah, "차별이란 무엇인가: 차별은 언제 나쁘고 언제 그렇지 않은가" (2016), 서해문집
- Hellman, Deborah, "Philosophical Foundations of Discrimination Law" (2013), Oxford University Press
- Hobbes, Thomas, "Leviathan" (1998), Oxford University Press
- Khaitan, Tarunabh, "A Theory of Discrimination Law" (2016), Oxford University Press
- Luhmann, Niklas, "체계이론 입문" (2014), 새물결
- Mitchell, Tom, "Machine Learning" (1997), McGraw-Hill
- Mulhall, Stephen, "자유주의와 공동체주의" (2001), 한울 아카데미
- O’Neil, Cathy, "대량살상 수학무기: 어떻게 빅데이터는 불평등을 확산하고 민주주의를 위협하는가" (2017), 흐름출판
- Pasquale, Frank, "블랙박스 사회: 당신의 모든 것이 수집되고 있다, 돈과 빅데이터를 통제하는 정보 제국주의의 비밀" (2016), 안티고네
- Peters, William, "푸른 눈 갈색 눈: 세상을 놀라게 한 차별 수업 이야기" (2012), 한겨레출판사
- Rifkin, Jeremy, "3차 산업혁명: 수평적 권력은 에너지 경제 그리고 세계를 어떻게 바꾸는가" (2012), 민음사
- Russell, Stuart J., "인공지능: 현대적 접근방식 1, 2" (2016), 제이펍
- Schwab, Klaus, "클라우스 슈밥의 제4차 산업혁명" (2016), 새로운현재
- Selden, Larry, "회사를 먹여 살리는 착한 고객" (2010), 위즈덤하우스
- Solanke, Iyiola, "Discrimination as Stigma: A Theory of Anti-Discrimination Law" (2017), Hart Publishing
- Spencer-Brown, George, "Laws of Form" (1972), Julian Press
- Waldron, Jeremy, "Dignity, Rank and Rights" (2012), Oxford University Press
- Alexander, Larry, "Discrimination by Proxy", Constitutional Commentary, 14(3) (1997)
- Appiah, K. Anthony, "Stereotypes and the Shaping of Identity", California Law Review, 88(1) (2000)
- Bagenstos, Samuel R., "‘Rational Discrimination,’ Accommodation and The Politics of (Disability) Civil Rights", Virginia Law Review, 89(5) (2003)
- Barocas, Solon, "Big Data’s Disparate Impact", California Law Review, 104(3) (2016)
- Brożek, Bartosz, "On the Legal Responsibility of Autonomous Machines", Artificial Intelligence and Law, 25(3) (2017)
- Domingos, Pedro, "A Few Useful Things to Know about Machine Learning", Communications of the ACM, 55(10) (2012)
- Floridi, Luciano, "A Look into the Future Impact of ICT on Our Lives", The Information Society, 23(1) (2007)
- Hage, Jaap, "Theoretical Foundations for the Responsibility of Autonomous Agents", Artificial Intelligence and Law, 25(3) (2017)
- Hildebrandt, Mireille, "Radbruch’s Rechtsstaat and Schmitt’s Legal Order: Legalism, Legality and the Institution of Law", Critical Analysis of Law, 2(1) (2015)
- Kroll, Joshua A., "Accountable Algorithms", University of Pennsylvania Law Review, 165(3) (2017)
- Moreau, Sophia, "What Is Discrimination?", Philosophy & Public Affairs, 38(2) (2010)
- Réaume, Denise G., "Philosophical Foundations of Discrimination Law" (2013), Oxford University Press
- Rumelhart, David E., "Learning Representations by Back-Propagating Errors", Nature, 323(6088) (1986)
- Segall, Shlomi, "What’s So Bad about Discrimination?", Utilitas, 24(1) (2012)
- Selmi, Michael, "Philosophical Foundations of Discrimination Law" (2013), Oxford University Press
- Shin, Patrick S., "Philosophical Foundations of Discrimination Law" (2013), Oxford University Press
- Surden, Harry, "Machine Learning and Law", Washington Law Review, 89(1) (2014)
- Turing, Alan M., "On Computable Numbers, with an Application to the Entscheidungsproblem", Proceedings of the London Mathematical Society, (1), pp.s2~s42 (1937)
- Turing, Alan M., "Computing Machinery and Intelligence", Mind, 59(236) (1950)
- Westen, Peter, "The Empty Idea of Equality", Harvard Law Review, 95(3) (1982)
- Zarsky, Tal Z., "An Analytic Challenge: Discrimination Theory in the Age of Predictive Analytics", I, 2018, pp.14(1), ~
- Zhao, Jieyu, "Men Also Like Shopping: Reducing Gender Bias Amplification Using Corpus-Level Constraints", Conference on Empirical Methods in Natural Language Processing (2017)
- "Amazon Scraps Secret AI Recruiting Tool That Showed Bias against Women" (2018)[URL]
- "Big Data: A Report on Algorithmic Systems, Opportunity and Civil Rights" (2016)[URL]
- "How Target Figured Out a Teen Girl Was Pregnant Before Her Father Did" (2012)[URL]
- "Parents Involved in Community Sch. v. Seattle School Dist. No. 1, 551 U.S. 701", ~ (2007)
- Porat, Marc Uri, "The Information Economy: Definition and Measurement", Office of Telecommunications (U.S. Department of Commerce), ~ (1977)
- "State v. Loomis, 2016 WI 68, 881 N. W. 2d 749", ~ (2016)