본문 바로가기
KERD
논문KCI 등재

인간 편향성과 인공지능의 교차

The Intersection of Human Bias and Artificial Intelligence

박도현
법학연구소 (The Institute of Legal Studies Konkuk University)|2022.03|서울대학교 법학|제63권 제1호|pp. 139-175|DOI 10.22850/slj.2022.63.1.139

0

조회

0

다운로드

15

인용

0

참고문헌

키워드

규제인공지능편견공정성Artificial Intelligence차별DiscriminationRegulationFairnessAI GovernanceBiasPrejudice편향성인공지능 거버넌스인공지능 윤리AI EthicsHarm해악창발적 해악Emergent Harm
주제분류법학

초록

인공지능 의사결정이 인간 편향성을 마치 거울처럼 있는 그대로 반영하여 문제이고, 이에 대한 규제가 필요하다는 주장이 여기저기서 대두되고 있다. 그런데 이러한 주장의 전제를 곧이곧대로 받아들인다고 해도 일견 규제 거버넌스를 구축해야 한다는 결론이 논리적으로 도출되지는 않는 것 같다. 해악의 총량에 변화가 없다면 새로운 규제를 신설할 이유가 없고, 문제의 근원은 인간이니 인류에게 적용된 인간 편향성에 대한 기존 규율에 집중하면 될 것 같기 때문이다. 이러한 반론은 인공지능 규제 거버넌스의 토대 자체를 위협하는 강력한 것임에도 불구하고, 이에 대한 진지한 논의 대신 규범적 개입을 당연시하는 경향이 있다. 이는 자칫 인공지능 규제 거버넌스 논의가 주로 개인의 기술비관론 내지 특정한 도덕관념에 기인한 정치적 수사에 불과하다는 인상을 불러일으킬 위험이 있어 유의해야 한다. 본고는 이와 같은 문제의식에서, 인공지능 의사결정이 인간 편향성을 마치 거울처럼 반영하고 있다는 일명 ‘편향성 거울 문제’의 허와 실에 대해 검토하였다. 인공지능은 다양한 경로를 통해 때로는 인간 편향성을 있는 그대로 반영하기도 하고, 때로는 추가적 해악을 만들어내기도 한다. 후자의 가능성이 실재하기 때문에, 적어도 이에 대해서는 규제 거버넌스가 일정 부분 정당화될 수 있다는 결론을 내릴 수 있다. 다른 한편 인공지능은 인간에게 막대한 물질적 편익을 제공하거나 윤리성을 강화하기도 한다. 따라서 인간 편향성의 확대재생산이 실재한다고 하더라도 이러한 효과를 함께 고려하여 균형 잡힌 규제 거버넌스 체계를 추구해야 한다는 것이 본고의 결론이다.

Abstract

It is argued that the decision-making of artificial intelligence (AI) is problematic because it reflects human bias like a mirror, and that there is a need for regulation. However, even if we accept the premise of this argument, it seems that the conclusion cannot be logically drawn. This is because there is no reason to create a new regulation system if there is no change in the total amount of harm. And since the root of all problems is human beings, it is likely that we should pay attention to the existing regulatory system focusing on human bias. While this objection is a powerful threat to the foundation of AI governance, it tends to take normative interventions for granted. This can give the impression that the discussion of AI governance is nothing more than political rhetoric based mainly on individual moral views. This paper examines the truths and lies of the so-called “the problem of bias mirror” that AI decision-making reflects human bias like a mirror. AI sometimes reflects human bias as it is and sometimes creates additional harm (emergent harm). Since the latter is real, AI governance can be justified to some extent. On the other hand, AI offers us enormous material benefits or reinforces human ethics. So, even if the problem of bias mirror is real, these positive effects should be considered altogether, and a balanced view on AI governance should be taken into account.

참고문헌 (52)

  1. 고학수, "알고리즘 공정성, 어떻게 확보할 수 있나", 신문과 방송, (608) (2021)
  2. 박도현, "인공지능과 고용차별의 법경제학 : 블라인드 채용과 베일의 역설을 중심으로", 법경제학연구, 16(1), pp.39~70 (2019), 한국법경제학회[DOI]
  3. 고학수, "인공지능과 차별", 저스티스, 171, pp.199~277 (2019), 한국법학원[DOI]
  4. 김건우, "차별에서 공정성으로:인공지능의 차별 완화와 공정성 제고를 위한 제도적 방안", 법학연구, 61, pp.109~143 (2019), 부설법학연구소
  5. 김도승, "프랑스 차별금지 법제도에 관한 소고 - 차별철폐청(HALDE) 경험을 중심으로 -", 법학논총, 19(1), pp.117~144 (2012), 법학연구원[DOI]
  6. 김병필, "인공지능 윤리와 거버넌스" (2021), 박영사
  7. 김성용, "인공지능의 개인정보 자동화 처리가 야기하는 차별 문제에 관한 연구", 서울대학교 법학, 60(2), pp.311~362 (2019), 법학연구소[DOI]
  8. 김종욱, "복잡계로서 생태계와 법계", 철학사상, (41), pp.7~36 (2011), 철학사상연구소[DOI]
  9. 남중권, "간접차별과 머신러닝에 의한 특성추론", 법철학연구, 22(2), pp.305~339 (2019), 한국법철학회[DOI]
  10. 마이클 샌델, "공정하다는 착각" (2020), 와이즈베리
  11. 박도현, "인공지능과 해악－창발적 해악론을 중심으로－", 박사, pp.2021
  12. 박도현, "인공지능 윤리의 두 가지 가치", 法學論文集, 45(1), pp.89~118 (2021), 법학연구원[DOI]
  13. 사피야 우모자 노블, "구글은 어떻게 여성을 차별하는가" (2019), 한스미디어
  14. 스튜어트 러셀, "어떻게 인간과 공존하는 인공지능을 만들 것인가" (2021), 김영사
  15. 신동운, "형법총론" (2019), 법문사
  16. 양종모, "인공지능 알고리즘의 편향성, 불투명성이 법적 의사결정에 미치는 영향 및 규율 방안", 법조, 66(3), pp.60~105 (2017), 법조협회[DOI]
  17. 양천수, "인공지능과 윤리 -법철학의 관점에서-", 법학논총, 27(1), pp.73~114 (2020), 법학연구원
  18. 엘리 프레이저, "생각 조종자들" (2011), 알키
  19. 이상용, "알고리즘 규제를 위한 지도 - 원리, 구조, 내용 -", 경제규제와 법, 13(2), pp.129~159 (2020), 법학연구소[DOI]
  20. 이신행, "편향적 인공지능: 네이버의 악플 탐지용 인공지능 ‘클린봇’이 판별한 혐오표현의 유형 분석", 사이버커뮤니케이션학보, 38(4), pp.33~75 (2021), 사이버커뮤니케이션학회
  21. 차현아, "인간 편향과 비합리성 닮은 알고리즘…‘교정’과 ‘규제’가 답일까", IT Chosun, ~ (2018)
  22. 카스 R. 선스타인, "왜 사회에는 이견이 필요한가" (2015), 후마니타스
  23. 캐시 오닐, "대량살상 수학무기" (2017), 흐름출판
  24. 프라기야 아가왈, "편견의 이유" (2021), 반니
  25. 한애라, "인공지능과 젠더차별", 이화젠더법학, 11(3), pp.1~39 (2019), 젠더법학연구소[DOI]
  26. 허유선, "인공지능에 의한 차별과 그 책임 논의를 위한 예비적 고찰 -알고리즘의 편향성 학습과 인간 행위자를 중심으로-", 한국여성철학, 29, pp.165~210 (2018), 한국여성철학회[DOI]
  27. Angwin, Julia, "Machine Bias", Propublica, ~ (2016)
  28. Barocas, Solon, "Big Data’s Disparate Impact", California Law Review, 104 (2016)
  29. Barocas, Solon, "Fairness and Machine Learning: Limitations and Opportunities", ~ (2019)
  30. Bertrand, Marianne, "Are Emily and Greg more employable than Lakisha and Jamal? A field experiment on labor market discrimination", American Economic Review, 94(4) (2004)
  31. Burrell, Jenna, "How the machine ‘thinks’ : Understanding opacity in machine learning algorithms", Big Data & Society, 3(1) (2016)
  32. Danks, David, "Algorithmic Bias in Autonomous Systems", Proceedings of the 26th International Joint Conference on Artificial Intelligence (2017)
  33. Danziger, Shai, "Extraneous Factors in Judicial Decisions", Proceedings of the National Academy of Sciences, 108(17) (2011)
  34. Delgado-Rodriguez, Miguel, Javier Llorca, "Bias", Journal of Epidemiology & Community Health, 58(8) (2004)
  35. Diakopoulos, Nicholas, "Accountability in Algorithmic Decision Making", Communications of the ACM, 59(2) (2016)
  36. Dieterich, William, "COMPAS Risk Scales: Demonstrating Accuracy Equity and Predictive Parity" (2016), Northpointe Inc
  37. Dressel, Julia, "The accuracy, fairness, and limits of predicting recidivism", Science Advances, 4(1) (2018)
  38. European Commission, "Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts", ~ (2021)
  39. Feinberg, Joel, "Harm to Others" (1984), Oxford University Press
  40. Floridi, Luciano, "On the Morality of Artificial Agents", Minds and Machines, 14(3) (2004)
  41. Friedman, Batya, "Bias in Computer Systems", ACM Transactions on Information Systems, 14(3) (1996)
  42. G20, "G20 AI Principles", ~ (2019)
  43. Gasser, Urs, "A Layered Model for AI Governance", IEEE Internet Computing, 21(6) (2017)
  44. Greenwald, Anthony G., "Measuring Individual Differences in Implicit Cognition : The Implicit Association Test", Journal of Personality and Social Psychology, 74(6) (1998)
  45. Jolls, Christine, "The Law of Implicit Bias", California Law Review, 94 (2006)
  46. Jolls, Christine, "A Behavioral Approach to Law and Economics", Stanford Law Review, 50 (1998)
  47. Kahneman, Daniel, "Prospect Theory : An Analysis of Decision under Risk", Econometrica, 47(2) (1979)
  48. Kleinberg, Jon, "Discrimination in the Age of Algorithms", Journal of Legal Analysis, 10 (2018)
  49. Kleinberg, Jon, "Inherent Trade-offs in the Fair Determination of Risk Scores", arXiv : 1609. 05807v2, ~ (2016)
  50. OECD, "Recommendation of the Council on Artificial Intelligence", OECD, 0449, pp.2019, ~
  51. Spence, Michael, "Job Market Signaling", The Quarterly Journal of Economics, 87(3) (1973)
  52. Sunstein, Cass R., "Moral heuristics", Behavioral and Brain Sciences, 28(4) (2005)

관련 논문AI추천

인공지능 편향식별의 공정성 기준과 완화김효은한국심리학회 · 한국심리학회지:일반2021 · 제40권 제4호인공지능 알고리즘의 편향성, 불투명성이 법적 의사결정에 미치는 영향 및 규율 방안양종모사단법인 법조협회 · 법조2017 · 제66권 제3호인간의 윤리로서 인공지능윤리 -인공지능윤리의 가치와 자리-김문정, 심지원, 이은재동서사상연구소 · 철학∙사상∙문화2022 · 제38호인공지능 젠더편향 방지를 위한 법제 방향 모색김애라한국여성학회 · 한국여성학2024 · 제40권 제4호인공지능 거버넌스에 관한 탐색적 연구김길수한국자치행정학회 · 한국자치행정학보2019 · 제33권 제2호범죄예측 및 형사사법절차에서 알고리즘 편향성 문제와 인공지능의 활용을 위한 규범 설계정채연, 주현경법학연구원 · 법학논총2020 · 제27권 제1호

이 간행물의 다른 논문 (5건)

가맹사업거래의 공정화에 관한 법률 제12조는 국제적 강행규정인가김민경pp. 1-41가상자산 거래의 물권법적 측면에 관한 연구 - UNIDROIT의 디지털자산 프로젝트 논의를 중심으로 -천창민pp. 43-90중재판정부의 자기권한심사의 소극적 효과이필복pp. 91-138의료과실 없이 발생한 의료처치 부작용의 상해보험 보험사고 해당성전상용pp. 177-2202021년 민법 판례 동향권영준pp. 221-366
원문 보기