본문 바로가기
KERD
논문KCI 등재

인공지능과 헌법적 쟁점 - 인공지능의 차별에 관한 유럽에서의 논의를 중심으로

Artificial Intelligence and Constitutional Issues - Focusing on discussions of Algorithmic Discrimination in EU

이현정
헌법재판연구원 (Constitutional Research Institute)|2021.12|헌법재판연구 (Journal of Constitutional Justice)|제8권 제2호|pp. 101-130|DOI 10.35215/jcj.2021.8.2.004

0

조회

0

다운로드

7

인용

0

참고문헌

키워드

인공지능알고리즘법인격Artificial IntelligenceExplainability교차 차별대리 차별설명력Algorithmic discriminationIntersectional DiscriminationProxy DiscriminationLegal Personality

초록

인공지능에 의한 차별적 행위는 기술의 발전이 역설적으로 인간에게 해를 끼치는 결과를 가져온 것이다. 인공지능의 발전은 가속화되지만 이에 대한 법적 통제 장치는 이제 걸음마 단계에 있다고 할 수 있다. 따라서 인공지능의 기반이 되는 알고리즘의 차별적 행위의 원인은 무엇이고 그 양상은 어떠한 형태로 나타나는지 분석할 필요가 있다. 또한 인공지능의 법인격 부여에 대한 논의도 본격화할 필요가 있으며 그런 연후에 차별 행위에 대한 대응 방안을 논의할 수 있다. 인공지능에 의한 차별을 살펴보려면 우선차별의 형태 즉, 직접차별, 간접차별, 교차차별, 대리차별 등의 개념에 관하여 알아야 할 것이고 이러한차별의 형태에 따라 이미 발생하고 있는 인공지능의 차별 행위를 구분지어 대처해야 할 것이다. 또한 인공지능 개발자들이 차별의 개념과 양상에 관하여 인식할 수 있도록 인공지능의 법인격 부여와 법적 통제장치를 만들어 나가야 할 것이다. 차별금지는 처벌과 교육이 함께 가야 가능하기 때문이다.

Abstract

Discriminatory acts by Artificial Intelligence can be regarded as a technological development which paradoxically harm humans. The development of Artificial Intelligence is accelerating, but the legal measures covering it are still not yet sufficient. Therefore, it is important to analyze the cause of the Algorithmic problem such as Algorithmic discrimination, uncertainty concerning data or the extent to which the applicability of Artificial Intelligence can be fully explained. In addition, it is necessary to fully discuss how legal status is granted to Artificial Intelligence while discussing measures to deal with Algorithmic Discrimination. In order to overcome discrimination, which is one of the most important constitutional issues related to Artificial Intelligence, it is necessary to learn about the forms of discrimination such as direct/indirect discrimination, intersectional discrimination, and proxy discrimination that are regarded as important forms of discrimination in relation to Artificial Intelligence. Moreover, in solving constitutional problem related to Artificial Intelligence both legal scholars and data developers should cooperate in recognizing the scope of constitutional issues derived from Artificial intelligence. Potential solutions which prevent and remedy algorithmic discrimination will be possible with an integrated approach using legal remedies and technology-based solutions.

참고문헌 (54)

  1. 김건우, "법적 주체로서 자율적 인공지능 로봇 I: 의의와 관점", 성균관법학, 30(2), pp.215~238 (2018), 법학연구원[DOI]
  2. 김배원, "지능정보사회와 헌법 - 인공지능(AI)의 발전과 헌법적 접근 -", 공법학연구, 21(3), pp.67~108 (2020), 한국비교공법학회
  3. 김성호, "인공지능에 대한 법인격 부여 필요성", 법학논총, 37(3), pp.143~159 (2020), 법학연구소[DOI]
  4. 김종호, "인공지능 로봇의 출현으로 인한 법적 논란에 관한 영역별 쟁점의 고찰", 법이론실무연구, 6(2), pp.225~263 (2018), 사단법인 한국법이론실무학회
  5. 김형섭, "AI기술의 부패방지와 인권 침해의 논의 - 홍콩 사례(복면금지법)를 중심으로 -", 한국부패학회보, 25(2), pp.5~27 (2020), 한국부패학회[DOI]
  6. 양천수, "현대 지능정보사회와 인격성의 확장", 동북아법연구, 12(1), pp.1~26 (2018), 동북아법연구소[DOI]
  7. 양천수, "근대 인권 구상의 한계와 새로운 인권 구상의 가능성", 공법학연구, 21(3), pp.138~158 (2020), 한국비교공법학회
  8. "‘성희롱 혐오 논란에 3주 만에 멈춘 ‘이루다’. AI 윤리 숙제 남기다’" (2021)[URL]
  9. 엄주희, "데이터 접근성을 통한 보건의료와 인공지능의 융합 ― 일반정보보호규정(GDPR)이 정책 입안자들에게 신호등 역할을 할 수 있는가? ―", 인권법평론, (25), pp.241~290 (2020), 공익인권법센터[DOI]
  10. 이성진, "인공지능과 법인격 인정", 민사법의 이론과 실무, 23(3), pp.63~93 (2020), 민사법의 이론과 실무학회
  11. 이현정, "A series of Interdiscriplinary Studies in Human Rights" (2022), Springer
  12. 최승필, "공행정에서 AI의 활용과 행정법적 쟁점 ― 행정작용을 중심으로 ―", 공법연구, 49(2), pp.207~242 (2020), 한국공법학회
  13. "이루다 개발사, 연인 카톡 대화 수집하고는 돌려보며 웃었다" (2021)[URL]
  14. 한희원, "인공지능(AI)의 법인격 주체성의 논리적 기틀에 대한 기초 연구", 중앙법학, 20(3), pp.375~412 (2018), 중앙법학회[DOI]
  15. 황지은, "인공지능 관점에서 GDPR 제22조의 인간 개입에 대한 분석", 경제규제와 법, 13(1), pp.37~58 (2020), 법학연구소[DOI]
  16. A. E. R. Prince, "Proxy Discrimination", Iowa Law Review (2020)
  17. "Are Algorithms Sexist?" (2019)[URL]
  18. A. Roig, "Safeguards for the right not to be subject to a decision based solely on automated processing (Article 22 GDPR)", ~ (2017)
  19. A. Z. Huq, "A Right to a Human Decision", Virginia Law Review, 105 (2019), U of Chicago
  20. C. Orwat, "Risks of Discrimination through the Use of Algorithms", Federal Anti-Discrimination Agency, ~ (2020)
  21. C. D’Ignazio, "Data feminism" (2020), MIT Press
  22. "Committee on Economic, Social and Cultural Rights, General comment No. 21"[URL]
  23. "Council Directive 2000", 78, ~
  24. "Council Directive 2006", 54, ~
  25. D. Moeckli, "International Human Rights Law" (2014), Oxford University Press
  26. "The reason why most of the images that show up when you search for “doctor” are white men" (2017)[URL]
  27. "Assessment List for Trustworthy Artificial Intelligence (ALTAI) for self-assessment" (2020)[URL]
  28. ‘What’s in the Box? The Legal Requirement of Explainability in Computationally Aided Decision-Making in Public Administration’, "H. Olsen", University of Copenhagen, ~ (2019)
  29. H. Surden, "Artificial Intelligence and Law: An Overview", Georgia State University Law Review, 35 (2019)
  30. J. Buolamwini, "Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification" (2018)
  32. J. Gerards, "General Principles of the European Convention on Human Rights" (2019), Cambridge University Press
  33. J. Gerards, "Algorithmic discrimination in Europe: Challenges and opportunities for gender equality and non-discrimination law", European Commission, ~ (2020)
  34. J. Sieckmann, "The Logic of Autonomy: Law, Morality and Autonomous Reasoning" (2012), Bloombury Publishing
  35. J. A. Kroll, "Accountable algorithms", University of Pennsylvania Law Review, 165(3) (2017)
  36. J. Waldron, "Law and Disagreement" (1999), Oxford University Press
  37. M. Kullmann, "Platform Work, Algorithmic Decision-Making, and EU Gender Equality Law", International Journal of Comparative Labour Law and Industrial Relations (2018)
  38. K. Crenshaw, "Demarginalizing the Intersection of Race and Sex: A Black Feminist Critique of Antidiscrimination Doctrine, Feminist Theory and Antiracist Politics’", University of Chicago Legal Forum, (1) (1989)
  40. M. Kusner, "Counterfactual Fairness", Conference: Neural Information Processing Systems, 30 (2017)
  41. M. Lecuyer, "Sunlight: Fine-grained targeting detection at scale with statistical confidence", 22nd ACM SIGSAC Conference on Computer and Communications Security (2015)
  42. M. Mann, "Challenging algorithmic profiling: The limits of data protection and anti-discrimination in responding to emergent discrimination", Big Data & Society, 6 (2019)
  43. M. Taggart, "The Province of administrative Law" (1997), Hart Publishing
  44. P. H. Collins, "Black Feminist Thought: Knowledge Consciousness and the Politics of Empowerment" (1990), Routledge
  45. R. Xenidis, "EU anti-discrimination law beyond gender" (2018), Hart Publishing
  46. T. H. Cormen, "Introduction to Algorithms" (2019), MIT Press
  47. U. Belavusau, "A Bird’s Eye View on EU Anti-Discrimination Law:The Impact of the 2000 Equality Directives" (2019), Cambridge University Press
  48. "Social and Cultural Rights (CESCR)" (2009)[URL]
  49. "Salgueiro Da Silva Mouta v. Portugal, 2000년 3월 21일 판결 (판례번호 33290", 96), 2000
  50. "D.H. and others v. the Czech Republic, 2007년 11월 13일 판결 (판례번호 57325", 00), 2007
  51. "Konstantin Markin v. Russia, 2012년 3월 22일 판결 (판례번호30078", 06), 2012
  52. "Emel Boyaz v. Turkey, 2014년 12월 2일 판결 (판례번호 61960", 08), 2014
  53. "Oliari and others v. Italy (2015년 7월 15일 판결, 판례번호 18766", 11및 3603011), 2015
  54. "Parris v. Trinity College Dublin and Others, 2016년 11월 24일 판결, 판례번호 C-443", 15

관련 논문AI추천

인공지능의 헌법적 쟁점과 과제김병록법학연구원 · 법학논총2020 · 제27권 제2호인공지능의 개인정보 자동화 처리가 야기하는 차별 문제에 관한 연구김성용, 정관영법학연구소 · 서울대학교 법학2019 · 제60권 제2호간접차별과 머신러닝에 의한 특성추론남중권한국법철학회 · 법철학연구2019 · 제22권 제2호고용을 위한 인공지능 알고리즘과 차별금지- 독일 일반평등대우법(AGG)을 중심으로 -최광준한국재산법학회 · 재산법연구2023 · 제40권 제2호인공지능의 기본권 주체성에 관한 연구김용의, 조재현유럽헌법학회 · 유럽헌법연구2021 · 제35호인공지능 기술의 기본권 침해 대응 방안 연구박혜란법학연구원 · 성균관법학2024 · 제36권 제3호

이 간행물의 다른 논문 (9건)

인공지능과 민주주의에 관한 소고윤수정pp. 3-27인공지능의 법적정의와 인공지능기술 발달에 따른 국가의 기본권 보호의무강현구pp. 29-64EU 인공지능명령안의 주요 내용과 그 시사점김중권pp. 65-100Judging Democracy in Canada리처드 앨버트pp. 133-172The German Federal Constitutional Court - Past, Present and Future앙겔리카 누스베르거pp. 173-212
원문 보기