본문 바로가기
KERD
논문KCI 등재

인공지능에 의한 행정상 자동결정에 대한 규율과 권리구제

Regulations and Remedy of Rights on Administrative Decisions with Artificial Intelligence

김휘식
IT와 법연구소 (IT & Law Research Institute)|2021.02|IT와 법연구 (IT&LAW REVIEW)|제22호|pp. 301-340

0

조회

0

다운로드

6

인용

0

참고문헌

키워드

인공지능개인정보보호국가배상법률유보행정소송행정절차Artificial IntelligenceRegulation규율Rule of LawPersonal Information ProtectionAdministrative ProcedureState Compensation LiabilityAdministrative Litigation행정상 자동결정알고리즘의 불투명성과 편향성Automatic Administrative DecisionOpacity and Bias of Machine Learning Algorithm

초록

제4차 산업혁명을 선도하는 핵심기술 중의 하나인 인공지능은 행정에도 변혁을 가져올 것으로 예견된다. 행정에서의 지능 정보화는 그동안 전자정부를 통해 다양한 공공서비스가 인터넷으로 가능하게 되었고 행정업무에 혁신을 가져온 것에 더 나아가 행정의 다양한 분야에서 인공지능을 활용한 행정상 자동결정이 이루어지는 것이라 할 수 있다. 본 논문에서는 인공지능에 의한 행정상 자동결정을 규율의 측면과 권리구제의 측면에서 살펴보았다. 인공지능에 의한 행정상 자동결정은 행정작용의 다양한 행위형식 즉 행정행위, 공법상 계약, 사실행위, 행정입법에 따라 규율 내용이나 권리구제 방법이 달라질 수 있다. 인공지능에 의한 행정상 자동결정의 규율에 있어서 법률유보, 행정절차, 기계학습 알고리즘의 불투명성과 편향성, 개인정보보호 등을 충분히 고려하여야 한다. 인공지능에 의한 행정행위의 경우 자율적 결정의 특성에 비추어 기속행위뿐만 아니라 재량행위도 허용하는 것이 타당하다. 인공지능에 의한 공법상 계약, 사실행위도 집행의 관점에서 법률상 근거를 두어야 할 것이다. 인공지능에 의한 자동적 입법행위는 민주적 정당성에 기초한 사회적 합의가 전제되어야 허용할 수 있을 것이다. 해외의 규율 동향을 참고하면, 행정상 자동결정에 대한 이의를 제기할 수 있는 권리를 인정하고, 알고리즘에 대한 설명을 요구할 수 있는 권리를 부여할 필요가 있다. 한편 규율에 있어서 우선허용 이른바 네거티브 규제 등 과학기술규제의 원칙을 염두에 두어야 할 것이다. 권리구제와 관련하여서도 현행법상 인공지능에 의한 행정상 자동결정이 반영되어 있지 않으므로 공백이 크다고 할 수 있다. 국가배상과 관련하여 공무원이 인공지능을 활용한 위법한 행위로 상대방에게 손해가 발생한 경우 과실을 추정하고, 공공시설에서 인공지능의 오류로 손해가 발생한 경우 하자의 개연성만 입증하면 하자는 추정되도록 함으로써 권리구제의 공백을 축소하여야 할 것이다. 항고소송과 관련하여서는 인공지능에 의한 행정상 자동결정-예컨대 구체적 처분기준을 반영하고 있는 기계학습 알고리즘 자체 등-에 관한 처분성을 넓게 인정할 필요가 있다. 처분의 위법성과 관련한 쟁점은 법률유보, 행정절차, 기계학습 알고리즘의 불투명성과 편향성, 개인정보보호 등이다. 그리고 국가배상 청구나 공법상 계약은 당사자소송을 활용하여야 할 것이다.

Abstract

Artificial intelligence, one of the core technologies leading the 4th industrial revolution, is expected to bring about an innovation in administration. In the past, e-government has implemented various public services through Internet and brought innovation in administrative affairs. Intelligent informatization in administration takes one step more to make automatic administrative decisions by using artificial intelligence in various fields of administration. In this paper, we examine the aspects of regulations and remedy of rights in automatic administrative decisions with artificial intelligence. In the case of automatic administrative decisions with artificial intelligence, regulations and remedy of rights may vary depending on various types of administrative actions, such as administrative disposition, public contracts, realakte, and administrative rules. When establishing the the regulations of automatic administrative decisions with artificial intelligence, lawmakers should consider rule of law, administrative procedures, opacity and bias of machine learning algorithms, and personal information protection. When making administrative disposition with artificial intelligence, it is reasonable to allow discretionary actions as well as binding actions considering the nature of AI. In order to enforce public contracts and realakte with artificial intelligence, legal grounds will be required. Automatic administrative rules with artificial intelligence will be allowed only when there is social consensus based on democratic legitimacy. When referring to overseas regulatory trends, it is necessary to recognize the right to object against automatic administrative decisions and to grant the right to request an explanation of the AI′s algorithms. On the other hand, it is necessary to keep in mind the principles of science and technology regulation, such as so-called negative regulation-a method of specifically enumerating the rights limited and permitting other matters in principle. Regarding the remedy of rights, the current law does not reflect the automatic administrative decision with artificial intelligence, so remedy of rights is insufficient. In relation to state compensation liability, if public officials using artificial intelligence inflict damage on other persons, the negligence of public officials should be presumed. If damage occurs in public structures due to artificial intelligence errors, defects should be presumed when the probability of the defects is proved. When it comes to an appeal suit, automatic administrative decisions with artificial intelligence-for example, machine learning algorithms that reflect specific disposition criteria- should be recognized as administrative disposition. With regard to the illegality of administrative disposition, the issues are rule of law, administrative procedures, opacity and bias of machine learning algorithms, personal information protection, etc. In addition, a party suit should be used for state compensation claims or public contracts.

참고문헌 (53)

  1. 김남진, "행정법Ⅰ" (2018), 법문사
  2. 김유환, "행정법과 규제정책" (2017), 삼원사
  3. 류지태, "행정법 신론" (2019), 박영사
  4. 박노형, "개인정보보호법" (2020), 박영사
  5. 박정훈, "행정소송의 구조와 기능" (2006), 박영사
  6. 양천수, "인공지능 혁명과 법" (2021), 박영사
  7. 하명호, "행정법" (2019), 박영사
  8. 고학수, "개인정보보호의 법과 정책" (2016), 박영사
  9. 박노형, "EU 개인정보보호법-GDPR을 중심으로" (2017), 박영사
  10. 박소영, "자동화 행정’ 구현을 위한 법제도 개선방안 연구" (2019), 한국정보화진흥원
  11. 손승우, "인공지능 기술 관련 국제적 논의와 법제 대응방안 연구" (2016), 한국법제연구원
  12. 이대희, "제4차 산업혁명 시대의 개인정보" (2018), 세창출판사
  13. 최승필, "제3편 제4차 산업혁명에 따른 규제체계 및 거버넌스 개편-행정법이론을 중심으로한 접근-" (2017), 한국법제연구원
  14. 한국인공지능법학회, "인공지능과 법" (2019), 박영사
  15. Jerry Kaplan, "인공지능의 미래" (2017), 한스미디어
  16. 고학수, "인공지능 윤리규범과 규제 거버넌스의 현황과 과제", 경제규제와 법, 13(1), pp.7~36 (2020), 법학연구소[DOI]
  17. 권은정, "공공데이터 영역 리스크 관리에 관한 법적 소고 — 데이터 개방에 따른 개인정보 관련 리스크를 중심으로 —", 행정법연구, (60), pp.165~190 (2020), 행정법이론실무학회[DOI]
  18. 김광수, "인공지능 기반 과학기술과 국민의 권익구제- 자율주행차, 드론 및 의료기기를 중심으로 -", 토지공법연구, 85, pp.231~258 (2019), 한국토지공법학회
  19. 김대인, "공법상 계약의 법리에 대한 고찰", 유럽헌법연구, (23), pp.209~245 (2017), 유럽헌법학회
  20. 김도승, "인공지능 기반 자동행정과 법치주의", 미국헌법연구, 30(1), pp.105~138 (2019), 미국헌법학회
  21. 김배원, "지능정보사회와 헌법 - 인공지능(AI)의 발전과 헌법적 접근 -", 공법학연구, 21(3), pp.67~108 (2020), 한국비교공법학회
  22. 김유환, "미국행정법과 한국행정법학의 발전", 행정법학, (17) (2019), 사단법인 한국행정법학회
  23. 김중권, "인공지능시대에 완전자동적 행정행위에 관한 소고", 법조, 66(3), pp.146~182 (2017), 법조협회[DOI]
  24. 김중권, "인공지능시대에 알고리즘에 의한 행위조종과 가상적 행정행위에 관한 소고", 공법연구, 48(3), pp.287~312 (2020), 한국공법학회[DOI]
  25. 김중권, "행정에 인공지능시스템 도입의 공법적 문제점", 법조, 69(2), pp.53~77 (2020), 법조협회[DOI]
  26. 김진우, "지능형 로봇에 대한 사법적 규율— 유럽연합의 입법 권고를 계기로 하여 —", 법조, 66(3), pp.5~59 (2017), 법조협회[DOI]
  27. 김태오, "기술발전과 규율공백, 그리고 행정법의 대응에 대한 시론적 고찰 ― 정보통신 진흥 및 융합 활성화 등에 관한 특별법(소위 ICT 특별법)상 임시허가제도를 중심으로 ―", 행정법연구, (38), pp.83~111 (2014), 행정법이론실무학회
  28. 김태오, "제4차 산업혁명의 견인을 위한 규제패러다임 모색 : 한국의 규제패러다임을 중심으로", 경제규제와 법, 10(2), pp.140~168 (2017), 법학연구소
  29. 김희정, "지능정보화 시대의 알고리즘 차별에 대한 법적 소고 -미국의 알고리즘 차별 사례를 중심으로-", 홍익법학, 21(3), pp.501~524 (2020), 법학연구소[DOI]
  30. 박균성, "제4차 산업혁명시대에서의 입법과제와 입법부의 대응방안 - 입법방식과 입법시스템의 정비를 중심으로 -", 경제규제와 법, 11(2), pp.229~247 (2018), 법학연구소
  31. 박정훈, "國家賠償法의 改革 — 私法的 代位責任에서 公法的 自己責任으로 —", 행정법연구, (62), pp.27~69 (2020), 행정법이론실무학회[DOI]
  32. 박현정, "프랑스 행정법상 과실책임 제도 - ‘역무과실’의 성격, 위법성과의 관계를 중심으로 -", 행정법연구, (41), pp.55~83 (2015), 행정법이론실무학회
  33. 박훈민, "전자정부와 자동화된 행정결정에 대한 법도그마틱상 검토필요성 ― 독일과 네덜란드에서의 법제와 논의를 중심으로 한 시론 ―", 행정법연구, (52), pp.57~77 (2018), 행정법이론실무학회[DOI]
  34. 선지원, "인공지능 알고리즘 규율에 대한 소고- 독일의 경험을 중심으로 -", 경제규제와 법, 12(1), pp.26~43 (2019), 법학연구소[DOI]
  35. 안동인, "국가배상청구소송의 위법성 판단과 객관적 정당성 기준 - 법적 안정성 측면에서의 비판적 고찰 -", 행정법연구, (41), pp.27~53 (2015), 행정법이론실무학회
  36. 양종모, "인공지능의 위험의 특성과 법적 규제방안", 홍익법학, 17(4), pp.537~565 (2016), 법학연구소[DOI]
  37. 양종모, "인공지능 챗봇 알고리즘에 대한 몇 가지 법적 고찰", 홍익법학, 21(1), pp.449~482 (2020), 법학연구소[DOI]
  38. 윤혜선, "빅데이터 규제의 새로운 패러다임 모색을 위한 연구- 개인정보 보호법제의 한계와 리스크규제체제로의전환가능성에 대한 검토를 중심으로 -", 경제규제와 법, 11(1), pp.71~94 (2018), 법학연구소
  39. 윤혜선, "인공지능 규제 정책에 관한 연구: 주요국의 규제 정책 사례를 중심으로", 정보통신정책연구, 26(4), pp.135~176 (2019), 정보통신정책학회
  40. 이상윤, "유럽연합 디지털 정책의 동향과 전망: “유럽의 디지털 미래” · “유럽 데이터 전략” · “인공지능 백서”의 주요 내용과 의의", 고려법학, (97), pp.193~239 (2020), 법학연구원[DOI]
  41. 이원우, "혁신과 규제 : 상호 갈등관계의법적 구조와 갈등해소를 위한 법리와 법적 수단", 경제규제와 법, 9(2), pp.7~29 (2016), 법학연구소
  42. 이재훈, "전자동화 행정행위에 관한 연구 -독일 연방행정절차법 제35조의a를 중심으로-", 성균관법학, 29(3), pp.143~192 (2017), 법학연구원[DOI]
  43. 임성훈, "인공지능 행정이 행정절차･행정소송에 미치는 영향에 대한 시론적 고찰", 행정법연구, (62), pp.135~168 (2020), 행정법이론실무학회[DOI]
  44. 정하명, "미국 연방대법원의 프라이버시보호법 위반과 연방정부배상책임관련 판결례", IT와 법연구, (8), pp.169~192 (2014), IT와 법연구소
  45. 최승필, "공행정에서 AI의 활용과 행정법적 쟁점 ― 행정작용을 중심으로 ―", 공법연구, 49(2), pp.207~242 (2020), 한국공법학회[DOI]
  46. 홍민정, "지능정보사회에서의 완전자동 행정행위", 성균관법학, 31(2), pp.143~173 (2019), 법학연구원[DOI]
  47. 이희정, "Codes만으로 충분한가? 행위는 필요하지 않은가? : 인공지능에 대한 규율을 실행하기", 경제규제와 법, 12(2), pp.47~52 (2019), 법학연구소
  48. JanZiekow, "Gewährleistungsstaat und Regulierungsreform in Deutschland: From deregulation to smart regulation", 법학논집, 19(4), pp.81~124 (2015), 법학연구소
  49. Ashley Deeks, "The Judicial demand for explainable artificial intelligence", Colum. L. Rev, 119 (2019)
  50. Cary Coglianese, "Regulating by Robot:Administrative Decision Making in the Machine-Learning Era", Geo. L. J, 105 (2017)
  51. Cary Coglianese, "Transparency and Algorithmic Governance", Admin. L Rev, 71, pp.1~ (2019)
  52. David Freeman Engstrom, "Algorithmic Accountability in the Administrative State", Yale. J, 37 (2020)
  53. Nathalie Nevejans, "Directorate-general for internal policies policy department C: Citizens’ rights and constitutional affairs, European civil law rules in robotics" (2016), Study for the JURI committee

관련 논문AI추천

인공지능에 기반한 자동화된 행정결정의 행정법적 쟁점조성규동북아법연구소 · 동북아법연구2023 · 제16권 제4호자동화된 의사결정과 행정절차법에 관한 검토김민호, 윤금낭법학연구원 · 성균관법학2022 · 제34권 제3호자동적 재량행위 가능성에 관한 시론적 연구유동훈법제처 · 법제2022 · 제697권 자동적 처분의 행정법적 제 문제 — 처분의 형식･절차 및 구제에 관한 쟁점을 중심으로 —권은정법학연구원 · 법학논총2021 · 제38권 제3호AI기본법 제정에 따른 행정설명청구권의 입법 필요성과 법적 쟁점김응준, 김하림법학연구원 · 법학논총2025 · 제38권 제2호인공지능(AI) 단일법 제정 필요성과 행정법학의 과제이효진법학연구원 · 법학논총2023 · 제35권 제3호

이 간행물의 다른 논문 (10건)

특허법상 속지주의: 대법원 2019다222782, 222799 판결의 의미와 과제김동준pp. 1-50디지털저작물의 재판매와 권리소진원칙에 관한 비교법적 검토김경숙pp. 51-88오라클과 구글의 저작권 분쟁과 산업계의 영향육소영pp. 89-128온라인 플랫폼 중개거래의 공정화에 관한 법률안에 대한 고찰 -정의 및 적용범위를 중심으로-고형석pp. 129-182블록체인으로 인한 경쟁제한 효과의 법적 판단기준 연구신영수pp. 183-208
원문 보기