본문 바로가기
KERD
논문

행정에 인공지능시스템 도입의 공법적 문제점

Die öffentlich-rechtlichen Fragen beim Einsatz künstlicher Intelligenz in der Verwaltung

김중권
사단법인 법조협회 (KOREAN LAWYERS ASSOCIATION)|2020.04|법조 (Korean Lawyers Association Journal)|제69권 제2호|pp. 53-77|DOI 10.17007/klaj.2020.69.2.002

0

조회

0

다운로드

30

인용

0

참고문헌

키워드

인공지능알고리즘디지털화전자정부Predictive Policing강한 인공지능약한 인공지능E-Government소셜 봇Digitalisierung행정에 인공지능의 도입제4차 산업혁명시대예측치안자기학습의 알고리즘완전자동화된 행정행위인간과 기계의 공생Einsatz künstlicher Intelligenz in der Verwaltungdie 4. Industrielle RevolutionAI(Künstliche Intelligenz)Algorithmenstarke KIschwache KIsocial botselbstlernende Algorithmender vollständig automatisierte VerwaltungsaktSymbiose zwischen Mensch und Maschine
주제분류법학

초록

행정에서의 인공지능의 도입은 전례 없는 기회를 제공한다. 국가의 인공지능전략과 같은 현재의 움직임은 좋은 자극을 필연적으로 제공한다. 행정은 혁신의 정신과 실험의 기쁨이 충만해야 한다. 왜냐하면 아날로그시대를 삶아온 기성세대와는 달리 젊은 세대는 태어나면서부터 디지털시대를 삶아 왔기 때문이다. 독일의 경우 이미 1976년 행정절차법에 컴퓨터를 이용하여 행정행위를 발하는 것에 관해 규정하였지만, 우리 행정절차법은 아무런 언급을 하지 않는 상황이 보여주듯이, 우리의 행정 및 그 법제는 행정환경과 현실의 변화에 따라가지 못하였다. 인공지능시스템의 현재의 가동방식은 시민과 행정청 간의 의사소통, 결정준비, 독립된 결정 및 행정청내부적인 사용을 용이하게 하는 것과 같은 지원임무 이외에, 표준화된 대량경우의 처리를 위하여 적합하다. 현재의 수준에서 약한 인공지능만이 상정할 수 있으므로, 아직은 개별적 특징을 지닌 복잡한 경우의 범주에서 독자적인 결정을 위해서는, 행정에서의 불가결한 창의적인 형성과정과 혁신과정을 위해서는, 인공지능의 도입은 자연스럽게 한계가 있을 수밖에 없다. 가장 좋은 결과는 인간과 기계의 협력에서 얻어진다. 따라서 행정에 인공지능을 도입하는 데 있어서 인간과 기계, 양자의 공생(Symbiose)을 최적으로 형성하는 것이 결정적인 과제이다. 행정에서의 인공지능의 도입의 행정법적 물음을 시급하게 검토해야 한다.

Abstract

Der Einsatz künstlicher Intelligenz in der Verwaltung bietet beispiellose Möglichkeiten. Die nationale KI-Strategien geben zwangsläufig einen guten Anreiz. Aus dem Befund, dass die junge Generation im Gegensatz zur älteren Generation, die im analogen Zeitalter gelebt hat, seit ihrer Geburt im digitalen Zeitalter gelebt hat, ergibt sich daraus, dass die Verwaltung möglichst voller Innovationsgeist und Experimentierfreude sein sollte. In Deutschland war bereits im Verwaltungsverfahrensgesetz von 1976 der mit Hilfe automatischer Einrichtungen erlassene Verwaltungsakt deutlich vorgesehen. Hingegen wird in unserem Verwaltungsverfahrensgesetz jedoch nichts erwähnt. In diesem Kontext entspricht die koreanische Verwaltungsrechtsordnung nicht dem Entwicklungstrend der Verwaltung. Die aktuelle Arbeitsweise des KI-Systems eignet sich über die Unterstützungshandlungen wie der Erleichterung der Kommunikation, der Entscheidungsvorbereitung, der unabhängigen Entscheidungsfindung und der internen Verwendung innerhalb der Verwaltung hinaus für die Bearbeitung standardisierter Massenfälle. Da auf der gegenwärtigen Ebene jedoch nur eine schwache KI angenommen werden kann, ist der Einsatz künstlicher Intelligenz in der Verwaltung sowohl für die autonome Entscheidungsfindung in der Kategorie komplexer Fälle, die noch individuelle Merkmale aufweisen, als auch für den kreativen Gestaltungs- und Innovationsprozesses der Verwaltung noch unmöglich. Die besten Ergebnisse der Verwaltung werden durch die Zusammenarbeit von Menschen und Maschinen erzielt. Beim Einsatz künstlicher Intelligenz in der Verwaltung ist daher maßgeblich, eine optimale Symbiose zwischen Menschen und Maschinen herzustellen. Vor diesem Hintergrund sollten die verwaltungsrechtlichen Fragen beim Einsatz künstlicher Intelligenz in der Verwaltung dringend auseinandergesetzt werden.

참고문헌 (43)

  1. 김정오, "코드, 2001; 코드 2.0" (2009)
  2. 김중권, "행정법" (2019)
  3. 김남진, "제4차 산업혁명시대와 중요 법적 문제", 학술원 통신, (319) (2020)
  4. 김중권, "인공지능(AI)기술과 공법학의 변용", 학술원 통신, (321) (2020)
  5. 김중권, "행정자동절차에 관한 법적 고찰", ~ (1993)
  6. 김중권, "인공지능시대에 알고리즘에 의한 행위조종과 가상적 행정행위에 관한 소고", 공법연구, 48(3), pp.287~312 (2020), 한국공법학회[DOI]
  7. 김중권, "국가권력행사에 AI도입과 민주적 법치국가원리", AI와 法 그리고 인간 심포지엄 (2019)
  8. 김중권, "21세기 국가모델을 위한 행정법의 현대화와 개혁", 공법연구, 48(1), pp.387~419 (2019), 한국공법학회[DOI]
  9. 김중권, "인공지능시대에 완전자동적 행정행위에 관한 소고", 법조, 66(3), pp.146~182 (2017), 법조협회[DOI]
  10. 김중권, "자동적 행정행위(컴퓨터 행정행위)에 관한 소고", 공법연구, 28(4) (2000)
  11. 이재훈, "전자동화 행정행위에 관한 연구 -독일 연방행정절차법 제35조의a를 중심으로-", 성균관법학, 29(3), pp.143~192 (2017), 법학연구원[DOI]
  12. "Denkimpulse Digitale Ethik Künstliche Intelligenz – Assistenz oder Konkurrenz in der zukünftigen Verwaltung?"[URL]
  13. A. Berger, "Digitales Vertrauen. Eine verfassungs- und verwaltungsrechtliche Perspektive", DVBl, pp.804~ (2017)
  14. "Microsoft’s chatbot gone bad, Tay, makes MIT’s annual list of biggest technology fails"[URL]
  15. J. Danaher, "The Threat of Algocracy: Reality, Resistance and Accommodation", Philosophy &Technology, 29, pp.245~268 (2016)
  16. "Chatbots move public sector toward artificial intelligence"[URL]
  17. "AI-augmented government – Using cognitive technologies to redesign public sector work" (2017)[URL]
  18. "Are virtual assistants the future of Public Sector consumer service?"[URL]
  19. "Vor die Lage kommen: Predictive Policing in Deutschland – Chancen und Gefa hren datenanalytischer Prognosetechnik und Empfehlungen für den Einsatz in der Polizeiarbeit" (2018)[URL]
  20. "Accountable Algorithms"[URL]
  21. Lenzen, "Künstliche Intelligenz – Was sie kann &was uns erwartet" (2018)
  22. J. v. Lucke, "Smart Government - Wie uns die intelligente Vernetzung zum Leitbild Verwaltung 4.0 und einem smarten Regierungs- und Verwaltungshandeln führt", ~ (2015)
  23. N. Luhmann, "Recht und Automation in der öffentlichen Verwaltung" (1966)
  24. M. Martini, "Transformation der Verwaltung durch Digitalisierung", DÖV, pp.443~ (2017)
  25. "A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence" (2006)[URL]
  26. L. Guggenberger, "Einsatz künstlicher Intelligenz in der Verwaltung", NVwZ, pp.844~ (2019)
  27. M. Herberger, "Künstliche Intelligenz und Recht", NJW, pp.2825~ (2018)
  28. Heuermann, "Digitalisierung in Bund, Ländern und Gemeinden – ITOrganisation, Management und Empfehlungen", ~ (2018)
  29. Hill, "Auf dem Weg zum Digitalen Staat–auch ein besserer Staat?" (2015)
  30. H. Hill, "Die Kunst des Entscheidens", DÖV, pp.433~ (2017)
  31. H. Hilll, "Was bedeutet Künstliche Intelligenz (KI) für die Öffentliche Verwaltung?", Verwalt ungund Management, pp.287~ (2018)
  32. A. Rittershaus, "Innovative Verwaltung" (2016)
  33. A. Schmid, "Verwaltung, eGovernment und Digitalisierung" (2019)
  34. Th. Siegel, "Automatisierung des Verwaltungsverfahrens", DVBl, pp.24~ (2017)
  35. Stelkens, "Verwaltungsverfahrensgesetz" (2018)
  36. Unger, "Demokratie und Künstliche Intelligenz" (2019)
  37. Voßkuhle, "Vertrauensschutz", JuS, pp.794~ (2011)
  38. Wagner, "Legal Tech und Legal Robots–Der Wandel im Rechtsmarkt durch neue Technologien und künstliche Intelligenz" (2018)
  39. Th. Wischmeyer, "Regulierung intelligenter Systeme", AöR, 143, pp.1~ (2018)
  40. Forschungsunion, "Deutschlands Zukunft als Produktionsstandort sichern–Umsetzungsempfehlungenfür das Zukunftsprojekt Industrie 4.0", Abschlussbericht des ArbeitskreisesIndustrie4. 0, ~ (2013)
  41. "Transparenz der Verwaltung beim Einsatz von Algorithmen für gelebtenGrundrechtsschutz unabdingbar"[URL]
  42. "Strategie Künstliche Intelligenz der Bundesregierung" (2018)[URL]
  43. "Vorreiter für Künstliche Intelligenz"[URL]

관련 논문AI추천

인공지능시대에 완전자동적 행정행위에 관한 소고김중권사단법인 법조협회 · 법조2017 · 제66권 제3호인공지능을 활용한 행정의 이론적 문제와 대응 - 체계이론의 관점에서 -양천수법학연구원 · 법학논총2023 · 제36권 제2호인공지능에 기반한 자동화된 행정결정의 행정법적 쟁점조성규동북아법연구소 · 동북아법연구2023 · 제16권 제4호인공지능과 행정법총론체계의 변화김대인법학연구소 · 경제규제와 법2020 · 제13권 제2호인공지능에 의한 행정상 자동결정에 대한 규율과 권리구제김휘식IT와 법연구소 · IT와 법연구2021 · 제22호인공지능을 통한 행정작용의 절차적 요건을 위한 예비적 검토이국현사단법인 법조협회 · 법조2025 · 제74권 제1호

이 간행물의 다른 논문 (22건)

이민정책과 헌법적 가치황택환pp. 7-52自治爭訟의 構造變化와 地方自治團體 權利救濟體系의 再構築정남철pp. 78-113폴리스캠ㆍ드론 활용에 따른 공공부문 개인영상정보 규율체계 방향박주희pp. 114-143계약이론사에서 신뢰이익 배상과 지출비용 배상김영희pp. 144-190소멸시효 중단사유로서의 압류·추심명령 및 추심소송신지혜pp. 191-219
원문 보기