인공지능시대 알고크라시(Algocracy)에서의 민주적 정당화의 문제
Die demokratische Legimation in der Algokratie im Zietalter der Künstlichen Intelligenz
0
조회
0
다운로드
22
인용
0
참고문헌
키워드
초록
인공지능이 21세기의 핵심기술로 여겨진다. 희망과 기대가 높은 것에 비례해서 불안과 우려 역시 그에 못지않다. 이런 불안과 우려가 응축된 개념이 바로 알고리즘의 지배(Algocracy; Algokratie)의 위협이다. 알고리즘의 지배(Herrschaft der Algorithmen) 즉, 알고크라시는 다름 아닌 디지털지배(digitale Herrschaft)이다. 알고크라시는 공공의 의사결정과정의 정당성(legitimacy of public decision-making processes)을 위협한다. 자유로운 주체로서의 개인은 현대 헌법국가의 선험적인 존재이고, 모든 정당성의 최후의 주체이기에, 알고크라시는 매우 위협으로 다가오는 것은 자연스럽다. 공법에서 알고크라시의 문제는 궁극적으로 정당화(Legitimation)의 물음이다. 국가적 맥락에서 도입된 컴퓨터시스템의 아웃풋은 정당화의 주체가 결정을 통해 충분히 정해져 있다는 의미에서 정당화의 주체에 귀속될 수밖에 없다. 현재의 국가권력의 행사는 관료제의 아날로그 조직방식에 기반한 정당화의 구조에서 이루어져 왔는데, 컴퓨터시스템이 사람의 인식과정이 생략된 채 사람을 대신하여 어떤 결정을 내리고 행위를 하는 인공지능시스템은 분명 이런 전통적인 정당화의 구조와는 충돌한다. 따라서 인공지능시스템을 공공부문에 도입하는 데 있어서는 먼저 다소간 자율적인 컴퓨터시스템을 고권주체가 도입하는 것이 이런 범주에서 정당화될 수 있는지 여부와 아니면 디지털지배의 시대를 위한 새로운 정당화구상을 필요로 하지 않는지 여부의 물음이 검토되어야 한다.
Abstract
Künstliche Intelligenz(KI, artificial Intelligence:AI) gilt als Kerntechnologie des 21. Jahrhunderts. Im Verhältnis zu den hohen Hoffnungen und Erwartungen sind die Ängste und Sorgen nicht geringer. Die Verdichtung dieser Angst und Sorge ist die Bedrohung durch die Algokratie. Die Algokratie ist keine andere als digitale Herrschaft. Sie bedroht die Legitimität öffentlicher Entscheidungsprozesse(legitimacy of public decision-making processes) Das Individuum als freies Subjekt ist die a priori Existenz des modernen Verfassungsstaates und das letzte Subjekt der Legitimationszurechnung. Daher ist es natürlich, dass Algocrasi eine sehr Bedrohung darstellt. Das Algokratiesproblem im öffentlichen Recht ist letztendlich die Frage der Legitimation. Der Output des Computersystems muss dem Legitimationssubjekt im Legitimationszusammenhang in dem Sinne zugeordnet werden, dass es durch Entscheidung hinreichend bestimmt wird. Die derzeitige Ausübung staatlicher Herrschaft erfolgte in der Struktur der Legitimation auf der Grundlage der analogen Organisationsmethode der Bürokratie. In Systemen mit künstlicher Intelligenz treffen Computersysteme Entscheidungen und handeln im Namen von Menschen, wobei der Prozess der menschlichen Anerkennung weggelassen wird. Dies steht eindeutig im Widerspruch zu dieser traditionellen Legitimationsstruktur.
참고문헌 (53)
- 김중권, "행정법" (2019), 법문사
- 김중권, "EU행정법연구" (2018), 법문사
- 김남진, "행정의 민주적 정통화론", 학술원 통신, (290) (2017)
- 김남진, "제4차 산업혁명시대와 중요 법적 문제", 학술원 통신, (319) (2020)
- 김남진, "인공지능(AI)기술과 공법학의 변용", 학술원 통신, (321) (2020)
- 김배원, "지능정보사회와 헌법 - 인공지능(AI)의 발전과 헌법적 접근 -", 공법학연구, 21(3), pp.67~108 (2020), 한국비교공법학회
- 金重權, "行政自動節次에 관한 法的 考察", 박사, 법학, pp.1993
- 김중권, "행정에 인공지능시스템 도입의 공법적 문제점", 법조, 69(2), pp.53~77 (2020), 법조협회[DOI]
- 김중권, "인공지능시대에 알고리즘에 의한 행위조종과 가상적 행정행위에 관한 소고", 공법연구, 48(3), pp.287~312 (2020), 한국공법학회[DOI]
- 김중권, "국가권력행사에 AI도입과 민주적 법치국가원리", AI와 法 그리고 인간 심포지엄 (2019)
- 김중권, "21세기 국가모델을 위한 행정법의 현대화와 개혁", 공법연구, 48(1), pp.387~419 (2019), 한국공법학회[DOI]
- 김중권, "인공지능시대에 완전자동적 행정행위에 관한 소고", 법조, 66(3), pp.146~182 (2017), 법조협회[DOI]
- 김중권, "이른바 입법아웃소싱의 공법적 문제점에 관한 소고", 입법평가연구, 10(2) (2016)
- 김중권, "자동적 행정행위(컴퓨터 행정행위)에 관한 소고", 공법연구, 28(4) (2000)
- 이재훈, "전자동화 행정행위에 관한 연구 -독일 연방행정절차법 제35조의a를 중심으로-", 성균관법학, 29(3), pp.143~192 (2017), 법학연구원[DOI]
- 이재훈, "전자동화 행정행위 도입 후 독일 행정절차법제 논의의 전개 양상", 공법학연구, 19(4), pp.481~515 (2018), 한국비교공법학회[DOI]
- 황성기, "디지털 기본권의 의미와 내용", 헌법학연구, 24(3), pp.1~38 (2018), 한국헌법학회
- 허완중, "민주적 정당성", 저스티스, (128), pp.132~153 (2012), 한국법학원
- Ahrendt, "Alte Zöpfe neu geflochten–Das materielle Recht in der Hand von Programmierern", NJW, pp.537~ (2017)
- Bauer, "Handbook on the Economics of the Internet" (2016)
- Boehme-Neßler, "Die Macht der Algorithmen und die Ohnmacht des Rechts", NJW, pp.3031~ (2017)
- Boehme-Neßler, "Algorithmen und Demokratie: Anmerkungen zur Digitalisierung des Verfassungsrechts", GewArch, pp.129~ (2019)
- Böckenförde, "HStR Ⅲ", pp.34~ (2005)
- Borges, "Rechtliche Rahmenbedingungen für autonome Systeme", NJW, pp.977~ (2018)
- Buchholz, "Legal Tech", JuS, pp.956~ (2017)
- Bull, "Über die rechtliche Einbindung der Technik", Der Staat, 58, pp.57~ (2019)
- Danaher, "The Threat of Algocracy: Reality, Resistance and Accommodation", Philosophy &Technology, pp.245~ (2016)
- Dederer, "Letale Autonome Waffensysteme(LAWS)", RW, pp.380~ (2018)
- H. Dreier, "Hierachische Verwaltung im demokratischen Staat" (1991)
- H. Dreier, "GG Ⅱ" (2015)
- Ertel, "Grundkurs Künstliche Intelligenz" (2016)
- Frese, "Recht im zweiten Maschinenzeitalter", NJW, pp.2090~ (2015)
- Guckelberger, "Öffentliche Verwaltung im Zeitalter der Digitalisierung" (2019)
- Kersten, "Menschen und Maschinen", JZ, 70, pp.1~ (2015)
- Herberger, "Künstliche Intelligenz und Recht", NJW, pp.2825~ (2018)
- Hoffmann-Riem, "Demoktratie und künstliche Intelligenz", pp.129~ (2019)
- Klaas, "Demokratieprinzip im Spannungsfeld mit künstlicher Intelligenz", MMR, pp.84~ (2019)
- Maier, "Verfassungsrechtliche Aspekte der Digitalisierung des Besteuerungsverfahrens", JZ, pp.614~ (2017)
- Masing, "Grundlagen des Verwaltungsrechts, Bd.Ⅰ", pp.7~ (2012)
- Martini, "Algorithmen als Herausforderung für die Rechtsordnung", JZ, pp.1017~ (2017)
- Petersen, "Demokratie und Grundgesetz" (2008)
- Polomski, "Der automatisierte Verwaltungsakt" (1993)
- AEUV, "EUV", pp.2016, Ruffert
- Schuppert, "Funktionell-rechtliche Grenzen der Verfassungsinterpretation" (1980)
- Stelkens, "Verwaltungsverfahrensgesetz" (2018)
- Teubner, "Digitale Rechtssubjekte?", AcP, 218, pp.155~ (2018)
- Trute, "Die demokratische Legitimation der Verwaltung"
- Schmidt-Aßmann, "Grundlagen des Verwaltungsrechts, Bd.Ⅰ" (2012)
- Unger, "Das Verfassungsprinzip der Demokratie" (2008)
- Unger-Stenberg, "Demoktratie und künstliche Intelligenz" (2019)
- Unger, "Demoktratie und künstliche Intelligenz", pp.113~ (2019)
- Wischmeyer, "Regulierung intelligenter Systeme", AöR, 143, pp.1~ (2018)
- Zeidler, "Über die Technisierung der Verwaltung" (1959)