행정의 디지털 전환에 따른 인공지능 규제의 최근 동향과 시사점 - 인공지능에 대한 인격권 보호의 문제를 겸하여 -
Recent Trends and Implications of Regulating Artificial Intelligence in the Digital Transformation of Public Administration – Focusing on the issue of protecting personal rights against artificial intelligence –
0
조회
0
다운로드
5
인용
0
참고문헌
키워드
초록
행정의 디지털 전환과 인공지능은 시대의 화두이다. 디지털화와 인공지능시스템은 방대한 데이터의 수집･처리를 하지만, 개인정보의 유출로 인격권이나 프라이버시권을 중대하게 침해할 수도 있다. 또한 알고리즘에 의한 인공지능시스템은 자유로운 정치적 의사 형성을 왜곡할 수 있고, 딥페이크 기술을 이용한 가짜 뉴스는 정치인의 명예를 심각하게 실추시킬 수 있다. 이처럼 디지털화와 인공지능은 인간의 존엄권, 기본권, 민주주의와 같은 헌법의 기본가치를 훼손할 수 있다. 그런 점에서 인공지능에 대한 규제가 필요하며, 이를 어떻게 설계할 것인지는 현대국가의 중요한 과제다. 특히 인공지능시스템은 절차적 요건에 취약하며, 이에 대한 민주적 통제가 보완되어야 한다. 인공지능에 의한 행정자동결정에도 절차적 정당성을 확보하여야 하며, 이를 위해 시민의 참여뿐만 아니라 절차 공개를 통한 투명성이 보장되어야 한다. 인공지능시스템에 대한 규제에는 다양한 방식이 있지만, 기업의 자율규제를 보장하면서 국가의 규제를 유보하는 ‘규제된 자율규제’의 방식이 바람직하다. 신(新)산업의 인공지능에 대해서는 규제샌드박스를 활용할 수 있다. 하지만 인공지능시스템이 초래할 수 있는 리스크를 제어하는 것이 중요하며, 또 이러한 리스크를 제어할 수 있는 제도와 절차가 필요하다. 이와 관련하여 유럽연합 인공지능명령안에는 참고할 만한 내용이 포함되어 있다. 법령에서 인간의 존엄이나 인격권을 중대하게 침해하거나 인간의 생명･안전에 명백히 치명적인 위험을 줄 수 있는 인공지능시스템은 금지해야 한다. 높은 리스크의 인공지능에 대한 규제가 중요하다. 이러한 높은 리스크의 인공지능에 대해서는 리스크관리시스템을 설정해야 한다. 리스크관리시스템은 대체로 리스크의 조사 및 관찰, 리스크의 평가, 리스크의 관리 및 통제로 구성된다. 리스크의 조사가 제대로 이루어지기 위해서는 높은 리스크의 인공지능을 데이터베이스에 등록하고 이를 추적할 수 있는 시스템을 마련해야 한다. 또한 등록된 데이터에 기초하여 높은 리스크의 인공지능에 대한 평가가 전 생애에 걸쳐 지속적으로 이루어져야 한다. 리스크의 관리 및 통제에서 규제 거버넌스가 효과적으로 작동하도록 규율해야 한다. 행정의 디지털화와 인공지능은 현대국가의 당면과제이자 현안이 되고 있다. 이에 대한 규범적 대응과 관련 법령의 정비가 시급하다.
Abstract
The digital transformation of public administration and the advent of artificial intelligence (AI) are prominent contemporary topics. The process of digitalization and AI systems entails vast data collection and processing, potentially leading to serious infringement of individuals’ rights to personality and privacy by leaking personal information. In addition, algorithmic AI systems can distort free political decision-making, while deepfake poses a grave threat to the reputation of government officials. As a consequence, digitalization and AI can undermine fundamental constitutional values, such as human dignity, fundamental rights, and democracy. Consequently, regulating AI is necessary, and formulating its design emerges as a crucial issue for modern countries. In particular, AI systems are vulnerable to procedural requirements, necessitating the supplementation of democratic control. Procedural legitimacy should be secured for AI-assisted administrative decisions, and for this purpose, transparency should be guaranteed through procedure disclosure and citizen participation. Various approaches to regulating AI systems exist, but regulated self-regulation that ensures company self-regulation while reserving state regulation is preferable. For AI implementation in emerging industries, regulatory sandboxes can be beneficial; however, controlling the risks that AI systems can cause is important. Procedures and policies are needed for risk management. In this regard, the draft European Union (EU) Regulation on AI is instructive by prohibiting AI systems that gravely infringe on human dignity or personality rights or pose an imminent threat to human life and safety. Regulating high-risk AI is essential, and for such high-risk AI systems, a risk management system must be established promptly. The risk management system generally consists of risk investigation and observation, assessment, and management and control. It is necessary to register high-risk AI systems in a database and establish a system to track them to investigate risks properly. In addition, based on the recorded data, high-risk AI systems should be assessed continuously throughout their life cycle. Moreover, regulatory governance should be strategically designed to manage and control risks effectively. The digitalization of public administration and the rise of artificial intelligence present significant challenges for modern countries. Thus, urgent action is warranted for a normative response and an overhaul relevant legislation in light of these developments.
참고문헌 (35)
- 계희열, "헌법학(중)" (2007), 박영사
- 고학수, "인공지능 윤리규범과 규제 거버넌스의 현황과 과제", 경제규제와 법, 13(1), pp.7~36 (2020), 법학연구소[DOI]
- 김광수, "인공지능 규제의 법체계", 토지공법연구, 93, pp.217~243 (2021), 한국토지공법학회
- 김재선, "인공지능 안전과 책임 확보를 위한 법제 논의에 관한 검토 — 유럽연합 인공지능 관리 법제 논의에 기초하여 —", 행정법연구, (64), pp.157~181 (2021), 행정법이론실무학회[DOI]
- 김중권, "인공지능시대에 자동적 처분의 법제도화(「행정기본법」 제20조)에 따른 후속 과제", 공법연구, 51(1), pp.311~338 (2022), 한국공법학회
- 김중권, "EU 인공지능명령안의 주요 내용과 그 시사점", 헌법재판연구, 8(2), pp.65~100 (2021), 헌법재판연구원[DOI]
- 김철수, "헌법학개론" (2005), 박영사
- 정남철, "행정법의 특수문제" (2018), 법문사
- 정남철, "現代國家의 規律構造와 規制된 自律規制 ― 특히 규제거버넌스의 구축과 실현방안을 중심으로 ―", 공법연구, 46(4), pp.409~437 (2018), 한국공법학회
- 정남철, "인공지능 시대의 도래와 디지털화에 따른 행정자동결정의 법적 쟁점 ― 특히 행정기본법상 자동적 처분의 문제점을 중심으로 ―", 공법연구, 50(2), pp.231~252 (2021), 한국공법학회[DOI]
- 정남철, "유럽연합(EU) 인공지능규범의 제정과 특징", 유럽헌법연구, (38), pp.215~242 (2022), 유럽헌법학회[DOI]
- 미래세대 보호를 위한 법적 과제 4 – 인공지능에 대한 유럽연합의 규제체계와 대응전략을 중심으로 –, "정남철", 한국법제연구원, ~ (2020)
- 정소영, "유럽연합 인공지능법안의 거버넌스 분석 - 유럽인공지능위원회와 회원국 감독기관의 역할과 기능을 중심으로 -", 연세법학, (39), pp.33~65 (2022), 연세법학회
- 한수웅, "헌법학" (2017), 박영사
- 허영, "한국헌법론" (2018), 박영사
- 홍석한, "유럽연합 ‘인공지능법안’의 주요 내용과 시사점", 유럽헌법연구, (38), pp.243~282 (2022), 유럽헌법학회[DOI]
- Beck, Susanne, "Diskrimierung durch Künstliche Intelligenz" (2019), ZRP
- Binder, Nadja Braun, "Vollständig automatisierter Erlass eines Verwaltungsaktes und Bekanntgabe über Behördenportale", DÖV, 891~ (2016)
- "Ebert", Specker gen. Döhmann, Der Kommissionsentwurf für eine KI-Verordnung der EU, 2021, pp.1188~
- Geminn, Christian, "Die Regulierung Künstlicher Intelligenz", pp.354~ (2021), ZD
- Götz, Volkmar, "Allgemeines Polizei- und Ordnungsrecht" (2013)
- Guggenberger, "Einsatz künstlicher Intelligenz in der Verwaltung", NVwZ, pp.844~ (2019)
- Guggenberger, "Öffentliche Verwaltung im Zeitalter der Digitalisierung" (2019)
- Hornung, Gerrit, "KI-Regulierung im Mehrebenensystem", DuD, pp.561~ (2022)
- Jarass, "GG" (2009)
- Koch, "Umweltrecht" (2016)
- Schliesky, "Digitalisierung: Herausforderung für den demokratischen Verfassungsstaat", NVwZ, pp.693~ (2019)
- Schmidt-Aßmann, Eberhard, "Das allgemeine Verwaltungsrecht als Ordnungsidee" (2004)
- Schröder, "Rahmenbedingungen der Digitalisierung der Verwaltung", VerwArch, 328~ (2019)
- Siegel, Th, "Automatisierung des Verwaltungsverfahrens: zugleich eine Anmerkung zu § 35a, 24 I 3, 41 IIa VwVfG", DVBl, 24~ (2017)
- Sparwasser, "Umweltrecht" (2003)
- Unger, "Demokratie und künstliche Intelligenz", pp.113~
- Voßkuhle, "Grundlagen des Verwaltungsrechts, Bd. 1" (2022)
- Olivia J. Erdélyi, "Regulating artificial intelligence:Proposal for a global solution", Government Information Quarterly, 39, pp.1~13 (2022)
- Hoffmann-Riem, "Regulating Artificial Intelligence", pp.1~29 (2020), Springer