인공지능 활용 감시에 따른 기본권 침해 위험과 규범적 대응
Normative Responses to the Risk of Human Rights Violations from AI-Based Surveillance
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
인공지능은 방대한 데이터를 기반으로 자율적으로 학습하며 실시간으로 평가와 분석을 수행함으로써목적 달성을 위한 예측과 결정을 한다. 국가는 인공지능을 활용함으로써 늘어나는 공적 과제를 신속하고효율적으로 해결할 수 있다. 그러나 이와 동시에 감시 체제의 고도화와 그에 따른 기본권 침해 가능성이커지므로 이러한 위험을 진단하고 적절한 대응 방안을 마련해야 한다. 국가는 인공지능을 활용하여 감시 체제를 구축하면서 개인에 관한 규범적 판단과 평가, 그에 따른 집행을 자동화할 수 있다. 이는 인간의 존엄과 가치에 기초한 개인의 자율성을 억압하고, 자기결정권과 일반적 행동의 자유를 실질적으로 억압하는 결과를 초래한다. 또한 편향성 및 오류 가능성과 같은 인공지능의 한계에도 불구하고 이를 활용한 감시와 그에 기초한 결정을 지속한다면 공적 과제 수행의 정확성과객관성을 훼손하고 불합리한 차별을 영속시킬 수 있다. 또한 민감정보를 포함하여 무수한 개인정보를 수집하고, 개인을 식별하거나 추적할 수 있도록 하여 개인정보자기결정권을 비롯한 사생활 영역에 대한 보호를 침해하기 쉽다. 이 밖에도 감시 활동에 대한 알 권리 보장이 어려울 뿐만 아니라 시간적, 공간적 제약이 없이 이루어지는 광범위하고 정밀한 인공지능 감시는 자기검열을 유발하고 익명성 확보 조치를 무력화하여 표현의 자유를 위축시킬 수 있다. 국가가 인공지능 활용에 따른 이점을 충분히 누리도록 하면서도 감시 체제 구축에 따른 기본권 침해의 위험을 최소화할 수 있는 규범적 대응 방안을 마련해야 한다. 이는 국가가 인공지능을 활용하여 감시를 진행할 때 법치주의에 따른 한계를 준수하도록 함으로써 가능할 것이다. 우선, 인공지능을 활용한 감시가 명확한 법적 근거를 갖추도록 해야 한다. 공권력 작용에 대한 기존의법제를 전반적으로 검토하여 인공지능 환경에 맞도록 수정하는 한편 인공지능의 고유한 특징 및 위험에부합하는 규범 체계를 새롭게 정립하는 것이다. 국가가 필요한 범위 내에서 인공지능을 활용한 감시를하는 경우 그러한 활동이 투명성과 객관성, 정확성을 확보할 수 있는 장치를 포함하도록 해야 한다. 감시대상자에게 인공지능 활용 감시에 관한 정보를 제공하고, 정보에 대한 실질적 접근 가능성을 보장해야하며, 인공지능의 편향성과 차별 위험을 방지하기 위해 데이터의 품질을 보장하기 위한 장치나 제도를규범에 반영해야 한다. 나아가 인공지능을 활용하기에 앞서 사전에 적합성 및 위험성을 평가하고, 인공지능을 활용하는 전 단계에 걸쳐 감독이 가능하도록 국가기관 내외부에 체계적인 거버넌스를 구축해야한다. 국가의 인공지능 활용 감시를 중립적이고 객관적으로 평가, 감독할 수 있는 제도를 마련하는 한편, 사전에 당사자가 감시 및 그에 따른 결정에 참여할 수 있는 절차를 보장하고 부당한 감시와 결정에 대해서는 간편하고 쉽게 권리구제를 도모할 수 있도록 해야 한다.
Abstract
AI autonomously learns from vast amounts of data and conducts real-time evaluations and analyses, enabling it to make predictions and decisions aimed at achieving specific goals. By utilizing AI, the state can swiftly and efficiently solve increasing public tasks. However, this also heightens the risk of human rights violations due to the advancement of surveillance systems. Thus, it is crucial to assess these risks and establish appropriate countermeasures. When the state uses AI to build a surveillance system, it can automate normative judgments and assessments of individuals, as well as the enforcement of related actions. This can suppress personal autonomy based on human dignity, effectively infringing on individual self-determination and the freedom to act. Moreover, despite the limitations of AI—such as bias and errors—if surveillance and decisions based on it persist, it can undermine the accuracy and objectivity of public task execution, perpetuating unreasonable discrimination. Additionally, as AI collects vast amounts of personal information, it becomes easier to violate the right to informational self-determination and invade privacy. Furthermore, it is challenging to guarantee the right to know about surveillance activities, and AI-powered surveillance can have a chilling effect on freedom of expression. The state must devise normative countermeasures to minimize the risk of human rights violations associated with the development of surveillance systems while still enjoying the benefits of AI. This can be achieved by ensuring that AI-based surveillance adheres to the rule of law. First, AI surveillance must be based on a clear legal foundation. Existing legal frameworks governing public authority must be reviewed comprehensively and revised to fit the AI environment, while establishing new regulatory systems that account for the unique characteristics and risks of AI. When the state uses AI surveillance within the necessary scope, such activities must include mechanisms that ensure transparency, objectivity, and accuracy. Individuals subject to AI surveillance should be informed about such activities, and meaningful access to this information must be guaranteed. Additionally, to prevent AI bias and discrimination, measures should be taken to ensure the quality of the data used, and these measures should be reflected in regulations. Furthermore, before utilizing AI, a suitability and risk assessment should be conducted, and a systematic governance structure must be established within and outside government agencies to enable supervision throughout all phases of AI usage. The state should also establish institutions that can neutrally and objectively evaluate and supervise AI surveillance, while ensuring that individuals have the right to participate in surveillance-related decisions and providing easy and accessible legal remedies against unjust surveillance and decisions.
참고문헌 (44)
- 김동희, "행정법Ⅰ" (2021), 박영사
- 박균성, "행정법론(상)" (2017), 박영사
- 이영무, "행정법총론" (2024), 도서출판 정독
- 김민규, "인공지능 CCTV의 경찰법적 활용에 관한 문제", 비교법연구, 22(2) (2022)
- 김민우, "지능정보사회에서 민감정보의 보호와 이용을 위한 법제 정비방안 연구", 서울법학, 29(2) (2021)
- 김병수, "부패범죄에 AI 범죄예측 시스템 적용의 문제점과 개선방안", 한국부패학회보, 27(2) (2022)
- 김영선, "디지털 신기술과 노동의 차별 및 감시, 부품화", 사회통합연구, 1(1) (2020)
- 김영욱, "디지털 노동 착취와 감시의 상품화– 온라인 맞춤형 광고에 대한 커뮤니케이션 정치경제학 해석", 언론과 사회, 26(1) (2018)
- 김일환, "지능정보사회에서 헌법의 역할과 기능", 성균관법학, 32(3) (2020)
- 노현숙, "범죄예측의 쟁점과 함의", 경희법학, 57(1) (2022)
- 백국흠, "지능정보사회에서 AI감사에 관한 법적 쟁점 고찰", 미국헌법연구, 29(2) (2018)
- 선지원, "인공지능 생애주기의 관점에서 본 규제와 거버넌스", 연세법학, 39 (2022)
- 송태은, "인공지능 기술을 이용한 국가의 사회감시 체계 현황과 주요 쟁점", 정책연구시리즈, 2020(12) (2021)
- 윤성현, "자율주행자동차 시대 개인정보 보호의 공법적 과제", 법과 사회, (53) (2016)
- 윤수정, "인공지능과 민주주의에 관한 소고", 헌법재판연구, 8(2) (2021)
- 이권일, "생체인식정보의 보호와 활용에 대한 헌법적 고찰–개인정보보호법 시행령 개정령안에대한 분석을 겸하여–", 법학연구, 61(2) (2020)
- 이권일, "지능정보사회에서 개인정보자기결정권이 보호하고자 하는 헌법적 가치", 공법연구, 51(3) (2023)
- 이상학, "생체적 안면인식의 법적 문제", 유럽헌법연구, (42) (2023)
- 이율경, "노동관계에서 알고리즘에 관한 법적 쟁점", 노동법연구, (56) (2024)
- 이종민, "인공지능 시대 정보보호와 공공데이터 이용의 정책 갈등–생체정보와 딥러닝 기반 출입국관리 시스템을 중심으로", 시민과세계, (44) (2024)
- 이준일, "인공지능과 헌법–인공지능의 위험에 대한 헌법적 권리 차원의 대응–", 헌법학연구, 28(2) (2022)
- 정애령, "지능정보사회 개인정보자기결정권을 보완하는 데이터 활용과 개인정보보호", 공법학연구, 23(1) (2022)
- 조한상, "인공지능 기반 반부패 도구(AI-ACT)의 헌법원리 적합성에 관한 고찰", 한국부패학회보, 27(1) (2022)
- Ad Hoc Committee on Artificial Intelligence, "Feasibility Study" (2020), Council of Europe
- Christopher Slobogin, "Surveillance Technologies and Constitutional Law, Annual Review of Criminology" (2023), Vanderbilt Law School Faculty Publications
- Dahlia Peterson, "Geopolitical implications of AI and digital surveillance adoption" (2022), Brookings Institution
- Data-driven decision-making and the ‘Rule of Law’, "Emre Bayamlioğlu", Tilburg Law School, ~ (2018)
- Lord Evans, "Artificial Intelligence and Public Standards: A Review by the Committee on Standards in Public Life", The Committee on Standards in Public Life, ~ (2020)
- Paul Burgess, "AI and the RULE OF LAW: The Necessary Evolution of a Concept" (2024), Hart Publishing
- Ronit Sharma, "Video Surveillance Market" (2024), Roots Analysis
- Steven Feldstein, "The Global Expansion of AI Surveillance" (2019), Carnegie Endowment for International Peace
- Aziz Z. Huq, "Constitutional Rights in the Machine-Learning State", Cornell Law Review, 105 (2020)
- Boris Lubarsky, "RE-IDENTIFICATION OF “ANONYMIZED DATA”", GEORGETOWN LAW TECHNOLOGY REVIEW, 1 (2017)
- Carmel Shachar, "AI Surveillance during Pandemics:Ethical Implementation Imperatives", Hastings Center Report, 50(3) (2020)
- Catarina Fontes, "AI-powered public surveillance systems : why we(might)need them and how we want them", Technology in Society, 71 (2022)
- David Lyon, "Emerging Digital Spaces in Contemporary Society" (2010), Palgrave Macmillan
- Dirk Helbing, "Towards Digital Enlightenment: Essays on the Dark and Light Sides of the Digital Revolution" (2019), Spinger
- Hildebrandt Mireille, "Algorithmic regulation and the rule of law", Phil. Trans. R. Soc. A, 376 (2018)
- James S. Pearson, "Defining Digital Authoritarianism", Philosophy & Technology, 37(73) (2024)
- John Danaher, "The Threat of Algocracy: Reality, Resistance and Accommodation", Philosophy and Technology, 29(3) (2016)
- Karl Manheim, "Artificial Intelligence : Risks to Privacy and Democracy", Yale Journal of Law & Technology, 21 (2019)
- Stephanie Bornstein, "Antidiscriminatory Algorithms", Alabama Law Review, 70(2) (2018)
- Tahereh Saheb, "Ethically contentious aspects of artificial intelligence surveillance : a social science perspective", AI and Ethics, 3 (2023)
- Tiberiu Dragu, "Digital Authoritarianism and the Future of Human Rights", International Organization, 75(4) (2021)