자동화된 의사결정에 대한 기본권의 실효적 보장- EU AI법 제54조와 GDPR 제22조의 관계를 중심으로 -
Effective protection of fundamental rights against automated decision-making - Focusing on the relationship between Article 54 of the EU AI Act and Article 22 of the GDPR -
0
조회
0
다운로드
8
인용
0
참고문헌
키워드
초록
이 글은 EU AI법 제54조(공익 목적의 인공지능 시스템 개발)과 GDPR 제22조의 사이의 접점으로서 ‘자동화된 의사결정’을 바라보았다. EU AI법 제54조는 공익적 목적을 위하여 개인정보의 추가처리를 허용하여 인공지능 시스템을 개발 과정의 규정인 반면 GDPR 제22조는 인공지능과 같은 자동화된 의사결정에 대한 정보주체의 권리를 보장하는 규정이다. 개인정보보호라는 접점을 공유한 이 규정들은 의료정보와 같은 고위험의 개인정보를 추가처리하여 AI의 자동화된 의사결정에 이르는 단계를 다루는 영역에서 해석적으로 중요한 의미를 가지고 있으며, 이에 대한 정당화 요소로서 정보주체의 동의 및 적절한 조치가 수반된다. 고위험 영역일수록 개인정보의 동의 요건은 강화되며, 절차적으로 개인정보영향평가나 인공지능의 적합성 평가가 요구된다. 이러한 사전적 정보주체의 권리 보호에 더하여 신설된 개인정보보호법 제37조의2(자동화된 의사결정)에 대한 거부권 및 설명요구권은 적법절차의 원리가 사적 영역으로 확대된 것으로 사후적으로 정보주체의 권리 보장 차원에서 중요한 의미를 가진다고 할 수 있다. 특히 우리나라의 개인정보영향평가 제도는 공공기관으로 대상을 한정하고 있으므로, 설명요구권은 AI가 작동되는 사적 영역에서 입법적 미비를 보완할 수 있는 중요한 수단이 될 수 있다.
Abstract
This article looked at "automated decision-making" as an intersection between Article 54 of the EU AI Act (development of artificial intelligence systems for public interest purposes) and Article 22 of the GDPR. Article 54 of the EU AI Act regulates the development of artificial intelligence systems by allowing the further processing of personal data for public interest purposes, while Article 22 of the GDPR guarantees the rights of data subjects to automated decision-making by artificial intelligence. These regulations, which share a touch-point of privacy, have interpretative significance in the area of further processing of high-risk personal data such as medical information and the steps leading up to automated decision-making by AI. They also entail data subject’s consent and appropriate measures as justification. In high-risk areas, the requirements of consent are stricter, and data protection impact assessment or conformity assessment of AI is procedurally required. In addition to this proactive protection of the rights of data subject, the newly established Article 37(2) of Personal Information Protection Act (automated decision-making), which provides for the right to contest and the right to request explanation, is an extension of the principle of due process to the private sphere, and is important in terms of ensuring the rights of data subject reactively. In particular, since Korea's system of data protection impact assessment is limited to public institutions, the right to request an explanation can be an important means to compensate for legislative deficiencies in the private sphere where AI is operated.
참고문헌 (25)
- 권건보, "정보접근권의 실효적 보장에 관한 고찰 ― 정보주체의 정보접근권을 중심으로 ―", 미국헌법연구, 29(2), pp.1~43 (2018), 미국헌법학회
- 권건보, "지능정보시대에 대응한 개인정보자기결정권의 실효적 보장방안", 미국헌법연구, 30(2), pp.1~38 (2019), 미국헌법학회
- 김재완, "EU 일반정보보호규정(GDPR)의 알고리즘 자동화 의사결정에 대한 통제로써 설명을 요구할 권리에 대한 쟁점 분석과 전망", 민주법학, (69), pp.277~298 (2019), 민주주의법학연구회[DOI]
- 김종철, "적법절차원리의 헌법화에 대한 소견 – 미국연방헌법상 적법절차원리의기능을 중심으로-", 인권법평론, (20) (2018), 전남대학교 법학연구소 공익인권법센터
- 김종호, "인공지능 시대의 윤리와 법적 과제", 과학기술법연구, 24(3), pp.155~205 (2018), 과학기술법연구원[DOI]
- 김창조, "정보주체의 개인정보자기결정권 보장과 개인정보의 활용", 법학논고, (75), pp.53~92 (2021), 법학연구원[DOI]
- 박노형, "EU GDPR상 프로파일링 규정의 법적 분석", 안암법학, (56), pp.283~315 (2018), 안암법학회[DOI]
- 박상돈, "헌법상 자동의사결정 알고리즘 설명요구권에 관한 개괄적 고찰", 헌법학연구, 23(3), pp.185~218 (2017), 한국헌법학회
- 박진완, "우리 헌법상의 일반적 인격권의 보장체계", 공법연구, 33(1), pp.299~328 (2004), 한국공법학회
- 박혜성, "인공지능 규제에 대한 연구 ― 유럽연합의 입법안을 중심으로 ―", 공법연구, 49(3), pp.349~374 (2021), 한국공법학회[DOI]
- 엄주희, "인공지능 의료와 법제", 한국의료법학회지, 28(2), pp.53~77 (2020), 한국의료법학회
- 이재희, "평등권의 대사인효와 그 구제적 적용방식 : 일반조항 해석과 관련하여", 저스티스, 통권 : 138 (2013)
- 인터넷 진흥원, "EU GDPR 2020EU 일반 개인정보보호법 가이드북", ~ (2020)
- 장시영, "개인정보 영향평가 제도의 국내·외 현황 비교 및 시사점", 정보통신방송정책, 30(14) (2018)
- 최영희, "개인정보영향평가의 문제점과 개선방안", 정보보호학회논문지, 26(4), pp.973~983 (2016), 한국정보보호학회[DOI]
- Guidelines on Automated individual decision-making and Profiling for the purposes of Regulation 2016, "679(WP251)", 2018, Article 29 Working Party (WP29)
- The impact of the General Data Protection Regulation (GDPR) on artificial intelligence, "European Parliament", ~ (2020)
- Michele Ciancimino, "AI-Based Decision-Making Process in Healthcare", EuCML, ~ (2022)
- Margot E. Kaminski, "The right to contest AI", Colum. L. Rev, 121(1957) (2021)
- Artificial Intelligence and Data Protection: A Comparative Analysis of AI Regulation through the Lens of Data Protection in the EU and Brazil, "Patricia Peck Pinheiro", ~
- BeckOK DatenschutzR, "43. Ed. 1.2.2023, DS-GVO Art. 22", ~
- Gola, "Datenschutz-Grundverordnung – Bundesdatenschutzgesetz", ~ (2022)
- Gola, "Die Entwicklung des Datenschutzrechts", NJW, ~ (2022)
- Paal, "DS-GVO Art. 22 Automatisierte Entscheidungen im Einzelfall einschließlich Profiling", DS-GVO BDSG, ~ (2021)
- The ECJ's First Landmark Case on Automated Decision-Making - a Report from the Oral Hearing before the First Chamber, "Newstex Blogs", ~ (2023)