지능정보기술의 위험 통제를 위한 법정책적 고찰 - 규제행정의 다각화 관점에서 -
A Study on the Legal Policy for Controlling the Risk of Intelligent Information Technology
0
조회
0
다운로드
9
인용
0
참고문헌
키워드
초록
인공지능(AI)을 비롯한 지능정보기술이 우리 사회의 주요 변인이자 동력으로 작용하면서 이른바 ‘지능정보사회’로의 패러다임 전환이 가속화되고 있다. 지능정보기술은 활용 분야와 개발 목적에 따라 다양한 양태를 보이며, 그에 부수하는 위험의 성격과 수준도 일정하지 않다. 막대한 양의 개인정보를 활용하는 머신러닝 기반의 AI 시스템에서는 정보주체의 프라이버시 침해 위협이 상존할 뿐만 아니라 데이터·알고리즘의 편향성 내지 불투명성은 새로운 권익 침해 가능성을 내포하는 등 위험의 내용과 구조가 단순하지 않다. 또한 지능정보기술을 활용한 자동화 시스템이 사람의 의사결정과 행위를 대체·보완하는 경우에는 기존의 행위-결과-책임, 사전예방원칙 등이 적용될 수 없는 제3의 위험 영역을 창출하기도 한다. 최근 몇 년 사이에 지능정보기술, 특히 AI의 위험을 둘러싼 학계 논의가 활발히 이루어져 왔으며 괄목할 연구 성과와 입법 사례가 이어지고 있다. 근래에 우리 국회에서는 지능정보화 관련 규제 및 지원, 거버넌스 정립 등을 주된 목표로 하는 여러 개정법률안이 발의되었고, 그 중 「지능정보화 기본법」이 통과되어 올해 6월부터 시행되고 있다. 동법에 따라 사회적 영향평가, 안전성 조치, 전담기구 설치 등 지능정보사회의 위험에 대응하는 법적 규율이 일부 도입되었으나, 실제 법집행을 위한 구체적인 시행령 및 실무지침은 정비되지 않은 상태이다. 더욱이 이 법에서는 AI 시스템의 편향성에서 파생되는 차별취급, 불공정행위, 기타 권리 침해 우려에 대하여 구체적인 규율을 담고 있지는 않다. 따라서 현행법만으로는 지능정보기술의 결과적 위험, 시스템 내부 위험 등에 충분히 대처할 수 없으며 별도의 후속 입법이 요구된다. 지능정보기술 분야 규제행정은 AI 윤리, 자율규제, 위험 수준별 통제 등 연성규범 기반의 탄력적 규율을 우선시하되 이를 효과적으로 관리·감독하는 실정법 체계에 기반을 두어야 할 것이다. 즉, 지능정보기술의 위험을 통제하는 동시에 사회적 수용성을 높이기 위해서는 규제행정 상대방의 자율규제를 폭넓게 허용하는 한편, 리스크 관리, 행위의 불법성 통제, 사후적 책임 귀속 등에 초점을 둔 규제법 질서를 수립해 나갈 필요가 있다. 이러한 중장기적 목표는 민관 협력의 거버넌스를 구현하는 조직 및 절차를 마련하고 사전 적합성 평가, 인증, 영향평가 등 관련 제도를 구체화해 나감으로써 점진적으로 실현할 수 있을 것이다.
Abstract
As intelligent information technology, including artificial intelligence (AI), acts as a variable throughout our society, the paradigm shift to the so-called "intelligent information society" is accelerating. Intelligent information technology shows various forms and aspects depending on the application field and purpose, and the nature and level of the risks that follow are not constant. AI technology, the most notable intelligence information technology today, is a combination of risk contents and structures such as infringement of rights of information subjects by making large amounts of personal information the main ingredient in machine learning-based systems. In particular, when an automation system using intelligent information technology replaces and supplements human decision-making and behavior, it also creates a third risk area where behavior-result-responsibility and precautionary principles cannot be applied. In recent years, there have been active discussions from all walks of life over the dangers of intelligent information technology, and legislative cases in each country have been increasing. Recently, the National Assembly proposed a number of revised laws aimed at regulating and supporting intelligence information and establishing governance, among which the Framework Act on Intelligent Information was passed and has been in effect since June 2021. Under the law, some legal regulations have been introduced to cope with the risks of intelligent information society, such as impact assessment, safety measures, and the establishment of dedicated organizations, but specific enforcement ordinances and practical guidelines for actual law enforcement have not been revised. The Framework Act on Intelligent Information does not include separate legal disciplines for discrimination, unfair practices, or other concerns about infringement of rights derived from bias in AI systems. Therefore, it is difficult to respond to all-weather conditions to the consequential risks of intelligent information technology and internal risks of the system alone, and individual and subsequent legislation are required. Basically, flexible norms and flexible regulatory systems such as AI ethics, self-regulation, and risk-level control will be the basis of a regulatory administration system that effectively controls the risks of intelligence and information society while increasing social acceptability. In order to control the risk of intelligent information technology, it is necessary to establish a new regulatory law order that focuses on risk management, control of illegality of acts, and attribution of post-responsibility. These mid- to long-term goals will be realized step by step, focusing on organizations and support policies that implement governance of public-private cooperation and by specifying related systems such as preconformity verification, certification and impact assessment.
참고문헌 (34)
- 권은정, "지능형 미디어 영역의 알 권리에 관한 공법적 고찰— 알고리즘 기반 추천 시스템에 대한 이용자 권익 보장의 관점에서 —", 법학논총, 38(1), pp.35~63 (2021), 법학연구소
- 권은정 외, "지능화 혁명 시대의 위험 통제 및 기술 수용을 위한 법체계 전환에 관한 연구" (2020), 정보통신정책연구원
- 김건우, "차별에서 공정성으로:인공지능의 차별 완화와 공정성 제고를 위한 제도적 방안", 법학연구, 61, pp.109~143 (2019), 부설법학연구소
- 김성용, "인공지능의 개인정보 자동화 처리가 야기하는 차별 문제에 관한 연구", 서울대학교 법학, 60(2), pp.311~362 (2019), 법학연구소[DOI]
- 니클라스 루만, "사회의 사회 1·2" (2014), 새물결
- 선지원, "인공지능 알고리즘 규율에 대한 소고- 독일의 경험을 중심으로 -", 경제규제와 법, 12(1), pp.26~43 (2019), 법학연구소[DOI]
- 손상영, "4차 산업혁명의 사회적 수용성 확보를 위한 국가전략 연구(I)" (2018), 정보통신정책연구원
- 손상영, "4차 산업혁명의 사회적 수용성 확보를 위한 국가전략 연구(II)" (2019), 정보통신정책연구원
- 양종모, "인공지능 알고리즘의 편향성, 불투명성이 법적 의사결정에 미치는 영향 및 규율 방안", 법조, 66(3), pp.60~105 (2017), 법조협회[DOI]
- 양천수, "빅데이터와 인권: 빅데이터와 인권의 실제적 조화를 위한 법정책적 방안" (2016), 영남대학교출판부
- 양천수, "민사소송법상 증명책임분배론에 대한 법이론적 고찰 - 레오 로젠베르크의 규범설을 중심으로 하여 -", 중앙법학, 10(3), pp.7~36 (2008), 중앙법학회[DOI]
- 윤명현, "과학기술의 위험인식과 사회적 수용성 간의 관계: 가치-신념-규범(VBN) 이론의 적용과 확장", 정책분석평가학회보, 30(4), pp.1~28 (2020), 한국정책분석평가학회[DOI]
- 윤혜선, "인공지능의 사회적 수용성과 법제도의 기능적 관계에 관한 소고", 경제규제와 법, 14(1), pp.32~56 (2021), 법학연구소[DOI]
- 이금노, "인공지능 알고리즘 기반 경제에서의 소비자문제 연구" (2018), 한국소비자원
- 이제희, "알고리즘의 취급에 대한 법적 논의", 공법학연구, 19(3), pp.307~331 (2018), 한국비교공법학회[DOI]
- 이주호, "혁신생태계 조성을 위한 규제개혁" (2018), 한국개발연구원
- 지능정보사회 이용자 보호 환경 조성 총괄보고서, "이호영", 정보통신정책연구원, ~ (2020)
- 조성은, "인공지능시대 법제 대응과 사회적 수용성" (2018), 정보통신정책연구원
- 크리스토퍼 스타이너, "알고리즘으로 세상을 지배하라" (2016), 에이콘
- 홍성욱, "정보보호 및 개인정보보호 관리체계(ISMS-P) 인증제도의 효과적인 운영방안", 한국산학기술학회논문지, 21(1), pp.634~640 (2020), 한국산학기술학회[DOI]
- Forms and Paradoxes of Principles Based Regulation, "Black, J", LSE Legal Studies, ~, pp.Working Paper, 13 (2008)
- Castillo, O, "Recent Advances in Intelligent Information Systems and Applied Mathematics" (2020), Springer
- Cheatham, B, "Confronting the risks of artificial intelligence", pp.1~9 (2019), McKinsey Quarterly
- De Streel A, "Towards Smarter Consumer Protection Rules for Digital Services" (2017)
- EU, "General Data Protection Regulation" (2018)
- Koene, A, "A governance framework for algorithmic accountability and transparency" (2019), European Parliamentary Research Service
- Larsson, S, "Algorithmic governance and the need for consumer empowerment in data-driven markets", Internet Policy Review, 7(2), pp.1~13 (2018)
- Oswald, M, "Algorithm-assisted decision-making in the public sector: framing the issues using administrative law rules governing discretionary power", Philosophical Transactions of the Royal Society A, 376(2128) (2018)
- Ras, Z, "Advances in Intelligent Information Systems" (2010)
- Rhoen, M, "Beyond consent: improving data protection through consumer protection law", Internet Policy Review,, 5(1), pp.1~15 (2016)
- cherer, M. U, "Regulating artificial intelligence systems: Risks, challenges, competencies, and strategies", Harvard Journal of Law & Technology, 29(2), pp.353~400 (2016)
- "An FDA for Algorithms" (2016)[URL]
- Voigt, P, "The EU General Data Protection Regulation (GDPR): A Practical Guide", pp.10~ (2017), Springer
- W. Quan, "Intelligent Information Processing", Computing in Science & Engineering, 20(2), pp.8~9 (2018), Springer