알고리즘 규제를 위한 지도 - 원리, 구조, 내용 -
Map for the Regulation of Algorithms - Principle, Structure, and Content -
0
조회
0
다운로드
17
인용
0
참고문헌
키워드
초록
인공지능 기술의 급속한 발전에 따른 편익은 이미 여러 곳에서 체감할 수 있지만, 그 역기능에 대한 우려도 적지 않다. 알고리즘 규제에 관한 다양한 논의는 규제의 원리와 구조, 그리고 내용에 관한 측면으로 나누어 살펴볼 수 있다. 규제의 원리와 관련해서는 자유 제한의 정당성 근거와 알고리즘 규제의 원리적 특성이 문제된다. 자유의 제한이 어떻게 정당화되는지를 바라보는 시각은 자유주의적 관점, 공리주의적 관점, 공동체주의적 관점에 따라 달라진다. 그러나 무엇보다도 자유와 정의의 우선성이 인정될 필요가 있을 것이다. 알고리즘 규제의 원리적 특성의 문제는 다시 둘로 나뉜다. 먼저 알고리즘이 규제자에 의하여 이용되거나 알고리즘 자체가 규제자의 역할을 하는 경우의 문제, 즉 알고리즘에 의한 규제의 문제가 있다. 전자는 법치주의와 민주주의를 실질적으로 관철해 가는 것이 핵심인 반면 후자는 사실상 알고리즘에 대한 규제의 문제이다. 다음으로 알고리즘 자체가 피규제자가 될 수 있는지의 문제, 즉 알고리즘에 대한 규제의 문제가 있다. 그러나 현 단계의 인공지능은 규제 당사자가 될 주체성을 지닌다고 볼 수 없다. 결국 알고리즘 규제가 일반적 규제와 다른 원리적 차이점을 지닌 것은 아니다. 규제의 구조적 측면에서는 다양한 규제의 구조와 유형 가운데 어떤 것이 알고리즘 규제에 적합한지가 문제된다. 신산업의 경우 예측의 곤란성과 변화의 속도라는 특성으로 인해 그에 대한 규제 내용을 미리 정하기 어려우므로, 신산업의 규제에 있어서는 잠정적 규제, 절차적 규제, 자율규제, 원칙 중심 규제와 같은 ‘유연한 규제’가 요구된다. 알고리즘, 특히 인공지능 기술 역시 신산업으로서의 특징을 공유하므로 그에 대한 바람직한 규제 구조는 유연한 규제라고 할 수 있다. 이처럼 알고리즘 규제의 내용을 미리 정하기는 어렵지만, 최근의 인공지능 윤리 논의로부터 규제의 내용적 측면과 관련하여 두 가지 시사점을 얻을 수 있다. 우선 알고리즘의 활용 과정에서 발생하는 위험을 평가하여 그에 대한 규제 내용을 결정하기 위한 기준을 정식화할 수 있다. 즉 규제의 정당성 근거와 관련지어 위험의 속성을 분류하고, 그 속성이 이익형량을 허용하는 경우 위험과의 비례성을 고려하여 규제 여부 및 규제 수단을 결정하는 것이다. 본고는 위험을 다음과 같이 6가지로 유형화하였다. i) 타인의 기본적 자유를 침해하는 경우, ii) 기회의 균등을 침해하는 경우, iii) 문제되는 행위로 인해 경쟁이 침해되는 경우, iv) 위 세 가지 경우 외에 다른 사람의 권리나 이익을 침해하는 경우, v) 재분배를 이유로 하는 자유의 제한, vi) 문제되는 행위로 인해 공동체의 가치가 침해되는 경우 등이 그것이다. i) ii) 유형은 자유주의적 관점에 의하여, iii) iv) v) 유형은 공리주의적 관점에 의하여, vi) 유형은 공동체주의적 관점에 의하여 주로 설명될 수 있다. 다만 자유주의적 관점에서 규제의 정당성 근거는 규제의 최대 한계로서의 의미만을 지닌다. 알고리즘 규제의 내용적 측면과 관련된 두 번째 시사점은 판단과 결정을 자동화하면서도 그 근거를 알기 어려운 알고리즘의 특성에서 비롯된다. 즉 누군가가 결정에 따른 결과에 책임을 져야 하며, 결정의 과정은 투명하고 근거는 설명 가능해야 하는 것이다. 책임성, 그리고 투명성 및 설명가능성은 그 자체로는 자유 제한의 정당화 사유가 될 수 없고 다른 정당화 사유와 관련하여 수단으로서 의미를 가질 뿐이다. 이러한 수단성으로 인해 책임성과 투명성을 확보하기 위한 규제는 자율규제나 사후규제 또는 네거티브 규제와 같은 ‘약한 규제’로 이루어지는 것이 바람직하다.
Abstract
Benefits from the rapid advancement of artificial intelligence technology are perceptible in many areas, but concerns are also mounting over the adverse effects of new technology. Various discussions on the regulation of algorithms may be broken down to the principle, structure, and content of the regulation. First, in terms of principle, the legitimacy of restriction of freedom and characteristics of the regulation of algorithm becomes an issue. The perspective of how restriction of freedom is justified varies from standpoint to standpoint, including liberal, utilitarian, and communitarian perspectives. But the priority of liberty and justice needs to be recognized. The issue of characteristics of the regulation of algorithm can be divided into two categories. First issue arise when algorithm is used by a regulator and algorithm itself performs the role of a regulator(regulation by algorithsm). In case of the former, the key is rule of law and democracy. In case of the latter, the key is how the algorithm is regulated. The next question is whether algorithm itself can be ‘the regulated’, which is essentially an issue of enforcing regulation on algorithms. It cannot be deemed at this point of time, however, that artificial intelligence is an independent entity for regulation. Therefore, the regulation of algorithms does not cause difference in terms of principle as opposed to general regulations. Next, in terms of the structure of regulation, the question comes down to which regulation out of various structures and types of regulation is suitable for the regulation of algorithms. In the case of new industry, it is difficult to confirm the content of regulation in advance because of a high level of unpredictability and a high and extensive rate and scope of changes. Accordingly, a “flexible regulation” is needed for the regulation of new industry, such as provisional regulation, procedural regulation, self-regulation, and principle-based regulation. Algorithms, particularly the technology of artificial intelligence, share the features of new industry. As such, a desirable structure of regulation for algorithms is a flexible regulation. Although it is difficult to predefine the content of algorithm regulation, two implications can be obtained from the recent discussion of artificial intelligence ethics in relation to the aspect of content in regulation. First, the risk involving the utilization of algorithm may be evaluated, and standards to determine the regulatory content thereof can be formalized. That is, to classify the attributes of risk in relation to the grounds for justifiability of regulation; and thereby to decide whether to regulate and means of regulation in consideration of proportionality associated with risk when the attribute permits balancing conflicting interests (interests-balancing). This paper classified the risk into six categories. First type is a case involving the infringement of basic liberty of others. Second, to infringe the fair equality of opportunity. Third type is a case where an act in question infringes competition. Fourth type is to infringe the rights and interests of other persons which is not included in the first three types mentioned above. Fifth type is the restriction of freedom on the ground of redistribution. Last, sixth type is infringement of the community values due to an act at issue. In sum, the first and second types are explained by a liberal standpoint, from the third to the fifth by a utilitarian perspective, and the sixth by a communitarian perspective. From a liberal point of view, the ground for the justifiability of regulation only implies the maximal limit of regulation. Second implication with regard to the content of algorithmic regulation stems from the features of algorithm that make it difficult to identify the ground for automatic judgment and decision. In other words, someone should bear the responsibility for the consequence of a decision. The process under which a decision is made should be transparent and the ground for the decision should be explicable. Accountability as well as transparency and explainability in themselves cannot be the reason for the justification of limiting freedom, having only the implication as a means of other reasons for justification. Due to this nature, it would be desirable for a regulation aimed at obtaining accountability and transparency to be a “weak regulation,” such as self-regulation, ex post regulation, or negative regulation.
참고문헌 (54)
- 김범준, "로보-어드바이저 알고리즘의 규제 개선을 통한 금융소비자 보호", 법학연구, 18(3), pp.202~238 (2018), 한국법학회
- 김진우, "인공지능에 대한 전자인 제도 도입의 필요성과 실현방안에 관한 고찰", 저스티스, 171, pp.5~48 (2019), 한국법학원[DOI]
- 김태오, "제4차 산업혁명의 견인을 위한 규제패러다임 모색 : 한국의 규제패러다임을 중심으로", 경제규제와 법, 10(2), pp.140~168 (2017), 법학연구소
- 박상돈, "헌법상 자동의사결정 알고리즘 설명요구권에 관한 개괄적 고찰", 헌법학연구, 23(3), pp.185~218 (2017), 한국헌법학회
- 선지원, "인공지능 알고리즘 규율에 대한 소고- 독일의 경험을 중심으로 -", 경제규제와 법, 12(1), pp.26~43 (2019), 법학연구소[DOI]
- 심우민, "인공지능의 발전과 알고리즘의 규제적 속성", 법과사회, (53), pp.41~70 (2016), 법과사회이론학회
- 양천수, "인공지능과 윤리 -법철학의 관점에서-", 법학논총, 27(1), pp.73~114 (2020), 법학연구원
- 오병선, "밀의 자유론과 해악의 원리", 수행인문학, 36 (2006), 한양대학교 수행인문학연구소
- 오병철, "인공지능 로봇에 의한 손해의 불법행위책임", 법학연구, 27(4), pp.157~231 (2017), 법학연구원[DOI]
- 윤혜선, "리스크규제에 관한 공법적 연구 : 식품안전법제를 중심으로", 박사, 법학, pp.2009
- 윤혜선, "인공지능 규제 정책에 관한 연구: 주요국의 규제 정책 사례를 중심으로", 정보통신정책연구, 26(4), pp.135~176 (2019), 정보통신정책학회
- 이상용, "인공지능과 계약법 - 인공 에이전트에 의한 계약과 사적자치의 원칙 -", 비교사법, 23(4), pp.1639~1700 (2016), 한국사법학회[DOI]
- 이상용, "인공지능과 법인격", 민사법학, 89, pp.3~49 (2019), 한국민사법학회[DOI]
- 이선희, "알고리즘을 이용한 담합의 규제", 경쟁법연구, 40, pp.235~259 (2019), 한국경쟁법학회[DOI]
- 이원우, "규제개혁과 규제완화: 올바른 규제정책 실현을 위한 법정책의 모색", 저스티스, (106), pp.355~389 (2008), 한국법학원
- 이원우, "혁신과 규제 : 상호 갈등관계의법적 구조와 갈등해소를 위한 법리와 법적 수단", 경제규제와 법, 9(2), pp.7~29 (2016), 법학연구소
- 이원태, "알고리즘 규제의 두가지 차원과 정책적 함의", 사회과학연구, 32(2), pp.183~216 (2020), 사회과학연구소
- 정순섭, "원칙중심규제의 논리와 한계", 상사판례연구, 22(1), pp.37~72 (2009), 한국상사판례학회
- 한애라, "“사법시스템과 사법환경에서의 인공지능 이용에 관한 유럽 윤리헌장”의 검토 - 민사사법절차에서의 인공지능 도입 논의와 관련하여 -", 저스티스, 172, pp.38~79 (2019), 한국법학원[DOI]
- 홍대식, "온라인 플랫폼 기업과 데이터 접근 이슈-경쟁법적 관점-", 제6차 규제혁신법제포럼발표자료 (2020), 한국법제연구원
- 4차산업혁명시대 산업별 인공지능 윤리의 이슈 분석 및 정책적 대응방안 연구, "4차산업혁명위원회", ~ (2018)
- 정보문화포럼, "지능정보사회 윤리 가이드라인 및 지능정보사회 윤리헌장", ~ (2017)
- 한국과학기술기획평가원, "2019년 기술영향평가보고서 : 소셜로봇 기술" (2019), 동진문화사
- Cooter, Robert, "법경제학(Law and Economics)" (2009), 경문사
- Friedman, Milton, "자본주의와 자유" (2007), 청어람미디어
- Hayek, Friedrich, "노예의 길" (2018), 자유기업원
- Mill, John Stuart, "자유론" (2005), 책세상
- Mulhall, Stephen, "자유주의와 공동체주의" (2007), 한울
- Nozick, Robert, "아나키에서 유토피아로" (1997), 문학과 지성사
- 존 롤즈, "정의론" (2003), 이학사
- Russell, Stuart, "인공지능 : 현대적 접근방식" (2016), 제이펍
- Datta, Amit, "Automated experiments on ad privacy settings: A tale of opacity, choice, and discrimination", Proceedings on privacy enhancing technologies, 2015(1) (2015)
- Diakopoulos, Nicholas, "Accountability in algorithmic decision making", Communications of ACM, 59(2) (2016)
- Goodman, B., "European Union regulations on algorithmic decision-making and a ‘right to explanation’", AI magazine, 38(3) (2017)
- Greenawalt, Kent, "A Companion to Philosophy of Law and Legal Theory" (1996), Blackwell
- Gunning, David, "DARPA’s explainable artificial intelligence program", AI Magazine, 40(2) (2019), Association for the Advancement of Artificial Intelligence
- Larson, Jeff, "How We Analyzed the COMPAS Recidivism Algorithm" (2016), ProPublica
- Mayson, S. G., "Bias in, bias out", Yale Law Journal, 128 (2018)
- Ogus, Anthony, "Regulation, economics and the law" (2001), Edward Elgar Publishing
- O’Reilly, Tim, "Beyond transparency: Open data and the future of civic innovation" (2013), Code for America Press
- Ranchordás, Sofia, "Innovation Experimentalism in the age of the Sharing Economy", Lewis & Clark L. Rev, 19, pp.871~ (2015)
- Russell, Stuart, "Take a stand on AI weapons", Nature, 521, pp.7553~ (2015)
- Schuller, Allen, "At the crossroads of control : The intersection of artificial intelligence in autonomous weapon systems with international humanitarian law", Harvard National Security Journal, 8 (2017)
- 김태호, "빅데이터와 알고리즘: 독일 관점에서의 예비적 고찰", 경제규제와 법, 8(1), pp.88~108 (2015), 법학연구소
- Yeung, Karen, "Algorithmic regulation : a critical interrogation", Regulation & Governance, 12(4) (2018)
- Wexler, James, "Facets: An Open Source Visualization Tool for Machine Learning Training Data", Google AI blog, ~ (2017)
- Report with recommendations to the Commission on Civil Law Rules on Robotics, "European Parliament 2014-2019", ~ (2017)
- European Parliament, "REPORT on a comprehensive European industrial policy on artificial intelligence and robotics", ~ (2018)
- Report on the safety and liability implications of Artificial Intelligence, the Internet of Things and robotics, "European Commission", ~ (2020)
- Future of Life Institute, "ASILOMAR AI PRINCIPLES", ~ (2017)
- High-Level Expert Group on AI, "Ethics Guidelines for Trustworthy AI", ~ (2019)
- OECD Council, "Recommendation of the Council on Artificial Intelligence", ~ (2019)
- OECD, "ALGORITHMS AND COLLUSION:Competition policy in the digital age", ~ (2017)
- THE NATIONAL ARTIFICIAL INTELLIGENCE RESEARCH AND DEVELOPMENT STRATEGIC PLAN, "US Select Committee on Artificial Intelligence of the National Science & Technology", ~ (2019)