지능정보사회에서 알고리즘의 법･규제의 방향
The Direction of Algorithm Law and Regulation in the Intelligent Information Society
0
조회
0
다운로드
5
인용
0
참고문헌
키워드
초록
인공지능 기술의 발전에 따라, 인공지능의 핵심인 알고리즘의 역할은 확대되고 있으며 궁극적으로는 알고리즘 자체가 문제해결 수단이 아닌 문제해결 주체로서 역할을 하게 될 것이라는 가능성도 높아지고 있다. 지금까지 인공지능 기술 수준은 의사결정 지원 수준이었으나, 이제는 의사결정 시스템으로서 역할을 하게 될 것이며, 이로써 인간만이 부담했던 책임 주체의 확대로 이어지는 특이점(singularity)에 도달할 것이라는 주장도 설득력을 얻고 있다. 알고리즘과 관련된 책무성을 구현하기 위한 여러 윤리 원칙들을 제시하는 것도 이러한 우려를 최소화시키고자 하는 시도이다. 이러한 다양한 문제에 대응하기 위하여 알고리즘이 극복해야 할 한계는 분명히 존재한다. 이러한 문제를 해결하기 위해서는 먼저 알고리즘에 대한 명확하고 투명한 이해가 전제되어야 한다. 알고리즘이 갖는 많은 장점에도 불구하고, 예측 불가능성, 패턴 인식의 오류, 기계 학습 작동 과정의 설명 불가능, 납득 가능한 변별기준에 대한 파악이 불가능하다면 그 활용에 많은 제약이 가해질 수밖에 없다. 따라서 알고리즘에 대한 투명성을 높이고 여러 기준을 확립하여 법･규범적 대응을 할 수 있도록 조치할 지침이 필요하다고 본다. 투명성을 확보하는 정책을 통해 결국은 보다 나은 인공지능 기술에 대한 이해와 그 이해에 기초한 규제를 찾아낼 수 있을 것으로 생각한다. 사람보다는 적겠지만 인공지능도 실수를 하기 때문에 왜 그러한 실수가 일어나는지 공개적으로 알아야만 그에 합당한 규제도 나올 수 있다고 본다. 결국 인공지능이 제시하는 결과물에 대한 의미있는 추론이나 계획 등을 설명하기 위해서 알고리즘의 최적화가 필요하고 이러한 알고리즘 규제는 투명성 확보를 통해 가능하다고 본다. 더하여, 인공지능을 효과적으로 관리하고 규제하기 위하여 알고리즘 제작단계에서부터 문제가 발생했을 때 대응 조치 및 폐기에 이르기까지 전 과정을 통해 투명성이 확보되어야 한다. 투명성을 기초로 하는 인공지능 규제를 법･규범화하고 이를 적용하기 위해서는 결국 어느 정도의 공개나 설명 또는 공정, 견고성이 있는 것을 투명성을 갖춘 것으로 판단할 수 있는지에 관한 문제이기도 하다.
Abstract
With the development of artificial intelligence technology, the role of algorithms, which is the core of artificial intelligence, is expanding, and the possibility that the algorithm itself will eventually play a role as a problem- solving agent rather than a problem-solving means is increasing. Until now, the level of AI technology was at the level of support for decision-making, but now it will play a role as a decision-making system, resulting in a responsibility that only humans have borne. It is also an attempt to minimize these concerns by proposing several ethical principles for implementing accountability related to algorithms. There are clearly limitations that algorithms have to overcome in order to cope with these various problems. In order to solve these problems, a clear and transparent understanding of the algorithm must first be premised. Despite the many advantages of the algorithm, if it is impossible to predict unpredictability, error in pattern recognition, inability to explain the operation process of machine learning, and it is impossible to grasp a convincing discrimination criterion, many restrictions are inevitably applied to its use. Therefore, I believe that there is a need for guidelines to increase the transparency of the algorithm and to take measures to take legal and normative responses by establishing various standards. Through policies that ensure transparency, I believe that better understanding of AI technology and regulations based on that understanding will eventually be found. Although fewer than humans, artificial intelligence also makes mistakes, so I believe that appropriate regulations can be developed only by publicly knowing why such mistakes occur. In the end, it is necessary to optimize the algorithm to explain meaningful inferences or plans for the results presented by artificial intelligence, and I believe that such algorithm regulation is possible through transparency. In addition, in order to effectively manage and regulate artificial intelligence, transparency must be ensured throughout the entire process, from the algorithm production stage to countermeasures and disposal when a problem occurs. In order to legalize and standardize artificial intelligence regulations based on transparency and apply them, it is also a question of how much disclosure, explanation, or fairness and robustness can be judged as having transparency.
참고문헌 (35)
- 권건보, "지능정보시대에 대응한 개인정보자기결정권의 실효적 보장방안", 미국헌법연구, 30(2), pp.1~38 (2019), 미국헌법학회
- 김광억, "인간의 존재에 대한 새로운 지평 : 전환적 성찰과 융합적 전망", 지식의 지평, 29 (2020)
- 김기영, "인공지능 활용 법률정보서비스의 발전과 관련 쟁점", 문화미디어엔터테인먼트법, 11(1), pp.93~114 (2017), 법학연구원 문화.미디어.엔터테인먼트법연구소[DOI]
- 김길수, "인공지능 거버넌스에 관한 탐색적 연구", 한국자치행정학보, 33(2), pp.219~236 (2019), 한국자치행정학회[DOI]
- 김일환, "지능정보사회에서 헌법의 역할과 기능", 성균관법학, 32(3), pp.37~92 (2020), 법학연구원[DOI]
- 백수원, "글로벌 IT기업의 투명성 활동에 관한 헌법적 검토", 법학논총, 23(1), pp.143~167 (2016), 법학연구원[DOI]
- 김일환, "헌법상 투명성원칙에 관한 試論的 考察", 공법연구, 39(2), pp.369~394 (2010), 한국공법학회
- 김병록, "인공지능의 헌법적 쟁점과 과제", 법학논총, 27(2), pp.87~135 (2020), 법학연구원
- 김재완, "EU 일반정보보호규정(GDPR)의 알고리즘 자동화 의사결정에 대한 통제로써 설명을 요구할 권리에 대한 쟁점 분석과 전망", 민주법학, (69), pp.277~298 (2019), 민주주의법학연구회[DOI]
- 박상돈, "헌법상 자동의사결정 알고리즘 설명요구권에 관한 개괄적 고찰", 헌법학연구, 23(3), pp.185~218 (2017), 한국헌법학회
- 박이란, "알고리즘 편집과 인터넷뉴스서비스사업자의 법적 책임", on Media, ~ (2016)
- 백수원, "헌법상 투명성원칙에 기반한 인공지능 규제의 방향", 성균관법학, 33(2), pp.589~622 (2021), 법학연구원[DOI]
- 류지웅, "인공지능(AI)로봇의 법적 문제에 관한 연구 - EU의 RoboLaw의 입법동향을 중심으로 -", 토지공법연구, 78, pp.301~326 (2017), 한국토지공법학회
- 김희정, "알고리즘 자동의사결정으로부터 개인의 보호 – 인간의 개입권(the right to human intervention)을 중심으로 –", 헌법학연구, 26(1), pp.207~237 (2020), 한국헌법학회
- 민희, "지능정보기술과 민주주의: 알고리즘 정보환경과 정치의 문제", 정보화정책, 26(2), pp.81~95 (2019), 한국지능정보사회진흥원[DOI]
- 박창규, "공정거래법상 알고리즘 담합 책임의 귀속과 준법사항(compliance)에 관한 연구", 고려법학, (96), pp.257~293 (2020), 법학연구원
- 심우민, "인공지능의 발전과 알고리즘의 규제적 속성", 법과사회, (53), pp.41~70 (2016), 법과사회이론학회
- 윤승영, "고빈도 거래와 관련한 미국의 최근 규제동향 및 시사점", 증권법연구, 18(1), pp.153~180 (2017), 한국증권법학회[DOI]
- 이민영, "딥페이크와 여론형성 ― 알고리즘의 권력화와 탈진실의 규제담론 ―", 미국헌법연구, 31(1), pp.199~241 (2020), 미국헌법학회
- 이부하, "알고리즘(Algorithm)에 대한 법적 문제와 법적 규율", 과학기술과 법, 9(2), pp.211~230 (2018), 법학연구소[DOI]
- 이원태, "‘카카오 알고리즘 윤리 헌장’의 의미-개발자 자율규제 의지 천명...‘이용자 윤리’ 보완 필요", 신문과 방송 (2018)
- 한승훈, "「경찰관 직무집행법」상 손실보상심의절차의 알고리즘과 프로토콜 개발", 국가법연구, 14(3), pp.123~166 (2018), 사단법인 한국국가법학회
- 함인선, "AI시대에서의 개인정보자기결정권의 재검토 ― EU 개인정보보호법을 소재로 하여 ―", 인권법평론, (26), pp.123~151 (2021), 공익인권법센터
- 오요한, "인공지능 알고리즘은 사람을 차별하는가?", 과학기술학연구, 18(3), pp.153~215 (2018), 한국과학기술학회[DOI]
- A. P. Heldt, "Transparenz bei algorithmischen Entscheidungen – Food for Thoughts" (2018), Computer und Recht
- D. Riehle, "Open Collaboration within Corporations Using Software Forges", IEEE Software, 26(2) (2009)
- F. Becker, "Kooperative und konsensuale Strukturen in der Normsetzung" (2005), TUbingen
- J. Burrell, "How the machine ‘thinks’: Understanding opacity in machine learning algorithms" (2016), Big Data & Society
- R. Roovers, "A Call for Transparency and Responsibility in Artificial Intelligence" (2019), Deloitee
- R. Taylor, "Transparency and the open society" (2016), Policy Press
- T. Wischmeyer, "Regulating Artificial Intelligence" (2020), Springer
- 지속가능한 국토발전을 위한 토지이용변화 모니터링 방안 연구: 딥러닝 알고리즘 활용을 중심으로, "서기환", 국토연구원, ~ (2018)
- 알고리즘 담합과 경쟁정책, "신위뢰", 산업연구원, ~ (2018)
- 머신러닝 알고리즘 개발시 발생가능한 문제점과 공공부문의 역할, "한국정보화진흥원", IT & Future Strategy, ~ (2017)
- K.J. Vanhoozer, "인간존재, 가능성 그리고 시간", 철학과 문학, 12 (2006)