인공지능과 민주주의에 관한 소고
Artificial Intelligence and Democracy
0
조회
0
다운로드
5
인용
0
참고문헌
키워드
초록
스마트폰 하나면 모든 것이 해결되는 포노 사피엔스(Phono Sapiens)의 시대, 인공지능(AI)은 우리의삶에 밀접하게 스며들고 있다. 이제 인공지능의 문제는 ‘만약(if)’의 문제가 아닌 ‘얼마나 신속하게(how fast)’, 그리고 ‘어느 범위까지(to what extent)’ 허용할 것인가를 다루어야 하는 현실적인 문제이며, 국가공동체의 일상, 나아가 인류의 미래를 좌우할 수 있는 중요한 문제로 발전하고 있다. 인공지능이 인류의 삶의 다양한 영역으로 진출하면서 또 하나 주목할 만한 영역은 정치이다. 정치가디지털화되면서 다수의 국민으로 정치 주체가 변화하였고, 다양한 정치 의제가 제기되었으며, 정치 참여의 방식이 변화되었다. 이러한 디지털 정치는 이제 인공지능을 정치에 활용하는 것으로 발전하고 있다. 인공지능의 발전은 민주주의와의 관계에서도 다양한 기회와 위험을 내포하고 있다. 개인의 자유와 자기결정의 사고를 국가공동체 내에서 실현하고자 하는 헌법원리인 민주주의는 본질적으로 대의민주주의를 통해 실현된다. 그러나 현실에서 대의민주주의는 민주적 대표성과 책임성의 왜곡이발생하면서 위기에 직면하였고, 지속된 코로나19 상황은 이를 가속화시켰다. 이러한 대의민주주의의 한계를 극복하기 위해 인공지능이 활용되고 있지만, 그 영향은 양날의 칼과 같다. 보편적인 정보접근성이강화, 대의민주주의 한계의 완화, 인공지능 거버넌스 구축, 인간의 자유 영역 확대, 정치의 공정성 증대등의 긍정적 효과가 기대되기도 하지만, 새로운 감시 사회의 출현, 정치적 의사형성의 왜곡과 불충분성초래, 소수 디지털 기업에의 권력 집중 등의 부작용도 간과(看過)할 수만은 없다. 그러므로 인공지능이민주주의와 공존(共存)하기 위해서는 민주주의 관점에서 유익한 목적의 인공지능의 개발은 장려하면서도 부정한 목적의 개발과 이용, 그리고 부작용을 최소화하는 것을 목표로 하는 규범적 대응이 필요하다. 그리고 이러한 규범적 대응의 기본원칙은 ‘인간 중심의 인공지능’이 되어야 한다. 인공지능의 설계, 개발 및 활용의 전 단계에서 인간의 존엄성을 존중하여야 하며, 인공지능은 인간의 자율성을 보완하는 수단으로서만 활용되어야 한다. 이제 민주주의 실현을 위해 인공지능으로 무엇을 할 수 있는지보다 인공지능으로 무엇을 해야 하는지를 적극적으로 고민해야 할 시점이다.
Abstract
In the era of Phono Sapiens, where everything is solved with a smartphone, artificial intelligence (AI) is closely permeating our lives. Now, the problem of artificial intelligence is not a problem of “if,” but a realistic problem that has to deal with “how fast” and “to what extent” to allow, and is developing into an important problem that can determine the daily life of the national community and even the future of mankind. As artificial intelligence advances into various areas of human life, another notable area is politics. As politics became digital, the political subject changed to a large number of citizens, various political agendas were raised, and the way of political participation changed. The development of artificial intelligence also poses various opportunities and risks in relation to democracy. Democracy, a constitutional principle that seeks to realize the thoughts of individual freedom and self-determination within the national community, is essentially realized through representative democracy. However, in reality, representative democracy faced a crisis due to the distortion of democratic representation and accountability, and the continued COVID-19 situation accelerated this. Artificial intelligence is being used to overcome the limitations of representative democracy, but its influence is like a double-edged sword. Although positive effects such as strengthening universal information access, easing representative democratic limits, building artificial intelligence governance, expanding the realm of human freedom, and increasing political fairness are expected, there are side effects such as the emergence of a new surveillance society, distortion and insufficiency of political opinion. Therefore, in order for artificial intelligence to coexist with democracy, a normative response aimed at minimizing side effects from a democracy perspective is necessary. The basic principle of this normative response should be ‘Human-Centered Artificial Intelligence’. Human dignity should be respected in all stages of artificial intelligence design, development, and utilization, and artificial intelligence should only be used as a means of supplementing human autonomy. It is time to actively think about what to do with artificial intelligence rather than what can be done with artificial intelligence to realize democracy.
참고문헌 (65)
- 윤리적 인공지능을 위한 국가정책 수립, "문정욱", 정보통신정책연구원, ~ (2020)
- 성낙인, "헌법학" (2021), 법문사
- 인공지능 기술을 이용한 국가의 사회감시 체계현황과 주요 쟁점, "송태은", 국립외교원 외교안보연구소, ~ (2020)
- 4차산업혁명시대 산업별 인공지능 윤리의 이슈 분석 및 정책적대응방안 연구, "이원태", 정보통신정책연구원, ~ (2018)
- 전광석, "한국헌법론" (2021), 집현재
- 한수웅, "헌법학" (2020), 법문사
- Dermot Turing, "계산기는 어떻게 인공지능이 되었을까?: 주판에서 알파고까지 거의 모든 컴퓨팅의 역사" (2019), 한빛미디어
- Klaus Schwab, "클라우스 슈밥의 제4차 산업혁명" (2016), 새로운 현재
- Yutaka Matsu, "인공지능과 딥러닝: 인공지능이 불러올 산업구조의 변화와 혁신" (2015), 동아엠앤비
- Ad Hoc Committee on Artificial Intelligence, "Feasibility Study", Council of Europe, ~ (2020)
- Preliminary Study on the Impact of Digital Transformation on Democracy and Governance, "European Committee on Democracy and Governance", Council of Europe, ~ (2020)
- Ian Goodfellow, "Deep Learning" (2016), MIT Press
- Joint Research Centre, "AI Watch Defining Artificial Intelligence", European Commission, ~ (2020)
- Stuart Russell, "Artificial Intelligence: A Modern Approach" (2010)
- 고학수, "인공지능과 차별", 저스티스, 171, pp.199~277 (2019), 한국법학원[DOI]
- 국경완, "인공지능 편향성 이슈와 신뢰성 확보 방안", 주간기술동향, (2020) (2021)
- 김길수, "인공지능 거버넌스에 관한 탐색적 연구", 한국자치행정학보, 33(2), pp.219~236 (2019), 한국자치행정학회[DOI]
- 김선혁, "정보통신기술혁명과 민주주의의미래", 국제.지역연구, 25(3), pp.95~124 (2016), 국제학연구소
- 김용신, "지능정보사회의 인공지능과 인권", 국제지역연구, 25(1), pp.3~26 (2021), 국제지역연구센터
- 김유향, "디지털 민주주의는 어디까지 왔는가?", KISO저널, (39) (2020)
- 김윤명, "지능정보사회에 대한 규범적 논의와 법정책적 대응", 정보화정책, 23(4), pp.24~37 (2016), 한국지능정보사회진흥원[DOI]
- 김일환, "지능정보사회에서 헌법의 역할과 기능", 성균관법학, 32(3), pp.37~92 (2020), 법학연구원[DOI]
- 김주성, "심의민주주의인가, 참여민주주의인가?", 한국정치학회보, 42(4), pp.5~32 (2008), 한국정치학회
- 민희, "지능정보기술과 민주주의: 알고리즘 정보환경과 정치의 문제", 정보화정책, 26(2), pp.81~95 (2019), 한국지능정보사회진흥원[DOI]
- 박선희, "한국 정치의 디지털화(digitization)와 디지털 정치의 역설", 한국언론학회 심포지움 및 세미나 (2011)
- 박종보, "인공지능기술의 발전과 법적 대응방향", 법학논총, 34(2), pp.37~62 (2017), 법학연구소[DOI]
- 변순용, "데이터 윤리에서 인공지능 편향성 문제에 대한 연구", 윤리연구, 1(128), pp.143~158 (2020), 한국윤리학회[DOI]
- 선지원, "유럽 HLEG 인공지능 윤리 가이드라인과 지능정보 사회 이용자보호 정책의 비교", The Digital Ethics(디지털 윤리), 3(1), pp.59~71 (2019), 한국인터넷윤리학회
- 손현주, "인공지능 거버넌스와 민주주의의 미래", 사회사상과 문화, 22(2), pp.305~349 (2019), 동양사회사상학회[DOI]
- 손현주, "인공지능과 인간 자유의 미래", 한중인문학포럼 발표논문집 (2019)
- 송경재, "민주주의 기술: 전자민주주의의 진화를 위하여", SW 중심사회, (70) (2020)
- 송성수, "산업혁명의 역사적 전개와 4차 산업혁명론의 위상", 과학기술학연구, 17(2), pp.6~40 (2017), 한국과학기술학회[DOI]
- 신영진, "우리나라의 인공지능(AI)서비스를 위한 개인정보보호 개선방안", 융합정보논문지, 11(3), pp.20~33 (2021), 중소기업융합학회[DOI]
- 심우민, "인공지능 시대의 자유와 민주주의, 그리고 입법", 인공지능과 법 (2019), 한국인공지능법학회
- 양종모, "인공지능 알고리즘의 편향성, 불투명성이 법적 의사결정에 미치는 영향 및 규율 방안", 법조, 66(3), pp.60~105 (2017), 법조협회[DOI]
- 엄석진, "인공지능 시대의 민주주의와 행정 : 「국민신문고」 민원시스템 고도화 사례를 중심으로", 한국행정연구, 30(2), pp.35~64 (2021), 한국행정연구원[DOI]
- 윤수정, "인공지능사회에서의 기본권", 공법연구, 49(2), pp.169~206 (2020), 한국공법학회
- 윤혜선, "인공지능의 사회적 수용성과 법제도의 기능적 관계에 관한 소고", 경제규제와 법, 14(1), pp.32~56 (2021), 법학연구소[DOI]
- 이희옥, "인공지능 의사결정에 대응한 자기결정권의 보장", 헌법학연구, 27(1), pp.33~74 (2021), 한국헌법학회
- 장병탁, "호모 컨버전스-제4차 산업혁명과 미래사회" (2016)
- 정동준, "민주주의 위기의 원인과 대안에 대한 이론적 고찰: 국민투표 사법심사권 그리고 정당해산제도를 중심으로", 현대정치연구, 13(1), pp.79~115 (2020), 현대정치연구소[DOI]
- 정병기, "포퓰리즘의 개념과 유형 및 역사적 변화: 고전 포퓰리즘에서 포스트포퓰리즘까지", 한국정치학회보, 54(1), pp.91~110 (2020), 한국정치학회[DOI]
- 정일영, "코로나19 펜데믹 시대의 양극화 전망", FUTURE HORIZON+, 50 (2021)
- 조소영, "인공지능과 민주주의", 공법연구, 49(2), pp.147~167 (2020), 한국공법학회
- 인간 중심 인공지능 연구 동향, "함동한", ~, pp.KOSEN Report 2019 (2019)
- 허태욱, "4차산업혁명시대 블록체인 거버넌스 시스템으로의 전환과 시민사회의 역할에 관한 서설적 연구", NGO연구, 12(2), pp.95~126 (2017), 한국NGO학회
- 홍석한, "민주주의에 대한 인공지능의 위험과 규범적 대응 방안", 2021 헌법학자대회: 뉴노멀 시대와 헌법의 미래 (2021)
- 황종성, "인공지능시대의 정부: 인공지능이 어떻게 정부를 변화시킬 것인가", IT & Future Strategy, (3) (2017)
- 황지은, "인공지능 관점에서 GDPR 제22조의 인간 개입에 대한 분석", 경제규제와 법, 13(1), pp.37~58 (2020), 법학연구소[DOI]
- Alison Beard, "Time to Rein In Big Tech?", Harvard Business Review (2021)
- Alan. M. Turing, "Computing Machinery and Intelligence", Mind, 59(236) (1950)
- Brent Mittelstadt, "The Ethics of Algorithms: Mapping the Debate", Big Data & Society (2016)
- Danielle K. Citron, "Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security", California Law Review, 107 (2019)
- Jenna Burrel, "How the machine ‘thinks’: Understanding opacity in machine learning algorithms", Big Data & Society (2016)
- "What is Artificial Intelligence?" (2007)[URL]
- Karen Yeung, "Why Worry about Decision-Making by Machine?" (2019), Algorithmic Regulation
- Karl Manheim, "Artificial Intelligence: Risks to Privacy and Democracy", Yale Journal of Law & Technology, 21 (2019)
- Mathew U. Scherer, "Regulating Artificial Systems: Risks, Challenges, Competencies, and Strategies", Harvard Journal of Law and Technology, 29(2) (2016)
- Michal Lavi, "Taking Out of Context", Harvard Journal of Law & Technology, 31(1) (2017)
- Paulo Savaget, "Artificial intelligence, participation and accountability", Round Table on Artificial Intelligence and the Future of Democracy, ~ (2019)
- Sam Wrigley, "Bots, artificial intelligence and the General Data Protection Regulation: asking the right questions", Trinity College Law Review, 22 (2019)
- "Eight ways artificial intelligence can improve democracy; And eight ways AI could destroy democracy" (2016)[URL]
- "Will Artificial Intelligence Improve Democracy or Destroy It?"[URL]
- Will Knight, "The Dark Secret at the Heart of AI", MIT Technology Review (2017)
- "is artificial intelligence a threat to democracy?"[URL]