AI의 안전한 공동체 편입을 위한 합리적 규제설계에 관한 연구
A Study on Rational Regulatory Design for the Safe Integration of AI into Communities
0
조회
0
다운로드
1
인용
0
참고문헌
키워드
초록
2024년 3월, UN은 ‘지속 가능한 발전에 유용하면서도 안전하고 위험이 없으며 신뢰할 수 있는 AI 체계 증진’에 관한 결의안(resolution)을 채택하였다. 본 결의안은 본격적인 AI 시대에서의 부적절한 AI 개발의 위험성을 경고하고 디지털 격차 해소 등을 촉구하기 위한 국제적인 합의 마련에 대한 필요성을 강조한다. 이는 AI 개발과 사용을 두고 지속적으로 제기되었던 ‘두머(doomer, 파멸론자) 대 부머(boomer, 개발론자)’ 논쟁 속에서 책임있는 AI 발전 의지와 함께 AI 가 침해할 수 있는 인권과 공동체 가치에 대한 국제사회의 관심을 유도한다. 이렇듯 현재 국제사회의 AI 규제 논의는 기술 육성과 진흥을 위한 국가의 적극적인 정책 마련 및 기술 위험에 대응할 수 있는 적절한 규범체계 구축이라는 ‘규제 딜레마’를 겪고 있다. 그리고 이러한 규제 딜레마는 공동체 규범과 AI 개발･사용 사이의 합리적 균형점을 모색하기 위한 움직임으로 이어진다. 그렇다면 AI 과도기에 살고 있는 우리에게 맞는 규범체계, 즉 체계적인 규제 정립은 어떠한 모습일까. 물론 AI 기술 발전 과정에서 국제사회는 다양한 가이드라인과 지침 등의 형식을 통해 ‘윤리원칙’에 기반한 AI 규제 방안을 제시하였지만, 기술의 급격한 발전과 그에 따른 기본권 침해 위험이 심각해지고 있는 현실에서 이에 대응한 합리적이고 효율적인 규제 체계의 정립이 필요하다. 이러한 규제 체계 설계를 위해 본 연구자는 ‘원칙(principle)’과 ‘규칙(rule)’ 중심의 규제 방식을 적절히 혼용하여 각 영역에서 적용될 수 있는 구체적인 규제설계 방안을 제시하고자 한다. 이러한 규제 체계의 다원화는 상황별-위험별 접근방식을 통해 규제 효율성을 높이는 한편, 규제 적응력을 향상시켜 공동체 내에서의 질서를 형성하고 안전을 도모시킬 것이다. 기술은 규범 체계 안에서 지속가능성을 보장받고, 이러한 기술의 발전은 인류 공영을 위한 긍정적인 역할을 담당함으로써 인간과 AI의 공존을 가능하게 한다. 따라서 ‘AI 기본법’의 제정을 통해 기술규제의 원칙과 방향성, 그리고 정책적 이슈를 제시하고, 독립적인 규제기관을 도입하여 통일적이고 전문적인 규제 태도를 유지할 필요가 있다. 이와 함께 ‘고위험 AI’를 규제할 수 있는 세부적이고 구체적인 법률의 제정 및 규제 보완을 위한 정책적･제도적 차원의 접근, 즉 자율규제를 위한 민관협력 차원의 컴플라이언스와 기술 윤리교육 환경의 조성 등의 노력을 통해 AI의 안전한 공동체 편입을 시도한다. 이와 같은 다원적 규제체계의 정립은 기술 혁신과 규제 사이의 적절한 균형을 제시하기 위한 방안이 될 것이다.
Abstract
In March 2024, the UN adopted a resolution on “Advancing a Sustainable, Safe, Risk-Free, and Trustworthy AI Regime.” This resolution underscores the necessity for international agreements to address the risks of inappropriate AI development in the era of comprehensive AI and to urge the resolution of digital disparities. It stimulates international attention to human rights and communal values that AI may infringe upon, amid the ongoing debate between “doomers” and “boomers” regarding responsible AI development and the societal interest in AI's potential harms. Currently, the international discourse on AI regulation is experiencing a regulatory dilemma of establishing an appropriate regulatory framework to foster technological advancement and address technological risks. This regulatory dilemma leads to efforts to seek a rational balance between communal norms and AI development and usage. So, what might an appropriate regulatory framework look like for us living in the AI era? While international society has proposed AI regulatory measures based on ethical principles, the rapid advancement of technology and the increasing risk of infringement on fundamental rights necessitate the establishment of a rational and efficient regulatory framework. To design such a regulatory system, the researcher intends to propose specific regulatory design plans by appropriately blending principle- and rule-centered regulatory approaches that can be applied in various domains. The diversification of this regulatory framework through situation-specific and risk-based approaches aims to enhance regulatory efficiency while improving regulatory adaptability to form order within the community and foster safety. Technology ensures sustainability within a normative framework, and its development plays a positive role in serving the common good of humanity, enabling the coexistence of humans and AI. Therefore, there is a need to enact an “AI Basic Law” to present the principles and directions of technology regulation, address policy issues, and introduce independent regulatory bodies to maintain a unified and professional regulatory stance. This will serve as a prerequisite for striking an appropriate regulatory balance between technological innovation and regulation. Alongside this, efforts are made to attempt the safe integration of AI into the community through the enactment of detailed and specific laws regulating “high-risk AI,” as well as policy and institutional approaches for regulatory complementation, such as public-private cooperation for self-regulation, and the establishment of environments for technical ethics education.
참고문헌 (37)
- 국무조정실, "포괄적 네거티브 규제 전환 가이드라인 - 공공기관 내규·지침대상", ~ (2019)
- 국민권익위원회, "공공기관 청렴윤리경영 컴플라이언스 가이드라인 개정본", ~ (2023)
- 미국, EU, 영국, 일본, 중국 주요국 인공지능 정책 동향, "정보통신산업진흥원", ~ (2023)
- 김도균, "법치주의의 기초" (2006), 서울대학교 출판부
- 김대환, "기본권론" (2023), 박영사
- 박영도, "입법학 입문" (2013), 법령정보관리원
- 손은지, "인공지능의 헌법적 위험과 대응적 규범체계 정립에 관한 연구", 박사, pp.2023
- 송웅순, "자본시장법의 시행과 자율규제의 문제", Bulls Review (2009)
- 이준일, "헌법학강의" (2013), 홍문사
- 규제의 공법적 이론 연구, "이희정", 한국법제연구원, ~ (2023)
- 허영, "한국헌법론" (2014), 박영사
- 고학수, "인공지능 윤리규범과 규제 거버넌스의 현황과 과제", 경제규제와 법, 13(1) (2020), 서울대학교 법학연구소
- 곽관훈, "금융시장의 규제변화 : 원칙중심규제의 도입 가능성", 상사판례연구, 25(3) (2012), 한국상사판례학회
- 금융규제와 시장원리에 관한 연구, "김종민", 한국금융연구원, ~, pp.｢KIF working paper｣ 제 2009권 제1호 (2009)
- 국제중재에서 AI 활용에 관한 가이드라인 제정 동향, "김준우", 톰슨로이터코리아, ~ (2023)
- 김현철, "과학기술사회와 시민의 권리", (사)한국헌법학회 ·헌법재판연구원 ·충북대학교법학연구소 한국헌법학회 2019년 추계학술대회 (2019)
- 박인수, "행정법상 사전진입규제방식과 사후조치 규제방식의 체계정당성 모색 제재적 행정처분기준을 중심으로", KHU 글로벌 기업법무 리뷰, 8(2) (2015), KHU
- 배재권, "인공지능법 제정안과 설명가능한 인공지능의 기본원칙에 관한 연구", 한국지식정보기술학회 논문지, 18(2) (2023), 한국지식정보기술학회
- 성낙인, "헌법상 문화국가원리와 문화적 기본권", 유럽헌법연구, (30) (2019), 유럽헌법학회
- 이광호, "기술규제, 사례와 정책적 시사점", 경제규제와 법, 9(2) (2016), 서울대학교공익산업법센터
- 이보연, "유럽연합의 인공지능 관련 입법 동향을 통해 본 시사점", 법학논문집, 43(2) (2019), 중앙대 법학연구원
- 이부하, "헌법영역에서 기본권보호의무", 공법학연구, 8(3) (2007), 한국비교공법학회
- 이영우, "알고리즘 투명화법과 설명요구권에 관한 연구-알고리즘 투명화법안의 검토를중심으로", 한국컴퓨터 정보학회논문지, 26(11) (2021)
- 이혁우, "규제의 개념에 관한 소고", 행정논총, 47(3) (2009), 서울대학교 한국행정연구소
- 정준섭, "원칙중심규제의 논리와 한계", 상사판례연구, 22(1) (2009), 한국상사판례학회
- 최병선, "규제수단과 방식의 유형 재분류", 행정논총, 47(2) (2009), 서울대학교 한국행정연구소
- The Brussels Effect and Artificial Intelligence, "Charlotte Siegmann", Centre for the Goverment AI, ~ (2022)
- "E.U. reaches deal on landmark AI bill, racing ahead of U.S" (2023)[URL]
- Brian Z. Tamanaha, "How an Instrumental View of Law Corrodes the Rule of Law", DePaul Law Review, 56 (2007), Depaul University
- Christie L. Ford, "New Governance, Compliance, and Principles-Based Securities Regulation", American Business Law Journal, 1 (2008), Wiley
- Danielle Keats Citron, "THE SCORED SOCIETY : Due Processfor Automated Predictions", Washington Law Review, 89 (2014), Washington University
- Francesco Corea, "A principle‑based approach to AI : the case for European Union and Italy", AI & SOCIETY, 38 (2022)
- The Rise fall and fate of Principles based Regulation, "Julia Black", LSE Law, Society and Economy, ~, pp.LSE Law, Society and Economy Working Papers 17 (2010)
- China’s AI Regulations and How They Get Made, "Matt Sheehan", Carnegie, ~ (2023)
- "A quick guide to the most important AI law you’ve never heard of" (2022)[URL]
- Ondrej Bajgar, "Negative human rights as a basis for long-term AI safety and regulation", Journal of Artificial Intelligence Research, 76 (2023), University of Oxford
- "US Businesses That Prepare for EU AI Act Will Have an Advantage" (2023)[URL]