인공지능 윤리와 형사정책적 시사점 - 형사사법에서의 인공지능 윤리 이슈를 중심으로 -
Artificial Intelligence Ethics and Criminal Policy - Focusing on the issue of artificial intelligence ethics in criminal justice -
0
조회
0
다운로드
9
인용
0
참고문헌
키워드
초록
우리는 컴퓨터, 인터넷, 스마트폰을 통해 디지털 혁명을 경험했고, 이후 자율주행, 인공지능, 로봇 등 4차산업 혁명 기술의 발전으로 인해 개인의 삶뿐 아니라 사회 전반의 혁신적 변화를 경험하고 있다. 인공지능은 사고나 학습 등 인간이 가진 지적 능력을 컴퓨터를 통해 구현하는 기술로 인간처럼 스스로 학습, 추리, 적응, 논증을 할수 있는 지능을 말한다. 인공지능은 다양한 분야에서 인간을 대신해 위험하고, 힘들고 어려운 일을 할 수 있으며, 단순 반복적인 업무를 빠른 시간 내에 효율적으로 처리할 수도 있다. 이렇듯 인공지능은 우리의 삶을 매우 편리하게 만들고 인간을 위해로부터 보호하는 등 인공지능의 발전으로 인간 삶이 좀 더 편하게 변화될 수는 있겠지만 이런 긍정적 변화에 반해 사고의 확증편향, 인간소외, 기본권 침해, 차별 문제 등사회적 문제가 발생시킬 위험도 있어, 인간을 위한 신뢰할 만한 인공지능(AI) 발전을 위한 인공지능 윤리 가이드라인의 필요성이 제기되었다. 세계 각 국은 다양한 인공지능 윤리 가이드를 마련하였고 특히, 유럽연합은 인공지능법(안)을 제시하기도하였다. EU 인공지능법(안)은 인공지능시스템의 안전성을 보장하고 기본적 권리와 유럽연합의 가치 존중, 인공지능시스템에 적용될 수 있는 기본권 및 안전기준 관련 법령의 효율적 집행 강화 등을 목표로 인공지능 개발 및 활용에 대한 신뢰, 기본권및 사용자 안전을 보장하기 위한 위험 기반 규제방식(risk-based regulatory approach)의 규정을 제시하였다. 인공지능은 현재 다양한 영역에서 개발 및 활용되고 있으며 형사사법 분야에서도 인공지능의 이용이 점차 증가하고 있는데, 범죄예방예측, 재범예측, 형사사법 절차, 보호관찰 등 다양한 분야에 인공지능의 이용 영역이 점차 확대되고 있어 형사정책적 측면에 상당히 긍정적 효과를 가져올 것으로기대된다. 하지만 형사사법에서의 인공지능 활용에 따른 긍정적 효과에 대한 기대와더불어 인공지능 편향성과 차별, 인공지능 투명성 이슈, 프라이버시권 침해, 기술의안정성 문제 등 다양한 윤리적 이슈가 문제 되고 있다. 이에 이 논문에서는 형사사법 분야에서의 신뢰할만한 인공지능의 개발과 활용에있어 인공지능에 대한 기본 윤리 가이드와 법제도 정비의 필요성을 강조하고, 국내외 인공지능 윤리가이드와 법제 동향, 형사사법에서 이용되는 인공지능의 윤리 이슈를 분석하여 우리 형사사법에서 인공지능 활용을 위한 법정책적 시사점을 도출하였다.
Abstract
After the digital revolution, there is a big change in all parts of life due to the 4th industrial revolution such as autonomous driving, artificial intelligence, and robots. Artificial intelligence (AI) refers to the simulation of human intelligence in machines that are programmed to think like humans. Artificial intelligence can do dangerous, difficult, and difficult tasks on behalf of humans in various fields. Artificial intelligence can make our lives very convenient, protect humans from danger. but against these positive changes, social problems such as confirmation bias, discrimination, data security and fundamental right issue can arise. For this reason, the necessity of artificial intelligence ethics guidelines for trustworthy artificial intelligence (AI) for humans was raised, and various artificial intelligence ethics guides were prepared with the efforts of experts around the world, and the European Union later proposed artificial intelligence regulation. The EU Artificial Intelligence Act proposed a risk-based regulatory approach to ensure the safety of artificial intelligence systems, respecting fundamental rights and European Union values, and strengthening the efficient enforcement of laws and regulations related to safety standards. Artificial intelligence is currently being developed and used in various areas, and the use of artificial intelligence is gradually increasing in the field of criminal justice, and it is expected to have a positive effect on criminal policy such as crime prevention, criminal justice, assess the likelihood of a recidivist and probation. However, in the use of artificial intelligence in criminal justice, various ethical issues such as artificial intelligence bias and discrimination, artificial intelligence transparency issues, privacy rights infringement, and technology stability are being problematic. This paper emphasized the necessity of artificial intelligence ethics guideline and legal system for artificial intelligence in the field of criminal justice, analyzed domestic and foreign artificial intelligence ethics guidelines and legal trends, and derived legal implications for the use of artificial intelligence in Korean criminal justice.
참고문헌 (32)
- 김송옥, "AI 법제의 최신 동향과 과제 - 유럽연합(EU) 법제와의 비교를 중심으로 -", 공법학연구, 22(4), pp.115~148 (2021), 한국비교공법학회
- 김재선, "인공지능 안전과 책임 확보를 위한 법제 논의에 관한 검토 — 유럽연합 인공지능 관리 법제 논의에 기초하여 —", 행정법연구, (64), pp.157~181 (2021), 행정법이론실무학회[DOI]
- 김희정, "지능정보화 시대의 알고리즘 차별에 대한 법적 소고 -미국의 알고리즘 차별 사례를 중심으로-", 홍익법학, 21(3), pp.501~524 (2020), 법학연구소[DOI]
- 김혜인, "인공지능에 기반한 형사법상 의사결정 연구 - 설명요구권과 영업비밀보호 간 균형모색을 중심으로 -", 법학연구, 28(3), pp.203~229 (2020), 법학연구소[DOI]
- 박혜성, "인공지능 규제에 대한 연구 ― 유럽연합의 입법안을 중심으로 ―", 공법연구, 49(3), pp.349~374 (2021), 한국공법학회[DOI]
- 양종모, "인공지능 알고리즘의 편향성, 불투명성이 법적 의사결정에 미치는 영향 및 규율 방안", 법조, 66(3), pp.60~105 (2017), 법조협회[DOI]
- 우승하, "인공지능 활용에 따른 법적 책임과 윤리에 관한 동향", 과학기술과 법, 12(1), pp.119~156 (2021), 법학연구소[DOI]
- 이창민, "안면인식정보 보호 및 안면인식기술 규제에 관한 미국법 연구", 저스티스, 179, pp.5~45 (2020), 한국법학원[DOI]
- 주현경, "범죄예측 및 형사사법절차에서 알고리즘 편향성 문제와 인공지능의 활용을 위한 규범 설계", 법학논총, 27(1), pp.115~162 (2020), 법학연구원
- EU 인공지능법안의 주요 내용과 시사점, 지능정보사회 법제도이슈 리포트, "NIA 지능정보원", ~ (2021)
- 관계부처 합동, "사람이 중심이 되는 「인공지능(AI) 윤리기준」", ~ (2020)
- "제주경찰청, 신변보호용 안면인식 CCTV 전국 첫 시범 운영", 세계일보[URL]
- "① 여기서 우회전하세요… 우범지역 찾아주는 AI, 순찰 풍경 바꿨다", 비즈조선[URL]
- "오늘밤 당신 동네 범죄… AI는 이미 알고 있다" (2021), 한국일보[URL]
- "참여연대 법무부·과기부의 얼굴인식 인공지능식별추적시스템 구축 사업에 대한 공익감사청구 주요내용"[URL]
- Asaro, P M, "AI Ethics in Predictive Policing: From Models of Threat to an Ethics of Care", IEEE Technology and Society Magazine, 38(2) (2019)
- Leese, M, "Predictive Policing: Proceed, but with Care", Policy Perspectives, 8(14) (2020)
- "REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL LAYING DOWN HARMONISED RULES ON ARTIFICIAL INTELLIGENCE", ~
- High-Level Expert Group on Artificial Intelligence, "ETHICS GUIDELINES FOR TRUSTWORTHY AI", ~
- Executive Office of the President National Science and Technology Council Committee on Technology, "Preparing for the Future of Artificial Intelligence", ~
- "DOD Adopts Ethical Principles for Artificial Intelligence", U.S. Department of Defense, ~
- "Ethics and Governance of Artificial Intelligence Initiative: Algorithms and Justice, Ethics and Governance of AI", Berkman Klein Center, ~
- "The Montreal Declaration for responsible AI"[URL]
- "The US just released 10 principles that it hopes will make AI safer, MIT Technology review"[URL]
- "America must win the race for A.I. ethics"[URL]
- "How a basic iPhone feature scared a senator into proposing a facial recognition moratorium"[URL]
- "How We Analyzed the COMPAS Recidivism Algorithm"[URL]
- "Justice served? Discrimination in algorithmic risk assessment"[URL]
- "Machine Bias (There’s software used across the country to predict future criminals. And it’s biased against blacks)" (2016)[URL]
- "Artificial Intelligence and Robotics for Law Enforcement" (2019)[URL]
- "ETHICS, ARTIFICIAL INTELLIGENCE AND PREDICTIVE POLICING" (2021)[URL]
- "Facial Recognition in the United States: Privacy Concerns and Legal Developments"[URL]