본문 바로가기
KERD
논문KCI 등재

사회보장 영역에서 인공지능 활용에 대한 헌법적 고찰

A Constitutional Study on the Utilization of Artificial Intelligence in the Social Security Area

홍석한
법학연구원 (Legal Research Institute of Korea University)|2023.01|법학논고 (KYUNGPOOK NATIONAL UNIVERSITY LAW JOURNAL)|제80호|pp. 37-68|DOI 10.17248/knulaw..80.202301.37

0

조회

0

다운로드

2

인용

0

참고문헌

키워드

기본권인공지능헌법Artificial IntelligenceSocial Welfare사회복지ConstitutionSocial Security Information SystemBasic Rights사회보장급여법사회보장정보시스템Act on the Use and Provision of Social Security Benefits and Search for Eligible Beneficiaries

초록

사회보장 영역에서 인공지능 활용은 주로 지원대상자 발굴을 통해 복지 사각지대를 해소하고, 부정수급을 예방, 탐지함으로써 재정의 누수를 방지하는데 중점이 있다. 인공지능의 긍정적인 효과는 그 특성상 일정한 대가를 수반할 수밖에 없다. 인공지능은 지능적 기능을 사용하여 대규모 데이터 세트를 신속하게 분석, 처리함으로써 학습과 추론을 통해 예측을 결과를 도출한다. 개인정보를 비롯한 사생활에 관한 자료나 정보의 규모에 비례하여 예측의 정확성도 높아진다. 이에 방대한 정보 처리를 허용하게 되어 그만큼 사생활 침해의 위험성이 증대하고, 데이터 세트의 편향성을 비롯한 데이터 품질의 문제도 제기된다. 현실에 존재하는 편향성이 그대로 반영되어 편견을 고착화할 수 있는 위험성도 있다. 또한 인공지능 자체에 내포된 불투명성은 이러한 문제에 대한 우려를 더 심화시키고 오류나 손해를 바로 잡는 것을 어렵게 만든다. 이러한 부정적 영향은 인간의 존엄성과 자율성 경시 가능성, 사생활 침해와 감시사회 도래의 위험성, 평등권 침해의 위험성으로 구체화된다. 이러한 위험성에 대응하기 위해서는 인공지능도 인간과 사회를 이롭게 할 때 비로소 가치가 있다는 인간중심적 사고를 전제로 하는 가운데 투명성을 확보하도록 하는 것이 중요하다. 이러한 토대는 헌법상 법치주의와 맥락을 같이 한다. 이에 사회보장 영역에 인공지능을 활용하는 경우에도 활용의 근거, 처리할 수 있는 데이터의 범위와 방법, 데이터 보유 기간 등에 대하여 좀 더 분명한 법적 근거를 갖춰야 한다. 그리고 사각지대나 부정수급 발생의 원인을 철저하게 분석하여 수급자격이나 사회보장급여의 수준, 중복・부당지급 가능성 등 제도 자체를 개선하고 사회적 인식의 변화를 도모하기 위한 노력이 우선되어야 한다. 인공지능 활용은 개인정보자기결정권이나 사생활의 비밀과 자유에 중대한 영향을 미친다. 이에 관련 입법은 처리할 수 있는 자료나 정보의 범위와 기간, 빈도 등과 관련하여 일정한 한계를 두는 등 기본권 제약을 최소화하기 위한 방안이 강구되어야 한다. 사후적인 감독과 실질적인 이의제기 가능성을 보장하기 위하여 관련된 정보의 공개와 통지, 접근이 쉬운 분쟁해결 절차 등도 마련되어야 한다.

Abstract

The use of artificial intelligence in the social security area is mainly focused on solving welfare blind spots by discovering support recipients and preventing financial leakage by preventing and detecting illegal supply and demand. The positive effects of artificial intelligence inevitably come with a certain price due to its nature. Artificial intelligence uses intelligent capabilities to rapidly analyze and process large data sets to make predictions through learning and reasoning. The accuracy of prediction increases in proportion to the scale of data or information about private life, including personal information. As a result, a large amount of information processing is allowed, which increases the risk of invasion of privacy, and raises issues of data quality including the bias of the data set. There is also a risk that the bias that exists in reality can be reflected as it is and the prejudice can be fixed. Also, the inherent opacity of artificial intelligence itself further exacerbates concerns about these issues and makes it difficult to correct errors or damages. These negative effects are embodied in the possibility of disregarding human dignity and autonomy, the risk of invasion of privacy and the advent of a surveillance society, and the risk of violating the right to equality. In order to respond to these risks, it is important to ensure transparency while premising on the anthropocentric thinking that artificial intelligence is only valuable when it benefits humans and society. This foundation is in line with the constitutional rule of law. Therefore, even in the case of using artificial intelligence in the social security field, a clearer legal basis for the grounds for use, the range and method of data that can be processed, and the retention period of data must be established. In addition, efforts to improve the system itself, such as eligibility for benefits, the level of social security benefits, and the possibility of overlapping or unfair payments, by thoroughly analyzing the causes of blind spots or illegal receipts, and efforts to promote changes in social awareness should be prioritized. The use of artificial intelligence has a significant impact on the right to self-determination of personal information or the privacy and freedom of privacy. Relevant legislation should seek measures to minimize restrictions on fundamental rights, such as placing certain limits on the scope, period, and frequency of data or information that can be processed. In order to ensure follow-up supervision and the possibility of raising practical objections, related information disclosure and notification, and easily accessible dispute resolution procedures should also be in place.

참고문헌 (58)

  1. 2020 보건복지백서, "보건복지부", 보건복지부, ~ (2021)
  2. 복지사각지대 발굴관리시스템 예측모형 개선 방안 연구, "이우식", 한국사회보장정보원, ~ (2021)
  3. 차세대 복지사각지대 AI 보이스봇 정보화전략계획(ISP) 수립을위한 기초연구, "이우식", 한국사회보장정보원, ~ (2021)
  4. 인공지능 Deep Learning 기술을 활용한 복지사각지대 발굴 개념 연구, "이우식", 사회보장정보원, ~ (2018)
  5. 복지사각지대 대상자 발굴률 향상을 위한 인공지능시스템 활용 연구, "이우식", 사회보장정보원, ~ (2019)
  6. 인공지능(AI) 시대의 법적 쟁점에 관한 연구, "장민선", 한국법제연구원, ~ (2018)
  7. 복지소외계층 상시 발굴·지원 및 민간자원연계 방안연구, "최 균", 한국사회복지협의회, ~ (2011)
  8. 강신욱, "사회보장기본법 개정의 의의와 과제", 보건복지포럼, (189) (2012), 한국보건사회연구원
  9. 고세일, "인공지능과 불법행위책임 법리", 법학연구, 29(2), pp.85~117 (2018), 법학연구소[DOI]
  10. 구인회, "사회보장의 사각지대: 실태와 영향요인", 사회보장연구, 24(1), pp.175~204 (2008), 한국사회보장학회
  11. 김규리, "스탠포드 AI 인덱스 2021 을 통해 본 AI 지표 조사의 변화 방향", IT & Future Strategy, (11) (2021), 한국지능정보사회진흥원
  12. 김상용, "4차 산업혁명 기술에 의한 스마트 복지사회 구현", 사회과학리뷰, 6(2), pp.1~19 (2021), K교육연구학회[DOI]
  13. 김성용, "인공지능의 개인정보 자동화 처리가 야기하는 차별 문제에 관한 연구", 서울대학교 법학, 60(2), pp.311~362 (2019), 법학연구소[DOI]
  14. 김수영, "사회복지정보화의 윤리적 쟁점 - 사회보장정보시스템을 통한 데이터감시를 중심으로 -", 한국사회복지학, 68(1), pp.193~224 (2016), 한국사회복지학회[DOI]
  15. 김은하, "사회보장정보시스템 정보의 정책 활용과 과제", 보건복지포럼, (274) (2019), 한국보건사회연구원
  16. 김은하, "정보시스템을 활용한 복지 소외계층 발굴의 가능성과 한계", 한국사회보장학회 정기학술대회발표논문집, 2015(2) (2015), 한국사회보장학회
  17. 김정현, "사회보장정보시스템을 활용한 노인복지 사각지대 발굴의 쟁점과대안", 한국노인복지학회 2021년도 춘계학술대회 자료집 (2021), 한국노인복지학회
  18. 김중권, "인공지능(지능형) 시스템의 도입을 위한 법적 규율의 문제", 공법학연구, 22(1), pp.263~292 (2021), 한국비교공법학회
  19. 김중권, "인공지능시대 알고크라시(Algocracy)에서의 민주적 정당화의 문제", 법조, 69(5), pp.181~207 (2020), 법조협회[DOI]
  20. 김중권, "행정에 인공지능시스템 도입의 공법적 문제점", 법조, 69(2), pp.53~77 (2020), 법조협회[DOI]
  21. 김철주, "4차 산업 혁명과 사회복지법제의 방향성 고찰", 사회법연구, (35), pp.1~27 (2018), 한국사회법학회
  22. 남찬섭, "사회보장기본법의 변화를 통해본 한국 복지국가의 전개과정", 한국사회복지조사연구, 36, pp.103~139 (2013), 사회복지연구소
  23. 노상헌, "제4차 산업혁명과 사회보장법의 과제", 산업관계연구, 27(2), pp.33~55 (2017), 한국고용노사관계학회[DOI]
  24. 박도현, "인간 편향성과 인공지능의 교차", 서울대학교 법학, 63(1), pp.139~175 (2022), 법학연구소[DOI]
  25. 성중탁, "제4차 산업혁명과 사회국가 실현 등에 대한 전망과 과제", 헌법학연구, 27(1), pp.343~381 (2021), 한국헌법학회
  26. 안상훈, "한국 복지국가의 전환기, 사회정책분야 법체계의 재구조화-사회보장기본법전부개정의 의미와 과제-", 한국사회복지학회 2012년도 추계공동학술대회 자료집 (2012), 한국사회복지학회
  27. 엄재성, "사회보장정보시스템의 복지급여 부정수급 차단 원리와 개선방안", 한국경제연구, 39(4), pp.107~136 (2021), 한국경제연구학회
  28. 우승하, "인공지능 활용에 따른 법적 책임과 윤리에 관한 동향", 과학기술과 법, 12(1), pp.119~156 (2021), 법학연구소[DOI]
  29. 이준일, "인공지능과 헌법 – 인공지능의 위험에 대한 헌법적 권리 차원의 대응 –", 헌법학연구, 28(2), pp.347~383 (2022), 한국헌법학회
  30. 이형석, "빅데이터를 기반으로 한 인공지능 예측력의 헌법적 쟁점에 관한 연구", 법학논총, 28(1), pp.33~61 (2021), 법학연구원
  31. 정진명, "인공지능에 대한 민사책임 법리", 재산법연구, 34(4), pp.137~168 (2018), 한국재산법학회[DOI]
  32. 조소영, "인공지능과 민주주의", 공법연구, 49(2), pp.147~167 (2020), 한국공법학회[DOI]
  33. 최현수, "차세대 사회보장정보시스템 구축을 통한 복지 패러다임 전환과 정보 인권", 월간 복지동향, (251) (2019), 참여연대사회복지위원회
  34. 최현수, "4차 산업혁명에 대비한 보건복지 분야 데이터 주도 정책 추진필요성과 방향", 보건복지포럼, (250) (2017), 한국보건사회연구원
  35. 한은희, "아동보호분야의 위험예측모형 활용 현황 및 시사점", 사회보장정보 이슈리포트, (22) (2020), 한국사회보장정보원
  36. 함인선, "AI시대에서의 개인정보자기결정권의 재검토 ― EU 개인정보보호법을 소재로 하여 ―", 인권법평론, (26), pp.123~151 (2021), 공익인권법센터
  37. 홍석한, "민주주의에 대한 인공지능의 위험과 규범적 대응 방안", 헌법학연구, 28(1), pp.127~159 (2022), 한국헌법학회
  38. 홍석한, "유럽연합 ‘인공지능법안’의 주요 내용과 시사점", 유럽헌법연구, (38), pp.243~282 (2022), 유럽헌법학회[DOI]
  39. 보건복지부, "“송파 세모녀법, 국회 본회의 통과”참조", 보도참고자료, ~ (2014)
  40. 보건복지부, "포용적 차세대 사회보장정보시스템, 국민과 함께 만들어갑니다!", 보도자료, ~ (2019)
  41. "보도자료", 2021
  42. 기반 마련-, "보도자료", 2022
  43. 복지대상자는 개인정보 보호의 권리도 없는가? 정부의 사회보장급여의 이용·제공 및 수급권자 발굴에 관한 법개악시도 반대한다!, "월간 복지동향", 2017, ~, pp.참여연대사회복지위원회
  44. 정부는 차세대 사회보장정보시스템 즉각 철회하라, "월간 복지동향", 2019, ~, pp.참여연대사회복지위원회
  45. "Feasibility Study" (2020)[URL]
  46. "Ad Hoc Expert Group(AHEG) for the preparation of a draft text of a recommendation on the ethics of artificial intelligence, First draft of the Recommendation on Ethics of Artificial Intelligence", UNESCO, ~ (2020)
  47. "A case study of algorithm-assisted decision making in child maltreatment hotline screening decisions, Proceedings of the 1st Conference on Fairness, Accountability and Transparency, PMLR 81" (2018)[URL]
  48. The AI Index 2021 Annual Report, "Daniel Zhang", AI Index Steering Committee, Human-Centered AI Institute, Stanford University, ~ (2021)
  49. "Automating Society Report 2020" (2020)[URL]
  50. Jack Maxwell, "Judicial Review and the Digital Welfare State in the UK and Australia", Journal of Social Security Law, 28(94) (2021), Sweet & Maxwell
  51. Karl Manheim, "Artificial Intelligence : Risks to Privacy and Democracy", Yale Journal of Law & Technology, 21 (2019), Yale University
  52. Michael Lipsky, "Street-Level Bureaucracy : Dilemmas of the individual in public services" (2010), Russell Sage Foundation
  53. "OECD Recommendation of the Council on Artificial intelligence, OECD/LEGAL/0449" (2019)[URL]
  54. Paulo Savaget, "Empowering political participation through artificial intelligence", Science and Public Policy, 46(3) (2019), Oxford University Press
  55. "One Giant Step for a Chess-Playing Machine" (2018)[URL]
  56. UNESCO, "Steering AI and Advanced ICTs for Knowledge Societies: A Rights, Openness, Access, and Multi-stakeholder Perspective", UNESCO, ~ (2019)
  57. "The Dark Secret at the Heart of AI, MIT TECH. REV" (2017)[URL]
  58. Wim Van Lancker, "Shifting Solidarities: Trends and Developments in European Societies" (2020)

관련 논문AI추천

디지털 복지국가 실현을 위한 규범적 대응 방안 – 사회보장행정의 인공지능 활용을 중심으로 –홍석한법학연구소 · 홍익법학2023 · 제24권 제4호인공지능 기술의 기본권 침해 대응 방안 연구박혜란법학연구원 · 성균관법학2024 · 제36권 제3호빅데이터를 기반으로 한 인공지능 예측력의 헌법적 쟁점에 관한 연구이형석, 전정환법학연구원 · 법학논총2021 · 제28권 제1호인공지능 활용 감시에 따른 기본권 침해 위험과 규범적 대응홍석한헌법재판연구원 · 헌법재판연구2024 · 제11권 제2호인공지능의 헌법적 쟁점과 과제김병록법학연구원 · 법학논총2020 · 제27권 제2호인공지능시대의 인권박진아법학연구원 · 法學論文集2024 · 제48권 제1호

이 간행물의 다른 논문 (15건)

HIV 전파매개행위를 처벌하는 조항이 위헌인가?이충상pp. 1-36헌법위반 손해배상소송에 관한 미국 연방대법원의 최근 판결례:Egbert v. Boule정하명pp. 69-91안전한 지역사회 공동체 치안 구축을 위한 경찰-자율방범대 협력방안김용훈pp. 93-125문화콘텐츠 사업자의 외국납부세액공제제도 개선방안이동식pp. 127-155부진정연대채무자 1인에 대한 면제의 효력박영목pp. 157-181
원문 보기