본문 바로가기
KERD
논문KCI 등재

보건의료에서의 인공지능 적용과 관련된 법적 과제에 대한 개관

Consideration of legal issues related to the application of artificial intelligence in health care

이인영
한국의료법학회|2019.12|한국의료법학회지 (Korean Journal of Medicine and Law)|제27권 제2호|pp. 35-71

0

조회

0

다운로드

13

인용

0

참고문헌

키워드

인공지능 알고리즘의료정보 빅데이터알고리즘 불투명성인공지능 거버넌스데이터 편향성왓슨 포 온콜로지수술로봇AI algorithmmedical information big dataalgorithm transparencyAI governancedata biaswatson for onologysurgical robot
주제분류법학

초록

미래에는 인공지능 시스템이 더욱 발전하여 사람의 개입이나 입력 없이 더 넓은 범위의 작업을 수행할 수 있게 될 것이다. 이러한 경향은 보건의료분야에 더욱 실현된다면 환자의 이익이나 보건정책에 이득을 가져올 수 있지만 수반되는 위험의 정도도 더욱 심화될 수 있다. 첨단 인공지능 시스템으로의 혁신이 진일보할수록 인공지능의 알고리즘이 법주체성을 가질 수 있는지에 대한 논쟁은 계속적으로 이어질 것으로 보인다. 보건의료에서 인공지능 시스템이 안전하고 윤리적인 이용을 담보할 수 있을 것인지, 누가 이러한 윤리적 정의를 구현할 수 있도록 결정할 것인지 또는 인간에게 적용하는 어떠한 책무를 인공지능 시스템에 적용할 수 있거나 적용되어야 할 것인지 여부, 문제가 발생하였을 때 새로운 책임법리가 필요한지에 대해서는 계속적 논의가 진행되어야 할 필요가 있다. 결국 이러한 논의는 윤리적 과제이자 우리 사회가 당면한 법적 과제가 되는 것이다. 보건의료에의 인공지능의 적용한계로서 신뢰도와 오류 그리고 이에 따른 안전의 문제를 간과할 수 없다. 인공지능 소프트웨어가 추천한 치료법과 의료진이 판단한 치료법간의 선택으로 인해 결과적으로 환자에게 악결과가 발생할 가능성이 상존하고 있다는 점에서 인공지능 시스템의 자동화된 의사결정에 책임이 있는 주체가 누구인지 여부와 부정확한 진단이나 처방결과로 인한 피해구제에 대한 손해배상 등의 법적 책임의 한계를 설정하는 것이 필요하다. 인공지능 프로그램의 제작자, 인공지능이 탑재된 의료기기의 소유자 또는 이들의 운용자 등이 손해발생에 기여한 정도에 따라 책임을 부담하여야 할 것이다. 또한 데이터의 편향성을 통한 알고리즘 자체에 편향성이 포함될 수 있고 이를 증폭 · 강화하는 경향으로 진전될 수 있다. 알고리즘의 편향성으로 인해 직접·간접의 차별이 야기될 수 있고 그러한 차별로 인한 피해구제를 어떻게 접근할 것인가에 대해서는 아직 논의의 단계이기는 하지만, 알고리즘 자체의 불투명성으로 인해 전통적인 책임법리만으로 책임소재를 규명하거나 책임문제를 해결하기는 상당한 어려움이 있다. 알고리즘 불투명성에 따른 차별적 결과에 대해서는 알고리즘의 책무개념을 검토할 수 있으며, 행위를 논의의 중점에 두고 과연 행위과정에서 의무준수에 대한 숙지, 누가 책무를 부담할 것인지 여부를 판단하여 사전적으로 기술적, 법적, 제도적 관점에서 문제해결을 시도할 필요가 있다. 인공지능 적용으로 인한 위험 대응방안으로 규제의 수단을 상정할 수 있지만, 우선적으로는 전문위원회 또는 협의체 기구의 상설을 통해 기술혁신과 안전과 윤리적 이용 사이의 갈등을 조정하고 가이드라인을 설정하는 등의 인공지능 거버넌스 구축의 방법으로 접근하는 것이 합리적이라고 보인다.

Abstract

AI has the potential to be used in planning and resource allocation in health and social care services. Using AI to analyse clinical data, research publications, and professional guidelines could also help to inform decisions about treatment. AI has applications in fields that are subject to regulation, such as data protection, research, and healthcare. However, AI is developing in a fast-moving and entrepreneurial manner that might challenge these established frameworks. The use of AI raises ethical and legal issues, including: the potential for AI to make erroneous decisions; the question of who is responsible when AI is used to support decision-making; inherent biases in the data used to train AI systems; ensuring the protection of potentially sensitive data; securing public trust in the development and use of AI technologies. AI applications in healthcare make use of data that many would consider to be sensitive and private. Using data that raise privacy concerns should go beyond compliance with the law to take account of people’s expectations about how their data will be used. Reliability and safety are key issues where AI is used to control equipment, deliver treatment, or make decisions in healthcare. Machine learning technologies can also be particularly opaque because of the way they continuously tweak their own parameters and rules as they learn. This creates problems for validating the outputs of AI systems, and identifying errors or biases in the data. Further challenges include the need to ensure that the way AI in healthcare is developed and used is transparent, accountable, and compatible with public interest, and balanced with the desire to drive innovation.

참고문헌 (57)

  1. 고학수, "민사판례연구" (2016), 박영사
  2. 개인정보보호위원회, "유럽 일반 개인정보보호법(GDPR) 번역본", ~ (2017)
  3. 김태오, "인공지능과 개인정보보호 - 불필요한 갈등 증가에 대한 관견(管見) -", 경제규제와 법, 11(2), pp.131~146 (2018), 법학연구소
  4. 고학수, "인공지능과 차별", 저스티스, 171, pp.199~277 (2019), 한국법학원[DOI]
  5. 권건보, "정보접근권의 실효적 보장에 관한 고찰 ― 정보주체의 정보접근권을 중심으로 ―", 미국헌법연구, 29(2), pp.1~43 (2018), 미국헌법학회
  6. 김광수, "인공지능 규제법 서설", 토지공법연구, 81, pp.279~310 (2018), 한국토지공법학회
  7. 김길수, "인공지능 거버넌스에 관한 탐색적 연구", 한국자치행정학보, 33(2), pp.219~236 (2019), 한국자치행정학회[DOI]
  8. 김성용, "인공지능의 개인정보 자동화 처리가 야기하는 차별 문제에 관한 연구", 서울대학교 법학, 60(2), pp.311~362 (2019), 법학연구소[DOI]
  9. 김영두, "인공지능과 자유의지, 인공지능시대의 법적 과제", 연세대학교 제60회 학술대회 발표집 (2017)
  10. 김재선, "인공지능 의료기기 위험관리를 위한 규범론적 접근 ― 인공지능 소프트웨어 규범화 논의를 중심으로 ―", 공법연구, 46(2), pp.131~154 (2017), 한국공법학회
  11. 류지웅, "인공지능(AI)로봇의 법적 문제에 관한 연구 - EU의 RoboLaw의 입법동향을 중심으로 -", 토지공법연구, 78, pp.301~326 (2017), 한국토지공법학회
  12. 박동균, "인공지능과 내과 의사의 미래", 대한내과학회지, 92(3), pp.235~238 (2017), 대한내과학회[DOI]
  13. 배현아, "보건의료법제 하에서 인공지능기술의 의료영역 도입의 의의와 법적 문제", 법조, 66(4), pp.43~89 (2017), 법조협회[DOI]
  14. 백경희, "인공지능을 이용한 의료행위와 민사책임에 관한 고찰", 법조, 66(4), pp.90~121 (2017), 법조협회[DOI]
  15. 선지원, "인공지능 알고리즘 규율에 대한 소고- 독일의 경험을 중심으로 -", 경제규제와 법, 12(1), pp.26~43 (2019), 법학연구소[DOI]
  16. 손영화, "인공지능(AI) 시대의 법적 과제", 법과정책연구, 16(4), pp.305~329 (2016), 한국법정책학회[DOI]
  17. 신동환, "人工知能로봇과 賠償責任에 관한 小考", 안암법학, (55), pp.35~68 (2018), 안암법학회[DOI]
  18. 윤상오, "인공지능 기반 공공서비스의 주요 쟁점에 관한 연구: 챗봇(ChatBot) 서비스를 중심으로", 한국공공관리학보, 32(2), pp.83~104 (2018), 한국공공관리학회[DOI]
  19. 윤혜선, "인공지능 기술을 윤리적으로 탐구하다: 영국의 데이터윤리혁신센터 설치사례", KISO journal, 33 (2018)
  20. 이도국, "인공지능(AI)의 민사법적 지위와 책임에 관한 소고", 법학논총, 34(4), pp.319~339 (2017), 법학연구소[DOI]
  21. 이인영, "인공지능 로봇에 관한 형사책임과 책임주의 -유기천교수의 법인의 행위주체이론과 관련하여-", 홍익법학, 18(2), pp.31~57 (2017), 법학연구소[DOI]
  22. 이중원, "인공지능에게 책임을 부과할 수 있는가?: 책무성 중심의 인공지능 윤리 모색", 과학철학, 22(2), pp.79~104 (2019), 한국과학철학회
  23. 정정원, "인공지능발달에 따른 형법적 논의", 과학기술과 법, 17(2) (2016)
  24. 정필운, "인공지능기술 발전에 조응한 법학의 대용", 연세대학교 제60회 학술대회 발표집 (2017)
  25. Agrawal A, "Prediction Machines; The simple Economics of Artificial Intelligence" (2018), Havard Business Press
  26. Alvin Rajkomar, "Scalable and accurate deep learning for electronic health records", npj Digital Machine, 1(18) (2018)
  27. Andreas Matthias, "The responsibility gap : Ascribing responsibility for the actions of learning automata", Ethics and Information Technology, 6(3) (2004)
  28. One Hundred Year Study on Artificial Intelligence(AI100), "ARTIFICIAL INTELLIGENCE", Stanford University, REPORT OF THE 2015 STUDY PANE, ~ (2006)
  29. Exploring or exploiting? Social and ethical Implications of autonomous experimentation in AI, "Bird S", ~ (2016)
  30. Brent Mittelstadt, "3THICS- a reinvention of ethics in the digital age?" (2017)
  31. Burrell J, "How the machine ‘thinks’" (2016), Big Data & Society
  32. Caruana R,, "Intelligible models for healthcare", Proceedings of the 21th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (2015)
  33. Cohen IG AR, "The legal and ethical concerns that arise from using complex predictive analytics in health care", Health Affairs, 33(7) (2014)
  34. Cosima Gretton, "The dangers of AI in health care : risk homeostasis and automation bias", Towards Data Science (2017)
  35. Dilsizian SE, "Artificial intelligence in medicine and cardiac imaging", Curr Cardiol Rep, 16(1) (2014)
  36. Esteva A, "Dermatologist-level classification of skin cancer with deep neural networks", Nature, 542, pp.115~ (2017)
  37. Gabriel Hallevy, "The Criminal Liability of Artificial Intelligence Entities-From Science Fiction to Legal Social Control", Akron Intellectual Property Journal (2010)
  38. Hainc N, "The bright, artificial intelligence-augmented future of neuroimaging reading", Front Neurol, 8 (2017)
  39. House of Lords Select Committee on Artificial Ingelligence, "AI in the UK : ready, willing and able?" (2018), Reform Thinking on its own : AI in the NHS
  40. Jamal S, "Predicting neurological adverse drug reactions based on biological, chemical and phenotypic properties of drugs using machine learning models", Scientific Reports, 7, pp.872~ (2017)
  41. Kassahun Y, "Surgical robotics beyond enhanced dexterity instrumentation", Int J Comp Ass Rad, 11 (2016)
  42. Leung MKK, "Machine Learning in Genomic Medicine : A Review of Computational Problems and Data Sets", Proc IEEE, 104 (2016)
  43. Moore SF, "Harnessing the power of intelligent machines to enhance primary care", British Journal of General Practice, 68 (2018)
  44. Nesta, "Confronting Dr Robot: creating a people-powered future for AI in health" (2018)
  45. Nils J. Nilsson, "The Quest for Artificial Intelligence: A History of Ideas and Achievements" (2010), Cambridge University Press
  46. Nuffield Council on Bioethics, "The collection, linking and use of data in biomedical research and healthcare" (2015), ethical issues
  47. O’Mara-Eves A, "Using text mining for study identification in systematic reviews : a systematic review of current approaches", Syst Rev, 4 (2015)
  48. Rajpurkar P, "CheXNet: Radiologist-level pneumonia detection on chest x-rays with deep learning arXiv preprint", arXiv:171105225, ~ (2017)
  49. Riddhi Doshi, "Tuberculosis control, and the where and why of artificial intelligence", ERJ Open Research, 3(2) (2017)
  50. Royal Society, "Machine learning: the power and promise of computers that learn by example" (2017)
  51. Shaban-Nejad, A., "Health intelligence : how artificial intelligence transforms population and personalized health", npj Digital Medicine, 1(1) (2018)
  52. Sharkey A, "Granny and the robots : ethical issues in robot care for the elderly", Ethics Inf Technol, 14 (2012)
  53. US National Science and Technology Council, "Preparing for the future of artificial intelligence" (2016)
  54. Wachter R, "Nuffield Council on Bioethics, Artificial intelligence (AI) in healthcare and research" (2018), Bioethics Briefing Note
  55. Wang D, "Deep learning for identifying metastatic breast cancer", arXiv preprint arXiv : 160605718, ~ (2016)
  56. Will Knight, "The dark secret at the heart of AI", MIT Technology Review (2017)
  57. Williams K, "Cheaper faster drug development validated by the repositioning of drugs against neglected tropical diseases", Jounal of Royal Society Interface, 12 (2015)

관련 논문AI추천

의료 분야에서 인공지능 활용의 법적 쟁점 – 법적 인격을 중심으로 –윤효영법학연구원 · 법학논총2024 · 제48권 제4호보건의료법제 하에서 인공지능기술의 의료영역 도입의 의의와 법적 문제배현아사단법인 법조협회 · 법조2017 · 제66권 제4호의료 인공지능의 활용을 둘러싼 법적 과제: 규제의 진화 및 책임의 배분을 중심으로박혜진한국사법학회 · 비교사법2022 · 제29권 제4호의료 인공지능 활용에 관한 책임 논의 : 미국과 유럽연합의 규제 현황을 중심으로김계현, 임지연법학연구원 · 法學論文集2025 · 제49권 제3호의사의 설명의무와 인공지능: 글로벌 시사점 및 법정책 방향을 중심으로류화신, 최상수법학연구원 · 法學論文集2025 · 제49권 제3호의료분야에서 인공지능(AI) 활용과 법적 논점송기복한국경찰연구학회 · 한국경찰연구2023 · 제22권 제1호

이 간행물의 다른 논문 (5건)

의료법상 의료인단체의 설립능력-대한간호협회와 대한간호조무사협회의 갈등을 중심으로-주호노pp. 7-34미용성형수술과 사과법 및 디스클로져법 등의 도입에 관한 연구백경희, 김성은pp. 73-95북한이탈주민의 건강권 보장을 위한 실효성 제고방안문재태pp. 97-112직업의 자유를 제한하는 감염병에 대한 헌법적 해석김은일pp. 113-136프랑스의 의료보험재원 마련을 위한 조세제도 개혁에 관한 연구서정화pp. 137-154
원문 보기