본문 바로가기
KERD
논문KCI 등재

의료 인공지능의 활용을 둘러싼 법적 과제: 규제의 진화 및 책임의 배분을 중심으로

Legal Challenges in Deploying Artificial Intelligence in Medicine: Focusing on the Evolution of Regulation and the Distribution of Liability

박혜진
한국사법학회 (The Korean Association of Private Law)|2022.11|비교사법 (The Journal of Comparative Private Law)|제29권 제4호|pp. 217-251|DOI 10.22922/jcpl.29.4.202211.217

0

조회

0

다운로드

8

인용

0

참고문헌

키워드

product liability설명의무인폼드 컨센트의료 인공지능duty to explainmedical malpracticeinformed consentmedical artificial intelligence의료기기 규제의료과오책임제조물 책임인공지능 의료기기artificial intelligence medical devicemedical device regulation
주제분류법학

초록

인공지능 기술의 발달은 의료를 혁신하고 의료서비스의 질을 향상시킬 것으로 기대되고 있다. 그러나 인공지능 의료기기가 오작동하는 경우에는 의료진의 최선의 의사결정을 방해하거나 환자에게 나쁜 결과를 가져올 위험성이 있다. 이처럼 국민의 생명·건강과 직결되는 인공지능 의료기기를 어떻게 규제할 것인지, 또 인공지능 의료기기로 인하여 발생한 손해에 대한 책임을 누구에게 지울 것인지는 그 자체로도 중요한 문제일 뿐만 아니라 앞으로의 기술발전의 방향과 속도와도 밀접한 관련이 있다. 이 글에서는 인공지능 의료기기의 규제와 관련하여 우리나라와 미국 등의 규제당국이 대응해 온 문제들을 크게 세 단계로 나누어 조망하고, 우리나라에서 대응해야 할 남아있는 문제들을 살펴본다. 또한, 인공지능 의료기기의 오류로 인하여 환자에게 나쁜 결과가 발생한 경우의 책임 문제에 관하여, 의사의 책임뿐만 아니라 의료기관의 책임, 제조업체의 책임, 그리고 보험 및 계약을 통한 위험 이전 가능성, 마지막으로 공동사업책임(common enterprise liability) 또는 기금 등을 통한 특별보상제도의 도입 필요성에 대하여 전반적으로 검토하면서, 앞으로 더욱 깊이 있는 연구나 논의가 필요한 부분을 가늠해 보고자 한다.

Abstract

Technological advances in artificial intelligence (AI) are transforming health care by assisting healthcare providers and improving patient care. However, AI medical devices may err and adversely affect the physician’s decision-making, resulting in patient harm. Therefore, regulating AI medical devices and allocating liability arising from algorithm inaccuracy is critical for patient safety and innovation in clinical care. This paper provides an overview of the three evolutional stages in regulating AI medical devices and highlights the remaining issues for the regulatory agencies to be addressed. Moreover, this study considers multiple stakeholders beyond clinicians and alternative policy options in its liability analysis and identifies questions that call for deeper investigation and discussion in the future.

참고문헌 (105)

  1. 이상돈, "의료법강의", pp.129~130 (2020), 법문사
  2. 신현호, "의료분쟁 조정·소송 총론", pp.277~282 (2011), 육법사
  3. 김광수, "인공지능 기반 과학기술과 국민의 권익구제- 자율주행차, 드론 및 의료기기를 중심으로 -", 토지공법연구, 85, pp.231~258 (2019), 한국토지공법학회
  4. 김병관, "임상적 관점에서의 의료기기 관리제도 개선방안 연구", 과학기술법연구, 25(4), pp.3~36 (2019), 과학기술법연구원[DOI]
  5. 김상찬, "의료기기의 결함과 제조물책임", 법학연구, (39), pp.39~59 (2010), 한국법학회
  6. 김재선, "인공지능 의료기기 위험관리를 위한 규범론적 접근 ― 인공지능 소프트웨어 규범화 논의를 중심으로 ―", 공법연구, 46(2), pp.131~154 (2017), 한국공법학회
  7. 엄주희, "인공지능 의료와 법제", 한국의료법학회지, 28(2), pp.53~77 (2020), 한국의료법학회
  8. 김재완, "로봇수술로 인한 의료과오 민사책임에 있어 과실 판단의 문제", 아주법학, 14(1), pp.27~56 (2020), 법학연구소[DOI]
  9. 박정연, "의료기기 진입규제의 변화: 공법적 정당화 논거와 규제 방향성", 법학논총, 46, pp.177~207 (2020), 법학연구소[DOI]
  10. 박태신, "의료소송에 있어서 설명의무의 기능", 연세법학연구, 5(1) (1998)
  11. 배현아, "보건의료법제 하에서 인공지능기술의 의료영역 도입의 의의와 법적 문제", 법조, 66(4), pp.43~89 (2017), 법조협회[DOI]
  12. 백경희, "인공지능을 이용한 의료행위와 민사책임에 관한 고찰", 법조, 66(4), pp.90~121 (2017), 법조협회[DOI]
  13. 백경희, "의료판례의 동향과 문제 : 민사법적 쟁점과 전망을 중심으로", 한국의료법학회지, 26(1), pp.223~249 (2018), 한국의료법학회[DOI]
  14. 석희태, "의료과실 판단기준에 관한 학설·판례의 동향", 의료법학, 1(1) (2000)
  15. 설민수, "머신러닝 인공지능과 인간전문직의 협업의 의미와 법적 쟁점: 의사의 의료과실 책임을 사례로", 저스티스, 163, pp.255~284 (2017), 한국법학원[DOI]
  16. 손승호, "빅데이터 및 인공지능 기술 적용 의료기기의 허가심사 방안", 대한전자공학회 학술대회논문집 (2018)
  17. 심병연, "가. 의사가 환자에게 수술 등 침습을 가함에 있어 그 승낙을 얻기 위한 전제로서 부담하는 설명의무의 내용, 나. 설명의무위반과 손해배상의 범위", 대법원판례해설, 통권 제21호, ~ (1994)
  18. 이동진, "의사의 위험설명의무 –법적 기능, 요건 및 위반에 대한 제재–", 의료법학, 21(1), pp.3~32 (2020), 대한의료법학회[DOI]
  19. 이인영, "보건의료에서의 인공지능 적용과 관련된 법적 과제에 대한 개관", 한국의료법학회지, 27(2), pp.35~71 (2019), 한국의료법학회
  20. 이중기, "의료 AI에 대한 규제체제와 책임의 귀속 - 진단 AI와 수술로봇을 중심으로", 홍익법학, 21(4), pp.263~290 (2020), 법학연구소[DOI]
  21. 장연화, "왓슨의 진단 조력에 대한 현행법상 형사책임에 관한 소고", 형사법의 신동향, (55), pp.316~346 (2017), 대검찰청[DOI]
  22. 정채연, "의료 인공지능의 법적 수용을 위한 시론적 연구 - 쟁점과 과제 -", 법학논총, 45(3), pp.145~176 (2021), 법학연구소[DOI]
  23. 최상회, "인폼드 컨센트(Informed Consent)의 법리구조", 법학연구, (33), pp.111~134 (2009), 한국법학회
  24. 최철호, "우리나라 의료기기 부작용에 따른 피해구제시스템 도입방안 연구", 한국의료법학회지, 25(2), pp.49~77 (2017), 한국의료법학회[DOI]
  25. 건강보험심사평가원, "혁신적 의료기술의 요양급여 여부 평가 가이드라인-AI 기반 병리학 분야", ~ (2020)
  26. 보건복지부, "혁신적의료기술의 요양급여여부 평가 가이드라인-AI기반 의료기술(병리학분야)", ~ (2020)
  27. 보건복지부, "혁신적의료기술의 요양급여여부 평가 가이드라인-AI기반 의료기술(영상의학분야) & 3D 프린팅 이용 의료기술", ~ (2019)
  28. 식품의약품안전처, "2022. 5. 12.자 보도자료", ~ (2022)
  29. 식품의약품안전처, "빅데이터 및 인공지능(AI) 기술이 적용된 의료기기의 허가·심사 가이드라인(민원인 안내서)", ~ (2017)
  30. 식품의약품안전처, "첨단의료기기 단계별 허가심사 가이드라인", ~ (2016)
  31. "대법원 1988. 12. 13., 85다카1491 판결", ~ (1988)
  32. "대법원 1994. 4. 15., 93다60953 판결", ~ (1994)
  33. "대법원 1995. 1. 20., 94다3421 판결", ~ (1995)
  34. "대법원 1999. 3. 26., 98다45379, 45386 판결", ~ (1999)
  35. "대법원 2004. 10. 28., 2002다45185 판결", ~ (2004)
  36. "대법원 2017. 2. 15., 2014다230535 판결", ~ (2017)
  37. American Law Institute, "Restatement(Third)of Agency" (2006), American Law Institute Publishers
  38. Mark A. Hall, "Health Care Law and Ethics" (2018), Wolters Kluwer
  39. A. Michael Froomkin, "When AIs Outperform Doctors: Confronting the Challenges of a Tort-Induced Over-Reliance on Machine Learning", Ariz. L. Rev, 61(33), pp.52~54 (2019)
  40. Andrew D. Selbst, "Negligence and AI’s Human Users", B. U. L. Rev, 100, pp.1315~ (2020)
  41. Barbara J. Evans, "The Future of Medical Device Regulation: Innovation and Protection" (2022), Cambridge University Press
  42. Benny Chan, "Applying a Common Enterprise Theory of Liability to Clinical AI Systems", Am. J. L. & Med, 351, pp.369~ (2021)
  43. Boris Babic, "Beware Explanation from AI in Healthcare", Science, 373, pp.284~ (2021)
  44. Boris Babic, "Algorithms on regulatory lockdown in medicine", Science, 366, pp.1202~ (2019)
  45. Charlotte A. Tschider, "Medical Device Art ㅜificial Intelligence : The New Tort Frontier", BYU L. Rev, 46, pp.1551~ (2021)
  46. David Vladeck, "Machines Without Principals : Liability Rules and Artificial Intelligence", Wash. L. Rev, 89, pp.117~ (2014)
  47. Frances E. Zollers, "No More Soft Landings for Software: Liability for Defects in an Industry That Has Come of Age", Santa Clara Computer & High Tech. L.J, 21, pp.745~ (2004)
  48. Frank Griffin, "Artificial Intelligence and Liability in Health Care", Health Matrix, 31, pp.65~ (2021)
  49. Frank Ursin, "Diagnosing Diabetic Retinopathy With Artificial Intelligence: What Information Should Be Included to Ensure Ethical Informed Consent?", Frontiers in Medicine, 8(1), pp.5~ (2021)
  50. George Maliha, "Artificial Intelligence and Liability in Medicine : Balancing Safety and Innovation", The Milbank Quarterly, 99, pp.629~ (2021)
  51. H. Benjamin Harvey, "Clinical applications of AI in MSK imaging : a liability perspective", Skeletal Radiology, 51, pp.235~ (2022)
  52. I. Glenn Cohen, "Informed Consent and Medical Artificial Intelligence: What to Tell the Patient?", Geo. L.J, 108, pp.1425~ (2020)
  53. Iñigo de Miguel, "Machine learning in the EU health care context:exploring the ethical, legal and social issues", Info. Commc'n & Soc'y, 23, pp.1139~ (2020)
  54. Jim Hawkins, "Transparency in Health and Health Care in the United States 273-85" (2019)
  55. Kevin Tobia, "When Does Physician Use of AI Increase Liaiblity?", J. Nuclear Med, 62, pp.17~ (2021)
  56. Khalifa, "Developing a framework for evidence-based grading and assessment of predictive tools for clinical decision support", BMC Med Inform Decis Mak, 19, pp.1~ (2019)
  57. Latrice G. Landry, "Association of Racial", Ethnic Categories with the Ability of Genetic Tests to Detect a Cause of Cardiomyopathy, 2018, pp.3, 341~
  58. Lawrence B. Solum, "Legal Personhood for Artificial Intelligence", N. C. L. Rev, 70, pp.1231~ (1992)
  59. Maximilian Kiener, "Artificial intelligence in medicine and the disclosure of risks", AI & Soc, 36, pp.705~ (2021)
  60. Maxwell J. Mehlman, "Medical practice guidelines as malpractice safe harbors : illusion or deceit?", J. L., Med. & Ethics, 40, pp.286~ (2012)
  61. Michael D. Scott, "Tort Liability for Vendors of Insecure Software: Has the Time Finally Come", Md. L. Rev, 67, pp.425~ (2007)
  62. Michael Frakes, "The Impact of Medical Liability Standards on Regional Variations in Physician Behavior : Evidence from the Adoption of National-Standard Rules", Am. Econ. Rev, 103, pp.257~ (2013)
  63. Michelle M. Mello, "Of Swords and Shields : The Role of Clinical Practice Guidelines in Medical Malpractice Litigation", U. Penn. L. Rev, 149, pp.645~ (2001)
  64. Philipp Hacker, "Explainable AI under contract and tort law: legal incentives and technological challenges", Artificial Intelligence and Law, 28(415), pp.421~423 (2020)
  65. Robert F. Wolff, "PROBAST : a tool to assess the risk of bias and applicability of prediction model studies", Annals of internal medicine, 170, pp.51~ (2019)
  66. Robert L. Rabin, "Reassessing the Regulation of High-Risk Medical Device Cases", DePaul L. Rev, 68, pp.309~ (2019)
  67. Robert L. Rabin, "Territorial Claims in the Domain of Accident Law : Conflicting Conceptions of Tort Preemption", Brook L. Rev, 74, pp.987~ (2009)
  68. Sara Gerke, "The need for a system view to regulate artificial intelligence", machine learning-based software as a medical device, 2020, pp.53, 1~
  69. Sara Gerke, "Ethical and legal challenges of artificial intelligence-driven healthcare", Artificial intelligence in Healthcare, 314 (2020)
  70. Scott J. Schweikart, "Who Will Be Liable for Medical Malpractice in the Future? How the Use of Artificial Intelligence in Medicine Will Shape Medical Tort Law?", Minn. J. L., Sci. &Tech, 22, pp.1~ (2021)
  71. Timo Minssen, "Regulatory responses to medical machine learning", J. L. & Biosciences, 7, pp.1~ (2020)
  72. Timothy Hall, "Reimagining the Learned Intermediary Rule for the New Pharmaceutical Marketplace", Seton Hall L. Rev, 35 (2005)
  73. W. Nicholson II Price, "Black-Box Medicine", Harv. J. L. & Tech, 28, pp.419~421 (2015)
  74. W. Nicholson Price II, "Medical AI and Contextual Bias", Harv. J. L. & Tech, 33, pp.65~ (2019)
  75. W. Nicholson Price II, "Big Data, Health Law, and Bioethics" (2017)
  76. W. Nicholson Price II, "Potential LIability for Physicians Using Artificial Intelligence", JAMA, 322, pp.1765~ (2019)
  77. W. Nicholson Price II, "Regulating Black-Box Medicine", Mich. L. Rev, 116, pp.421~ (2017)
  78. W. Nicholson Price II, "How Much Can Potential Jurors Tell Us About Liability for Medical Artificial Intelligence?", J. Nuclear Med, 62, pp.15~ (2021)
  79. W. Nicholson Price II, "Artificial Intelligence in Health Care : Applications and Legal Implications", The SciTech Lawyer, 14, pp.1~ (2017)
  80. Ziad Obermeyer, "Dissecting racial bias in an algorithm used to manage the health of populations", Science, 366, pp.447~ (2019)
  81. "Machine learning (AI) accurately predicts cardiac arrest risk" (2021)[URL]
  82. "Explaining Medical AI is Easier Said than Done" (2021)[URL]
  83. "Comm. on Legal Affairs, Eur. Union Parliament, Rep. with Recommendations to the Comm’n on Civ", ~
  84. "L. Rules on Robotics" (2017)[URL]
  85. Eliza Strickland, "Hospitals Roll out AI systems to Keep Patients From Dying of Sepsis", IEEE Spectrum (2018)
  86. "Eur. Comm’n, Directorate-General for Justice and Consumers, Liability for Artificial Intelligence and Other Emerging Digital Technologies" (2019)[URL]
  87. IMDRF AIMD Working Group, "Machine Learning-enabled Medical Devices—A Subset of Artificial Intelligence-enabled Medical Devices: Key Terms and Definitions", ~ (2021)
  88. IMDRF SaMD Working Group, "Software as a Medical Device": Possible Framework for Risk Categorization and Corresponding Considerations", ~ (2014)
  89. IMDRF SaMD Working Group, "Software as a Medical Device (SaMD): Application of Quality Management System", ~ (2015)
  90. IMDRF SaMD Working Group, "Software as a Medical Device (SaMD): Clinical Evaluation", ~ (2017)
  91. IMDRF SaMD Working Group, "Software as a Medical Device (SaMD): Key Definitions", ~ (2013)
  92. Jessica Hamzelou, "AI system is better than human doctors at predicting breast cancer", New Scientist (2020)
  93. "One Third of Orgs Use A.I. in Med. Imaging, Health IT Analytics" (2020)[URL]
  94. "Vinod Khosla: Machines will replace 80 percent of doctors" (2012)[URL]
  95. "Artificial Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device Action Plan" (2021)[URL]
  96. "General Wellness: Policy for Low Risk Devices, Guidance for Industry and Food and Drug Administration Staff" (2019)[URL]
  97. "Guidance on Software as a Medical Device(SAMD): Clinical Evaluation" (2017)[URL]
  98. "How to Study and Market Your Device"[URL]
  99. "Proposed Regulatory Framework for Modifications to Artificial Intelligence /Machine Learning Based Software as a Medical Device (SaMD)" (2019)[URL]
  100. "Proposed Regulatory Framework for Modifications to AI/ML-Based Soft ware as a Medical Device (SaMD)" (2019)[URL]
  101. "Software as a Medical Device"[URL]
  102. "Artificial Intelligence and Machine Learning (AI/ML)-Enabled Medical Devices"[URL]
  103. "Medtronic, Inc. v. Lohr, 518 U.S. 470, 471", ~ (1996)
  104. "Riegel v. Medtronic, Inc., 552 U.S. 312", ~ (2008)
  105. "Tesauro v Perrige, 650 A2d, 1079 (Pa Super Ct 1994)", ~ (1994)

관련 논문AI추천

의료 분야에서 인공지능 활용의 법적 쟁점 – 법적 인격을 중심으로 –윤효영법학연구원 · 법학논총2024 · 제48권 제4호의료 인공지능 활용에 관한 책임 논의 : 미국과 유럽연합의 규제 현황을 중심으로김계현, 임지연법학연구원 · 法學論文集2025 · 제49권 제3호보건의료법제 하에서 인공지능기술의 의료영역 도입의 의의와 법적 문제배현아사단법인 법조협회 · 법조2017 · 제66권 제4호보건의료에서의 인공지능 적용과 관련된 법적 과제에 대한 개관이인영한국의료법학회 · 한국의료법학회지2019 · 제27권 제2호의료 인공지능의 법적 수용을 위한 시론적 연구 - 쟁점과 과제 -정채연법학연구원 · 법학논총2021 · 제45권 제3호의료 인공지능과 설명가능성박혜진한국정보법학회 · 정보법학2023 · 제27권 제3호

이 간행물의 다른 논문 (11건)

팬데믹으로 인한 의료자원의 소진(消盡)시 치료의 우선순위(Triage)안병하pp. 1-29코로나 바이러스 전파와 손해배상책임이재경pp. 31-54미국의 내부자거래방지법 제정 논의의 소개와 시사점김연미pp. 55-74코로나바이러스감염증(Covid-19) 팬데믹과 손해보험김이수pp. 75-99ESG 정보공시와 상장회사의 대응이형규pp. 101-147
원문 보기