본문 바로가기
KERD
논문KCI 등재

헬스케어 인공지능 기술의 편향과 윤리적 이슈: 설계와 활용 단계를 중심으로

Ethical Issues on Healthcare Artificial Intelligence and Bias: Based on Phase of Design and Use

정원섭|장윤정
인간환경미래연구원 (Institute of Human, Environment & Future)|2023.10|인간.환경.미래 (Human Beings, Environment and Their Future)|제31호|pp. 197-214|DOI 10.34162/hefins.2023..31.008

1

조회

0

다운로드

3

인용

0

참고문헌

키워드

인공지능알고리즘Artificial IntelligenceEthics편향Healthcare윤리AlgorithmBias헬스케어
주제분류철학

초록

인공지능 기술은 헬스케어에서 의사결정지원도구로 진단과 예측, 신약 개발 등에 다양하게 활용되고 있다. 그러나 인공지능 기술을 활용하는 과정에서 예상하지 못한 편향으로 인해 다양한 부작용이 등장하면서, 이에 대한 사회적 논란과 더불어 심각한 우려가 나타나고 있다. 인공지능의 편향과 관련하여 인공지능 기술의 설계와 활용에 따른 단계적 접근 즉, (1) 보건 의료 현장에서의 편향, (2) 데이터 편향, (3) 헬스케어 인공지능 설계와 알고리즘 개발에서의 편향, (4) 헬스케어 인공지능의 사업화와 활용에서의 편향으로 구분하여 분석할 수 있다. 이러한 편향은 최근 코로나19 감염병 관련 인공지능 연구에서도 관찰되었다. 헬스케어 인공지능 기술을 윤리적으로 바람직한 방향으로 개발하기 위해서는 이 분야에 등장할 수 있는 편향을 최소화하는 일환으로 데이터의 적절성과 형평성, 투명성을 높이기 위한 노력이 필요하다.

Abstract

Artificial Intelligence (AI) in healthcare is being used for decision support aid, diagnosis, prediction, and new drug development. However, serious social concerns of AI harms are increasing, as AI has caused unexpected social issues and side effects from AI bias. AI bias could be described with 4 domains from AI design and use: (1) healthcare real-world bias, (2) data bias, (3) healthcare AI bias from design and development, (4) AI bias from business and use. Lots of bias was revealed in AI models with COVID-19 researches. For ethical development and reducing bias in healthcare AI data appropriateness, fairness and transparency were needed.

참고문헌 (35)

  1. 김동진, "의료패널자료를 활용한 우리나라의 의료이용 불평등 측정", 보건사회연구, 34(3), pp.33~58 (2014), 한국보건사회연구원[DOI]
  2. 건강보험청구질병코드와 의무기록 일치도 평가 및 제고방안, "박은철", 건강보험심사평가원, ~ (2018)
  3. 이유경, "진단법의 임상시험연구와 진단정확도", Journal of Genetic Medicine, 8(1), pp.28~34 (2011), 대한의학유전학회
  4. 정원섭, "인공지능 알고리즘의 편향성과 공정성", 인간.환경.미래, (25), pp.55~73 (2020), 인간환경미래연구원[DOI]
  5. 정원섭, "인공지능의 편향과 챗봇의 일탈" (2022), 세창출판사
  6. 하대청, "휠체어 탄 인공지능: 자율적 기술에서 상호의존과 돌봄의 기술로", 과학기술학연구, 19(2), pp.169~206 (2019), 한국과학기술학회[DOI]
  7. Bai, X., "Advancing COVID-19 Diagnosis with Privacy-Preserving Collaboration in Artificial Intelligence", ArXiv, 1081~1089 (2021)
  8. Bump, J. B., "International Collaboration and Covid-19 : what are we doing and where are we going?", BMJ, 372, pp.180~ (2021)
  9. David, L., "Automation bias and verification complexity : a systematic review", JAMIA, 24(2), pp.423~431 (2017)
  10. Holmes, S. M., "Misdiagnosis, Mistreatment, and Harm-When Medical Care Ignores Social Forces", The New England Journal of Medicine, 382(12), pp.1083~1086 (2020)
  11. Johnson, T. J., "Intersection of Bias, Structural Racism, and Social Determinants With Health Care Inequities", Pediatrics, 146(2), pp.e202000365~ (2020)
  12. Kilkenny, M., "Data quality : ‘Garbage in-garbage out’Health", Health Information Management Journal, 47(3), pp.103~105 (2018)
  13. Leslie, D., "Does "AI" stand for augmenting inequality in the era of covid-19 healthcare?", BMJ, 372, pp.304~ (2021)
  14. Lyell, D., "Automation bias and verification complexity : a systematic review", JAMIA, 24(2), pp.423~431 (2017)
  15. Medicine National Academies of Sciences, Engineering, "Data Science for Undergraduates: Opportunities and Options" (2014), The National Academies Press
  16. Moons, K. G. M., "PROBAST: A Tool to Assess Risk of Bias and Applicability of Prediction Model Studies: Explanation and Elaboration", Annals of Internal Medicine, 170(1), pp.W1~W33 (2019)
  17. National Academies of Sciences, "Data science for undergraduates : opportunities and options" (2018), National Academies Press
  18. Naef, Aileen C., "Effects of immersive virtual reality on sensory overload in a random sample of critically ill patients, Frontiers in Medicine", Intensive Care Medicine and Anesthesiology, 10(2023) (2023)
  19. Norori, N., "Addressing bias in big data and AI for health care : A call for open science", New York : Patterns, 2(10), pp.100347~100347 (2021)
  20. Panch, T., "Artificial intelligence and algorithmic bias : implications for health systems", Journal of Global Health, 9(2), pp.020318~ (2019)
  21. Paul-Emile, K., "Addressing Patient Bias Toward Health Care Workers : Recommendations for Medical Centers", Annals of Internal Medicine, 173(6), pp.468~473 (2020)
  22. Roberts, M., "Common pitfalls and recommendations for using machine learning to detect and prognosticate for COVID-19 using chest radiographs and CT scans", Nature Machine Intelligence, 3(3), pp.199~217 (2021)
  23. Ruamviboonsuk, P., "Artificial Intelligence in the Assessment of Macular Disorders", pp.89~118 (2020), Springer
  24. Straw, I., "The automation of bias in medical Artificial Intelligence(AI) : Decoding the past to create a better future", Artificial Intelligence in Medicine, 110, pp.101965~101965 (2020)
  25. "Using Artificial Intelligence to Support Healthcare Decisions: A Guide for Society", KAIST Korea Policy Center for the Fourth Industrial Revolution, ~ (2021)
  26. Wynants, L., "Prediction models for diagnosis and prognosis of covid-19 : systematic review and critical appraisal", BMJ, 369, pp.m1328~ (2020)
  27. Wynants, L., "Update to living systematic review on prediction models for diagnosis and prognosis of covid-19", BMJ, 2021, pp.372~236 (2022)
  28. World Health Organization, "Ethics and Governace of Artificial Intelligence For Health", WHO Guidance, ~ (2021)
  29. 과기정부통신부 정보통신정책연구원, "인공지능 (AI) 윤리기준", 2020.12.12. 보도자료, ~ (2020)
  30. 과학기술정보통신부, "2021 디지털정보격차실태조사결과", 2021.05.13. 보도자료, ~ (2021)
  31. 보건복지부, "보건의료데이터·인공지능 혁신전략(‘21-’25)", 2021.06.03. 보도자료, ~ (2021)
  32. 식품의약품안전처, "국내에서 개발한 인공지능(AI)기반 의료기기 첫 허가", 2018.05.16. 보도자료, ~ (2018)
  33. "4 Stages of Ethical AI: Algorithmic Bias is Not the Problem but Part of the Solution" (2020)[URL]
  34. "For fair and equal healthcare, we need fair and bias-free AI" (2020)[URL]
  35. "For fair and equal healthcare, we need fair and bias-free AI" (2020)[URL]

관련 논문AI추천

보건의료영역 인공지능 윤리 원칙과 고려사항문기업, 손유미, 양지현, 이일학, 최은경한국의료윤리학회 · 한국의료윤리학회지2023 · 제26권 제2호보건의료 분야 인공지능 연구자를 위한 연구윤리 지침 개발김소윤, 김수민, 김은애, 김준혁, 김한나, 심진아, 이유리, 이정임한국의료법학회 · 한국의료법학회지2023 · 제31권 제1호인공지능이 생명의료 영역에 제기하는 윤리 문제추정완한국윤리학회 · 倫理硏究2021 · 제1권 제133호의료 영역의 인공지능 윤리와 환자 자율성 -인공지능 윤리와 공동의사결정을 중심으로-김혜경, 허유선동서사상연구소 · 철학∙사상∙문화2024 · 제45호인공지능과 데이터 윤리에 관한 소고(小考): 인공지능에 활용되는 헬스 데이터를 중심으로박미정한국의료윤리학회 · 한국의료윤리학회지2019 · 제22권 제3호보건의료법제 하에서 인공지능기술의 의료영역 도입의 의의와 법적 문제배현아사단법인 법조협회 · 법조2017 · 제66권 제4호

이 간행물의 다른 논문 (9건)

유명론과 언어적 전환 - 인문 교육의 힘백도형pp. 3-26신유물론의 교육적 함의 탐색윤옥한pp. 27-52『채근담』 번역의 한국 근현대사적 의의 - 한용운과 조지훈의 경우를 중심으로-박재현pp. 53-80<짐승 말 알아듣는 며느리> 설화의 공동체 의식과 공생의 방식정규식pp. 81-106신神을 대접하는 방식과 동지를 쇠는 의례로서 팥죽 뿌리기김용갑, 박혜경pp. 107-142
원문 보기