본문 바로가기
KERD
논문KCI 등재

인공지능의 신뢰에 관한 연구

A Study on the Trust of Artificial Intelligence

김길수
한국자치행정학회 (The korean Association for Local Government & Administration Studies)|2020.09|한국자치행정학보 (Korean Journal of Local Government & Administration Studies)|제34권 제3호|pp. 21-41|DOI 10.18398/kjlgas.2020.34.3.21

0

조회

0

다운로드

12

인용

0

참고문헌

키워드

신뢰TrustArtificial Intelligence(AI)인공지능(AI)Technology Trust기술신뢰인공지능 신뢰대상인공지능 신뢰 구성요소AI Trust ObjectsAI trust Components

초록

인공지능의 개발 역사는 짧지만, 우리 생활의 일부가 되었으며 빠르게 확산되고 있다. 인공지능기술의 활용으로 인간의 한계를 극복하고 능력이 증강되어 인간 상태를 증진할 수 있었다. 인공지능에 대해 일반대중들은 기대와 우려를 동시에 갖고 있다. 인공지능을 신뢰할 수 있을 때 이 기술이 제공하는 사회적, 경제적 혜택을 누릴 수 있다. 본 연구는 이러한 인식하에 인공지능 기술의 신뢰대상을 식별하고, 구성요소를 탐색하였다. 신뢰의 대상으로는 인간, 기술 그리고 법․제도 등을 식별하였고, 구성요소로 공정성, 투명성․설명가능성, 책임성, 견고성, 프라이버시 보호, 안전성을 탐색하였다. 이를 바탕으로 인공지능 기술의 신뢰에 대한 개념적 준거틀을 제시하였다. 본 연구에서의 인공지능 기술에 대한 신뢰성의 연구는 개념적인 수준에서 이루어졌기 때문에, 인공지능 기술의 개발과 적용과정에서 실제 적용할 수 있는 메커니즘의 개발로 이어져야 한다.

Abstract

Although the history of artificial intelligence is short, it has become a part of our lives and is spreading rapidly. The use of artificial intelligence technology was able to overcome the limitations of humans and augment the human state by enhancing their capabilities. The general public has both expectations and concerns about artificial intelligence. When we can trust artificial intelligence, we can enjoy the social and economic benefits of this technology. This study identified the trust object of artificial intelligence technology and explored its components under this recognition. Human, technology, and laws and institutions were identified as objects of trust, and fairness, transparency․ explainability, accountability, robustness, privacy protection, and safety were explored as its components. Based on this findings, a conceptual framework for trust in artificial intelligence technology was presented. Since the research on the trust of artificial intelligence technology in this study was conducted at a conceptual level, it should lead to the development of mechanisms that can be practically applied in the development and application process of artificial intelligence technology.

참고문헌 (43)

  1. 김길수, "공공부문에서 인공지능 활용에 관한 연구", 한국자치행정학보, 33(1), pp.27~47 (2019), 한국자치행정학회[DOI]
  2. 김길수, "인공지능 거버넌스에 관한 탐색적 연구", 한국자치행정학보, 33(2), pp.219~236 (2019), 한국자치행정학회[DOI]
  3. 김문구, "인공지능의 신뢰 이슈와 대응 방안", Innovation & Future Trend, 414, pp.48~51 (2018)
  4. 김윤정, "인공지능 기술 발전에 따른 이슈와 대응방안", KISTEP Issue Weekly (2018), 한국과학기술기획평가원
  5. 인공지능 기술의 활용과 발전을 위한 제도 및 정책이슈, "김윤정", 한국과학기술기획평가원, ~, pp.ISSUE PAPER 2016-07 (2016)
  6. 박통희, "신뢰의 개념에 대한 비판적 검토와 재구성", 한국행정학보, 33(2), pp.1~17 (1999)
  7. 박통희, "조직구성원간 신뢰와 " 연줄 " : 사회적 범주화를 중심으로", 한국행정학보, 34(2), pp.101~120 (2000)
  8. 박희봉, "사회자본 : 불신에서 신뢰로, 갈등에서 협력으로" (2009), 조명문화사
  9. 이용자 중심의 지능정보사회를 위한 원칙, "방송통신위원회", 방송통신위원회 보도자료, ~ (2019)
  10. 山岸俊男, "신뢰의 구조 : 동․서양의 비교" (1998), 교육과학사
  11. "신뢰이론. 온라인행정학사전" (2001), 원숙연[URL]
  12. "BLOG_인공지능의 장점과 한계" (2017), 이글루시큐리티[URL]
  13. 한국전자통신연구원, "인공지능과 신뢰 : 이슈와 대응방안" (2017), 한국전자통신연구원
  14. 한국정보화진흥원, "공공기관 신뢰 가능 AI 구현 실용 가이드 : OECD 권고안의 적용" (2019)
  15. "알파고 제로’ 이후, 인공지능은 친구인가, 적인가?...마크 저커버그 vs 엘론 머스크 대논쟁: 인공지능의 섬뜩한 미래(2) 기술적 특이점이 다가오고 있는 징조들" (2017), 홍익희[URL]
  16. "The Logic and Limit of Trust" (1983)[URL]
  17. Friedman, B, "Trust Online. Comm", ACM, 43(12), pp.34~40
  18. Fukuyama, Francis, "트러스트" (1995), 한국경제신문 한경BP
  19. "Applied Artificial Intelligence and Trust : The Case of Autonomous Vehicles and Medical Assistance Devices"[URL]
  20. JARVENPAA, S. L, "Communication and Trust in Global Virtual Teams", Organiz. Sci, 10(6), pp.791~815 (1998)
  21. Komiak, S. Y. X, "The Effects of Personalization and Familiarity on Trust and Adoption of Recommendation Agents", MIS Quart, 30(4), pp.941~960 (2006)
  22. Li, Xin, "Why Do We Trust New Technology? A Study of Initial Trust Formation with Organizational Information Systems", Journal of Strategic Information Systems, 17 (2009)
  23. Mayer, R. C, "An Integrative Model of Organizational Trust", Academy of Management Review, 20(3) (1995)
  24. McKnight, D. H, "The Blackwell Encyclopedia of Management, Management Information Systems" (2005), Blackwell, Malden
  25. McKnight, D. H, "The meanings of trust" (1996), University of Minnesota MIS Research
  26. McKnight, D. H, "Developing and Validating Trust Measures for E-commerce: An Integrative Typology", Inf. Syst, 13(3), pp.334~359 (2002)
  27. McKnight, D. Harrison, "Initial Trust Formation in New Organizational Relationships", Academy of Management Review, 23(3) (1998)
  28. McKnight, D.H, "Transactions on Management Information Systems", pp.12~ (2011)
  29. "A Proposed Model Artificial Intelligence Governance Framework" (2019)[URL]
  30. Rousseau, D. M, "Not so Different after all : a Cross-discipline View of Trust", Academy of Management Review, 23(1), pp.393~404
  31. "Trustworthy AI is a Framework to Help Manage Unique Risk. MIT Technology Review" (2020)[URL]
  32. "Building Customer Trust in Mobile Commerce" (2003)[URL]
  33. "Building Trust in Artificial Intelligence, Machine Learning, and Robotics" (2018)[URL]
  34. Wang, W, "Trust in and Adoption of Online Recommendation Agents", J. Assoc. Inf. Syst, 6(3), pp.72~101 (2005)

관련 논문AI추천

인공지능 거버넌스에서 신뢰 개념에 대한 고찰 및 정책 유형화 연구김수지, 우지숙법학연구소 · 경제규제와 법2024 · 제17권 제2호신뢰할 수 있는 인공지능의 이론적 고찰박도현한국법철학회 · 법철학연구2022 · 제25권 제2호신뢰의 관점에서 본 인공지능 규제이제희법학연구원 · 법학논총2025 · 제32권 제2호AI 윤리 기준을 활용한 AI 윤리교육 방안 연구이인재한국초등도덕교육학회 · 초등도덕교육2022 · 제76호개인정보 공개 상황에서 인공지능 에이전트 신뢰 지각에 영향을 미치는 요인김정원, 성용준한국소비자학회 · 소비자학연구2023 · 제34권 제3호인간의 윤리로서 인공지능윤리 -인공지능윤리의 가치와 자리-김문정, 심지원, 이은재동서사상연구소 · 철학∙사상∙문화2022 · 제38호

이 간행물의 다른 논문 (14건)

한국과 일본의 상수도서비스 운영 및 요금체계 비교 연구김성찬, 김용승pp. 1-20지역사회 주민역량과 지역사회 만족의 영향 관계에서 지역사회 리더 경험의 조절효과김두순pp. 43-61궁궐활용 사업의 소비자 만족도 및 권유의사에 관한 실증연구황성수, 이민우pp. 63-81사회경제적 요인이 아동의 건강불평등에 미치는 영향 –건강행태와 심리사회적 요인의 매개효과–김순규, 이주재pp. 83-99국책사업 예비타당성 조사 면제를 둘러싼 정치경제학적 논의 –지대 추구론을 중심으로–박민정pp. 101-123
원문 보기