본문 바로가기
KERD
논문KCI 등재

인공지능 서비스제공자를 위한 인공지능 서비스과정에서의 개인정보보호 컴플라이언스 개발 및 중요도 분석

The Development and importance analysis of compliance for personal information protection in the AI service process for A service providers

신영진
한국지역정보화학회 (The Korean Association For Regional Information Society)|2022.06|한국지역정보화학회지 (JOURNAL OF KOREAN ASSOCIATION FOR REGIONAL INFORMATION SOCIETY)|제25권 제2호|pp. 1-29|DOI 10.22896/karis.2022.25.2.001

0

조회

0

다운로드

5

인용

0

참고문헌

키워드

인공지능개인정보보호complianceartificial intelligence지능정보사회지능정보기술personal information protection컴플라이언스intelligent information societyintelligent information technology인공지능 서비스제공자artificial intelligence service provider

초록

우리나라는 지능정보사회를 구현하기 위해 지능정보기술을 다양한 분야에 적용하고 있다. 그러나, 다양한 분야에서 인공지능 서비스를 결합하고 있음에도 불구하고, 개인정보보호를 비롯한 각종 개인정보 침해위협에 대응하는 보호조치가 미흡한 실정이다. 비록, 주요 정보화국가에서 인공지능 서비스에서의 개인정보보호를 위한 정책이 추진되고 있음에도 불구하고, 아직 인공지능 서비스제공자를 위한 구체적인 개인정보보호 컴플라언스를 마련하고 있지 못하다. 따라서, 본 연구에서는 인공지능 서비스제공자를 위해 스스로 안전한 인공지능 서비스환경을 구현할 수 있도록 실질적인 개인정보보호 기준을 마련하고자 한다. 이에 따라 본 연구에서는 인공지능 서비스과정에서 필요한 개인정보보호 준수사항을 문헌분석을 통해 도출하였는데, 그 과정에서 전문가 대상의 FGI 및 Delphi분석을 통해 실행에 적합한 기준을 컴플라이언스로 선정하였다. 이에 대해 관련분야의 전문가들을 대상으로 AHP기법을 적용한 9점 척도 및 리커토 5점 척도를 활용한 설문조사를 하였는데, 3개의 인공지능 서비스과정, 9개의 개인정보 처리단계 및 각 단계별 구성요소에 관한 중요도에 따라 우선적으로 실행할 수 있도록 제안하고자 하였다. 그 결과, 인공지능 서비스과정에서는 기획, 데이터 설계 및 수집과정에서의 개인정보보호(0.5722)가 가장 중요하며, 개인정보 처리단계에서는 서비스 기획 및 데이터 설계단계에서의 개인정보보호(0.3266)가 우선되어야 한다. 또한, 각 단계를 구성하는 컴플라이언스의 요소 중에서는 인공지능 서비스의 기획단계에서 적용하는 개인정보 영향평가를 실시하는 것(0.0853)이 가장 중요하며, 사전예방적 효과가 큰 것으로 볼 수 있었다. 이처럼 인공지능 서비스과정에서 세분화된 개인정보보호 컴플라이언스를 활용하여 안전하고 안심할 수 있는 서비스를 구현해 나가야 할 것이다.

Abstract

South Korea is applying intelligent information technology to various fields to realize an intelligent information society. However, despite combining artificial intelligence services in various fields, the protection measures against various threats of personal information infringement, including personal information protection, are insufficient. Although policies to protect personal information in artificial intelligence services are being promoted in major information-oriented countries, there is not yet specific compliance of personal information protection for AI service providers. Therefore, this study intended to prepare practical personal information protection standards so that AI service providers can implement a safe AI service environment on their own. Accordingly, in this study, the requirements for personal information protection in the AI service process were derived through literature analysis. In the process, the suitable standards to implement compliance were selected through FGI and Delphi analysis of experts. In this regard, a survey was conducted using the AHP 9-point scale and the Rickerto 5-point scale for related experts. It was proposed the priority and importance implemented compliance for personal information protection. As a result, in the AI service process, personal information protection in the planning, data design, and collection process is the most important (0.5722), and in the personal information processing stage, personal information protection) in the service planning and data design stage should be prioritized (0.3266. In addition, among the elements of compliance constituting each stage, it is most important to conduct a personal information impact assessment applied in the planning stage of AI service (0.0853). In this way, it is necessary to implement that is safe and secure by utilizing the fragmented personal information protection compliance in the AI service process.

참고문헌 (69)

  1. "인공지능 스피커가 '사생활 침해' 주범?" (2019)[URL]
  2. 과학기술정보통신부, "인공지능 학습용 데이터셋 구축안내서", ~ (2021)
  3. 관계부처합동, "개인정보 비식별조치가이드라인", ~ (2018)
  4. "GDPR 22조에 따른 자동화된 의사결정 관련 규제 내용 살펴보기" (2021), 개인정보보호 블로그[URL]
  5. 사물인터넷시대의 개인정보 침해요인 분석 및 실제사례 조사, "개인정보보호위원회", 개인정보보호위원회, ~ (2015)
  6. 개인정보보호위원회, "가명정보 처리 가이드라인", ~ (2020)
  7. 개인정보보호위원회, "인공지능(AI) 개인정보보호 자율점검표", ~ (2021)
  8. 개인정보보호위원회, "개인정보 영향평가수행안내서", 60~61 (2020)
  9. 개인정보보호위원회, "인공지능과 개인정보보호", 제6차 가명정보전문가양성교육자료, ~ (2021)
  10. 김동희, "IoT 서비스를 위한 보안", 한국통신학회지(정보와통신), 30(8), pp.53~59 (2013)
  11. "2021년 보안위협분석을 통한 2022년 보안위협 및 보안기술 전망"[URL]
  12. 김성용, "인공지능의 개인정보 자동화 처리가 야기하는 차별 문제에 관한 연구", 서울대학교 법학, 60(2), pp.311~362 (2019), 법학연구소[DOI]
  13. 김용대, "인공지능산업 육성을 위한 개인정보보호 규제 발전 방향", 경제규제와 법, 9(2), pp.161~176 (2016), 법학연구소
  14. 인공지능 및 로보틱스 분야의 개인정보 보호에 관한 연구, "김종현", 개인정보보호위원회, ~ (2016)
  15. "계층화분석(AHP)의 적용절차", 노유진의 AHP를 활용한 학술연구조성사업발전방향에 관한 연구네이버블로그[URL]
  16. "클라우드 서비스의 개인정보보호를 위한 국제 표준ISO/IEC 27018" (2021), 네이버 개인정보보호블로그[URL]
  17. 류현숙, "인공지능 위험정책 필요성에 대한 실증적 고찰: AHP 조사결과를 중심으로", 입법과 정책, 9(3), pp.55~81 (2017), 국회입법조사처[DOI]
  18. 문종혁, "신뢰성있는 딥러닝 기반 분석 모델을 참조하기 위한 딥러닝 기술 언어", 정보처리학회 논문지, 10(4), pp.133~142 (2021), 한국정보처리학회
  19. 미래창조과학부, "지능정보사회 도래에 대비한 중장기 국가전략 수립", 미래창조과학부보도자료, ~ (2016)
  20. 지능정보사회 중장기 종합대책(안), "방송통신위원회", ~ (2020)
  21. "민감정보와 고유식별정보의 처리 제한", 법제처 찾기 쉬운 생활법령정보[URL]
  22. 봉기환, "4차 산업혁명 시대 신기술 서비스의 개인정보 처리 실태 및 침해요인", 정보보호학회지, 30(5), pp.121~126 (2020)
  23. 손순주, "인공지능 윤리원칙 분류 모델에 관한 고찰", 한국컴퓨터교육학회 학술발표대회논문집, 25(2), pp.111~114 (2021)
  24. 송은지, "주요국의 인공지능과 데이터보호 정책 동향 분석-영국과 싱가포르의 가이드를 중심으로", 주간기술동향, pp.14~26 (2021), 정보통신기획평가원
  25. 신영진, "IoT서비스주체를 위한 개인정보보호 프레임워크 및 적합성 평가기준의 개발과적 용방안에 관한 연구", 한국지역정보화학회지, 23(2), pp.83~117 (2020), 한국지역정보화학회[DOI]
  26. 신영진, "안전한 지능형 정부 구현을 위한 개선방안 연구 -인공지능기술 적용에 따른 역기능 방지 및 개인정보보호를 중심으로-", 한국범죄정보연구, 6(2), pp.135~162 (2020), 한국사회안전 범죄정보학회[DOI]
  27. 신영진, "우리나라의 인공지능(AI)서비스를 위한 개인정보보호 개선방안", 융합정보논문지, 11(3), pp.20~33 (2021), 중소기업융합학회[DOI]
  28. 신영진, "AI서비스에서의 개인정보보호를 위한 책임과 원칙의 적용에 관한 연구", 한국범죄정보연구, 7(1), pp.45~74 (2021), 한국사회안전 범죄정보학회
  29. 신영진, "인공지능 서비스에서의 개인정보 침해대응 위기관리체계와 침해요인과의영향도 분석", 한국행정학회동계학술대회발표집 (2021)
  30. 인공지능(AI)과 프라이버시의 역설: AI음성비서를 중심으로, "심홍진", KISDI, ~ (2018)
  31. 양종모, "인공지능 챗봇 알고리즘에 대한 몇 가지 법적 고찰", 홍익법학, 21(1), pp.449~482 (2020), 법학연구소[DOI]
  32. 인공지능환경의 프라이버시 보호방안 연구, "유진호", 한국인터넷진흥원, ~ (2020)
  33. 기만공격에 의한 AI 역기능 방지 기술 개발 최종보고서, "이병국", 과학기술정보통신부 정보통신기획평가원, ~ (2021)
  34. 임채호, "심리적 보안관점에서의 사이버범죄 프로파일링", 정보보호학회논문지, 19(4), pp.115~124 (2009), 한국정보보호학회
  35. 장현미, "스마트 기기 환경에서의 개인정보 취급자를 위한 개인정보보호 프레임워크", 보안공학연구논문지, 11(1), pp.13~24 (2014), 보안공학연구지원센터[DOI]
  36. 전정훈, "사물 인터넷의 보안 위협 요인들에 대한 분석", 융합보안 논문지, 15(7), pp.47~53 (2015), 한국융합보안학회
  37. 정보통신정책연구원, "인공지능과 프라이버시의 역설", ~ (2019)
  38. 최경진, "빅데이터·사물인터넷 시대 개인정보보호법제의 발전적 전환을 위한 연구", 중앙법학, 17(4), pp.7~50 (2015), 중앙법학회[DOI]
  39. "글로벌 인공지능 시장, 오는 2025년 350조 8천억원 규모로 성장할 것.." (2020)[URL]
  40. 한국신용정보원, "AI 기술·시장 동향: 핵심기술, 시장규모, 사업리스크 중심으로", ~ (2020)
  41. 가정용 스마트 기기의 개인정보 침해 사례 및 최근동향. 해외 개인정보보호 동향보고서, "한국인터넷진흥원", ~ (2019)
  42. 한국인터넷진흥원, "｢인공지능 산업 육성을 위한 개인정보보호 정책 개선방안 연구｢ 용역 제안요청서", ~ (2020)
  43. 우리나라 AI 기업 현황 조사 보고서, "한국정보화진흥원", 1~119 (2017)
  44. 인공지능 악용에 따른 위협과 대응방안, "한국정보화진흥원", NIA, ~ (2018)
  45. 행정안전부, "개인정보 비식별 조치 가이드라인", ~ (2016)
  46. 행정안전부, "개인정보 영향평가 수행안내서", ~ (2018)
  47. 황용석, "인공지능(Artificial Intelligence: AI) 스피커 이용자의 인지지도와 잠재된 프라이버시 인식", 사이버커뮤니케이션학보, 37(3), pp.195~231 (2020), 사이버커뮤니케이션학회[DOI]
  48. "The Origins of Personal Data and its Implications for Governance. The “provi ded” and “observed” categories are self-explanatory referring, respectively, to infor mation that is made available by the individual or observed about the individual"[URL]
  49. Joe O’Callaghan, "Inferential Privacy and Artificial Intelligence - a new frontier? -", 경제규제와 법, 11(2), pp.72~89 (2018), 법학연구소
  50. Artificial Intelligence : Australia's Ethics Framework, "Australian Government(Department of Industry, Sciences, Energy and Resources)", ~ (2019)
  51. "데이터 아키텍쳐"[URL]
  52. "Data Architecture Reference Model" (2016)[URL]
  53. Edward Curry, "The Elements of Big Data Value: Foundations of the Research and Innovation Ecosystem" (2021), Springer International Publishing
  54. EUROPEAN COMMISSION, "WHITE PAPER On Artificial Intelligence - A European approach to excellence and trust" (2020)
  55. Europan Parlianment, "EU guidelines on ethics in artificial intelligence: Context and implementation", ~ (2019)
  56. EU, "General Data Protection Regulation", ~ (2016)
  57. 김태오, "인공지능과 개인정보보호 - 불필요한 갈등 증가에 대한 관견(管見) -", 경제규제와 법, 11(2), pp.131~146 (2018), 법학연구소
  58. "ARTIFICIAL INTELLIGENCE AND CONSUMER PRIVACY. NBER WORKING PAPER 24253" (2018)[URL]
  59. "IDC Forecasts Companies to Increase Spend on AI Solutions by 19.6% in 2022" (2022)[URL]
  60. 윤혜선, "추론적 프라이버시와 인공지능 – 새로운 경계선인가?", 경제규제와 법, 11(2), pp.90~106 (2018), 법학연구소
  61. "Top Five Data Privacy Issues that Artificial Intelligence and Machine Learning Startups Need to Know" (2020)[URL]
  62. Luciano Floridi, "AI4People—An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations", Minds and Machines, 28, pp.689~707 (2018)
  63. "클라우드 보안 보증"[URL]
  64. Attacking Artificial Intelligence, "Marcus Comiter", Harvard Kennedy School Belifer Center for Science and International Affairs, ~ (2019)
  65. Artificial Intelligence in Cybersecurity Market by Offering (Hardware, Software, and Service), Deployment Type, Security Type, Technology (ML, NLP, and Context-Aware), Application (IAM, DLP, and UTM), End User, and Geography- Global Forecast to 2026, "Markets and Markets", Markets and Markets, ~ (2019)
  66. R. W. Saaty, "The Analytic Hierarchy Process-What it is and how it is used", Mat, 1987, pp.9(3-5), 161~176

관련 논문AI추천

지능정보사회의 안전한 인공지능 서비스 구현을 위한 개인정보 침해대응 및 위기관리 컴플라이언스 개발에 관한 연구신영진중소기업융합학회 · 융합정보논문지2022 · 제12권 제5호우리나라의 인공지능(AI)서비스를 위한 개인정보보호 개선방안신영진중소기업융합학회 · 융합정보논문지2021 · 제11권 제3호AI연계 메타버스 서비스에서의 개인정보보호에 관한 연구: 전문가 대상 중요도 분석을 중심으로신영진한국지역정보화학회 · 한국지역정보화학회지2025 · 제28권 제2호인공지능 서비스의 프라이버시 침해에 관한 연구이한성, 조영복한국실천공학교육학회 · 실천공학교육논문지2025 · 제17권 제5호인공지능 시스템에서 개인정보 처리방침 수립을 위한 법적·기술적 요구사항 분석 연구이경현, 전주현한국정보보호학회 · 정보보호학회논문지2024 · 제34권 제5호IoT서비스제공자가 준수해야 할 개인정보보호 프레임워크의 개발 방안신영진중소기업융합학회 · 융합정보논문지2020 · 제10권 제7호

이 간행물의 다른 논문 (3건)

디지털매체시대 대학생들의 사이버윤리 (Cyber_Ethics)행태분석: 2007년과 2020년의 비교분석이기식pp. 31-64스마트시티 서비스 위험요인의 우선순위에 관한 연구오주연, 서우종pp. 65-85코로나19 팬데믹 이후 미국 사이버보안 정책의 변화와 연속성에 관한 연구김근혜, 박규동pp. 87-121
원문 보기