본문 바로가기
KERD
논문KCI 등재

온라인플랫폼 상품검색·추천의 투명성 제고 방안 연구

Enhancing Transparency in Product Search and Recommendation Services of Online Platforms

유연주|여정성
한국소비자정책교육학회 (Korean Society of Consumer Policy and Education)|2023.06|소비자정책교육연구 (Consumer Policy and Education Review)|제19권 제2호|pp. 61-88

0

조회

0

다운로드

1

인용

0

참고문헌

키워드

투명성transparencyonline platform온라인플랫폼AI algorithmAI 알고리즘소비자 데이터상품검색․추천product search and recommendationconsumer data

초록

온라인플랫폼의 상품검색․추천은 소비자 경험을 개선하고 플랫폼의 경쟁력을 유지하기 위한 핵심 서비스로, 검색이나 추천 결과의 순서를 개인화하기 위해 점차 다양한 소비자 데이터와 복잡한 AI 알고리즘이 활용되고 있다. 상품검색․추천은 소비자선택에 핵심적인 영향을 미치지만, 소비자는 이 과정에서 자신의 어떤 데이터가 어떻게 활용되며, AI 알고리즘이 어떤 원리로 작동하는지, 더 나아가 자신이 어떤 영향을 받는지 인식하기 어렵다. 따라서 소비자의 알 권리를 충족하고 합리적이고 자율적인 선택을 보장하기 위해 온라인플랫폼 상품검색․추천의 투명성이 제고되어야 한다. 본 연구는 온라인플랫폼 상품검색․추천의 투명성 제고를 위한 방안을 마련하고자 다양한 분야의 전문가를 대상으로 델파이 조사를 실시하였다. 분석 결과, 전문가들은 온라인플랫폼 상품검색․추천이 소비자에게 미치는 영향력은 막대한 반면 이에 대한 소비자의 관심 및 지식의 수준은 낮은 것으로 평가했다. 투명성 제고를 위한 정부의 자율규제 노력과 기업의 자발적인 움직임이 이루어지고 있으나 부족함이 있다고 판단되었으며, 이에 투명성을 제고하기 위해 AI 알고리즘 관리․감독, 소비자 관심 제고를 위한 교육 프로그램 마련 등의 다양한 기제들이 도출되었다. 또, 이를 구현하기 위해서는 높은 실행력을 담보할 수 있는 민․관의 공동 규제가 가장 효율적인 규제 방식일 것으로 판단되었다. 이처럼 온라인플랫폼의 상품검색․추천이 소비자에 미치는 영향을 고려한다면 투명성 제고에 대한 논의가 추후 보다 적극적으로 전개될 필요가 있다. 정부가 추구하는 민간 주도의 자율규제가 실효성 있게 운영되기 위해서는 정부와 기업의 협력이 중요할 것이며, 투명성 제고를 위한 제도적, 교육적, 기술적 차원의 다양한 노력이 병행되어야 할 것으로 사료된다.

Abstract

Online platforms use product search and recommendation services to provide optimal results based on individual preferences and needs, and the services are gradually evolving in the direction of utilizing various consumer data and complex AI algorithms to personalize the order of results. Product search and recommendation services have a huge impact on consumer choices, however, it is difficult for consumers to recognize how and which data is used, how AI algorithms work, and furthermore, how they are affected by AI algorithms. Therefore, in order to secure consumer rights, it is important to enhance transparency in online product search and recommendation services. This study aimed to come up with measures to enhance transparency in product search and recommendation services of online platforms. This study conducted Delphi surveys for experts to gather opinions on measures to enhance transparency. The main results of this study are as follows. First, experts’ evaluations showed that the services have a great impact on consumers. On the other hand, the level of consumers’ interest and knowledge was evaluated to be low. Experts judged that both the government’s self-regulation stance and companies’ voluntary efforts for transparency enhancement were insufficient. Second, various mechanisms for enhancing transparency were derived, such as managing and supervising AI algorithms and preparing educational programs to raise consumer interest. In addition, with its high potential execution power, co-regulation between the public and private sectors was judged to be the most appropriate and efficient regulation method to practically implement. The conclusions of this study derived from the results are as follows. First, it is necessary to enhance transparency in the field of product search and recommendation, where, so far, only limited discussions have been made. Cooperation between the government and companies is important for the government’s pursuit of private-led self-regulation to operate effectively. Next, in order to enhance transparency of product search and recommendation, various efforts in institutional, educational, and technical aspects must be made at the same time.

참고문헌 (82)

  1. 2021 개인정보보호 실태조사, "개인정보보호위원회", ~ (2021)
  2. 고학수, "인공지능과 차별", 저스티스, 171, pp.199~277 (2019), 한국법학원[DOI]
  3. 김도년, "전자상거래 시장변화에 따른 온라인 플랫폼 운영사업자의 의무와 책임", 소비자정책동향, (113), pp.1~34 (2021)
  4. 김진열, "정책 ‘영향평가제도’와 소비자영향평가에 대한 소고", 소비자정책동향, (109), pp.1~25 (2020)
  5. 박경미, "디지털 플랫폼 투명화·공정화 법제의 동향과 전망: EU, 일본, 우리나라 법제의 주요 내용과 평가에 대한 비교법적 검토", 고려법학, (99), pp.195~235 (2020), 법학연구원[DOI]
  6. 일본 특정 디지털 플랫폼 거래 투명화 법 고찰, "법제처", ~ (2020)
  7. 소순주, "인공지능 윤리원칙 분류 모형 및 구성요소에 관한 연구", 컴퓨터교육학회 논문지, 24(6), pp.119~132 (2021), 한국컴퓨터교육학회[DOI]
  8. 여정성, "소비자정책" (2020), 교문사
  9. 윤수영, "데이터 경제에서 소비자주권의 확장 방향성과 소비자 데이터권리 연구", 소비자학연구, 32(5), pp.169~195 (2021), 한국소비자학회[DOI]
  10. 인공지능 알고리즘 기반 경제에서의 소비자문제 연구, "이금노", ~, pp.정책연구보고서, 1-135 (2018)
  11. 온라인플랫폼 기반 소비자거래에서의 소비자문제 연구, "이금노", ~, pp.정책연구보고서, 1-307 (2016)
  12. 이민영, "인터넷 자율규제의 법적 의의", 저스티스, (116), pp.133~160 (2010), 한국법학원
  13. 이상용, "알고리즘 규제를 위한 지도 - 원리, 구조, 내용 -", 경제규제와 법, 13(2), pp.129~159 (2020), 법학연구소[DOI]
  14. 인공지능(AI) 윤리와 법(Ⅰ): AI 윤리의 쟁점과 거버넌스 연구, "이상욱", 유네스코한국위원회 - 한국법제연구원, ~ (2021)
  15. 이재호, "EU 디지털서비스법안과 국내 소비자법의 시사점", 소비자정책동향, (111), pp.1~25 (2021)
  16. 인공지능 기술 전망과 혁신정책 방향(2차년도) - 안전하고 윤리적인 인공지능 R&D 및 활용을 위한 제도 개선 방안을 중심으로 -, "이제영", ~, pp.정책연구, 1-226 (2019)
  17. 이종성, "델파이 방법" (2001), 교육과학사
  18. 플랫폼 경제의 시장기제와 정부정책, "이화령", 한국개발연구원, 1~180, pp.한국개발연구원 연구보고서 2017-07 (2017)
  19. 장용석, "한국사회 투명성 패러다임의 전환 1993년～2006년 신문기사 내용분석", 한국사회학, 42(7), pp.146~177 (2008), 한국사회학회
  20. 정신동, "온라인 플랫폼에서의 검색순위 투명성 확보와 그 한계 ‒ EU법과의 비교를 중심으로 ‒", 유통법연구, 8(2), pp.1~31 (2021), 한국유통법학회
  21. 인공지능 신뢰체계 정립방안 연구, "조원영", 소프트웨어정책연구소, ~, pp.소프트웨어정책연구소 연구보고서 RE-123 (2022)
  22. 지광석, "최근 OECD 소비자정책위원회의 소비자 데이터 관련 주요 이슈와 시사점", 소비자정책동향, (101), pp.1~19 (2020)
  23. AI 윤리 관련 법제화 방안 연구, "최경진", 한국법제연구원, ~, pp.글로벌법제전략 연구 21-17-⑤ (2021)
  24. 한국지능정보사회진흥원, "미국, ‘알고리즘 책임법안(Algorithmic Accountability Act)’ 발의", 디지털 법제 Brief, 22(1) (2022)
  25. 황용석, "알고리듬 기반 자동화된 의사결정의 설명 가능성에 대한 연구", 언론정보연구, 57(3), pp.41~80 (2020), 언론정보연구소[DOI]
  26. Ayling, J., "Putting AI Ethics to Work: Are the Tools Fit for Purpose?", AI and Ethics, pp.1~25 (2021)
  27. Bozdag, E., "Bias in Algorithmic Filtering and Personalization", Ethics and Information Technology, 15, pp.209~227 (2013)
  28. Braun, V., "Using Thematic Analysis in Psychology", Qualitative Research in Psychology, 3(2), pp.77~101 (2006)
  29. "Algorithms: How They can Reduce Competition and Harm Consumers" (2021)[URL]
  30. Diakopoulos, N., "Algorithmic Transparency in the News Media", Digital Journalism, 5(7), pp.809~828 (2017)
  31. Consumer Market Study on Online Market Segmentation through Personalised Pricing, "Offers in the European Union Final Report", European Commission, 2018
  32. Felzmann, H., "Towards Trans-parency by Design for Artificial Intelligence", Science and Engineering Ethics, 26(6), pp.3333~3361 (2020)
  33. Grochowski, M., "Algorithmic Transparency and Explainability for EU Consumer Protection : Unwrapping the Regulatory Premises", Critical Analysis of Law, 8(1), pp.43~63 (2021)
  34. Hargittai, E., "Black Box Measures? How to Study People’s Algorithm Skills", Information, Communication & Society, 23(5), pp.764~775 (2020)
  35. Hermann, E., "Leveraging Artificial Intelligence in Marketing for Social Good—An Ethical Perspective", Journal of Business Ethics, 179(1), pp.43~61 (2022)
  36. Understanding Transparency in Algorithmic Accountability, "Kaminski, M. E.", U of Colorado Law Legal Studies Research, ~, pp.U of Colorado Law Legal Studies Research Paper No.20-34 (2020)
  37. Karwatzki, S., "Beyond the Personalization– Privacy Paradox : Privacy Valuation, Transparency Features, and Service Personalization", Journal of Management Information Systems, 34(2), pp.369~400 (2017)
  38. A Governance Framework for Algorithmic Accountability and Transparency, "Koene, A.", European Parliamentary Research Service, ~ (2019)
  39. Kroll, J. A., "The Fallacy of Inscrutability. Philosophical Transactions of the Royal Society A : Mathematical", Physical and Engineering Sciences, 376(2133), pp.20180084~ (2018)
  40. Lee, M. K., "Understanding Perception of Algorithmic Decisions : Fairness, Trust, and Emotion in Response to Algorithmic Management", Big Data & Society, 5(1), pp.2053951718756684~ (2018)
  41. Lepri, B., "Fair, Transparent, and Accountable Algorithmic Decision-making Processes", Philosophy & Technology, 31(4), pp.611~627 (2018)
  42. Understanding Artificial Intelligence Ethics and Safety: A Guide for the Responsible Design and Implementation of AI Systems in the Public Sector, "Leslie, D.", The Alan Turing Institute, ~ (2019)
  43. Milano, S., "Recommender Systems and Their Ethical Challenges", AI & Society, 35, pp.957~967 (2020)
  44. Mittelstadt, B., "Explaining Explanations in AI", Proceedings of the Conference on Fairness, Accountability, and Transparency, pp.279~288 (2019)
  45. Murad, M., "Beyond the “Black Box”: Enabling Meaningful Transparency of Algorithmic Decision-Making Systems through Public Registers", Master’s, pp.2021
  46. OECD Recommendation on Consumer Policy Decision Making, "OECD", ~ (2014)
  47. OECD, "An Introduction to Online Platform and Their Role in the Digitial Transformation" (2019), OECD Publishing
  48. Tools for Trustworthy AI : A Framework to Compare Implementation Tools for Trust-worthy AI Systems, "OECD", OECD Publishing, ~, pp.OECD Digital Economy Papers, No. 312 (2021)
  49. OECD, "Recommendation of the Council on Artificial Intelligence", OECD, 044, pp.2022, ~
  50. Rader, E., "Explanations as Mechanisms for Supporting Algorithmic Transparency", Proceedings of the 2018 CHI Conference on Human Factors in Computing Systems, pp.1~13 (2018)
  51. Reed, C., "How should We Regulate Artificial Intelligence?", Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, 376(2128), pp.20170360~ (2018)
  52. Rendón, L. G., "An Introduction to the Principle of Transparency in Automated Decision-Making Systems", Proceedings of the 2022 45th Jubilee International Convention on Information, Communication and Electronic Technology (MIPRO), pp.1245~1252 (2022)
  53. Schelenz, L., "Best Practices for Transparency in Machine Generated Personalization", Adjunct Publication of the 28th ACM Conference on User Modeling, Adaptation and Personalization, pp.23~28 (2020)
  54. Schiff, D., "AI Ethics in the Public, Private, and NGO Sectors : A Review of a Global Document Collection", IEEE Transactions on Technology and Society, 2(1), pp.31~42 (2021)
  55. Shin, D., "Role of Fairness, Accountability, and Transparency in Algorithmic Affordance", Computers in Human Behavior, 98, pp.277~284 (2019)
  56. Shin, D., "Beyond User Experience : What Constitutes Algorithmic Experiences?", International Journal of Information Management, 52, pp.102061~ (2020)
  57. Suzor, N. P., "What Do We Mean When We Talk about Transparency? Toward Meaningful Transparency in Commercial Content Moderation", International Journal of Communication, 13(2019), pp.1526~1543 (2019)
  58. Turoff, M., "The Design of a Policy Delphi", Technological Forecasting and Social Change, 2(2), pp.149~171 (1970)
  59. Van Dijk, J., "Delphi Questionnaires versus Individual and Group Interviews : A Comparison Case", Technological Forecasting and Social Change, 37(3), pp.293~304 (1990)
  60. Williams, A., "A Global Index of Information Transparency and Accountability", Journal of Comparative Economics, 43(3), pp.804~824 (2015)
  61. 개인정보보호위원회, "인공지능(AI) 개인정보보호 자율점검표", ~ (2021)
  62. 개인정보보호위원회, "자동처리 되는 개인정보 보호 가이드라인", ~ (2020)
  63. 개인정보보호위원회, "우리기업을 위한 2022 EU 일반 개인정보보호법 가이드북", ~ (2022)
  64. 공정거래위원회, "공정위, 온라인 플랫폼 공정화법 제정안 입법예고", ~ (2020)
  65. 공정거래위원회, "온라인플랫폼 검색광고 관련 소비자인식 설문조사 결과 발표, 보도자료", ~ (2021)
  66. 공정거래위원회, "공정위, 전자상거래 소비자보호법 전부개정안 입법예고", ~ (2021)
  67. 과학기술정보통신부, "과기정통부, 사람이 중심이 되는 인공지능(AI) 윤리기준 마련", ~ (2020)
  68. 방송통신위원회, "온라인 맞춤형 광고 개인정보보호 가이드라인", ~ (2017)
  69. 정보문화포럼, "지능정보사회 윤리 가이드라인", ~ (2018)
  70. 한국소비자연맹, "한국소비자연맹, 국회에서 ‘지능정보사회(AI) 소비자 권리장전’ 선언", ~ (2020)
  71. "Social Principles for HumanCentric AI" (2019)[URL]
  72. "Algorithmic Transparency Recording Standard Hub" (2023)[URL]
  73. "A Guide to Using Artificial Intelligence in the Public Sector" (2019)[URL]
  74. European Commission, "Ethics Guidelines for Trustworthy AI", ~ (2019)
  75. "Asilomar AI Principles" (2017)[URL]
  76. "Guidelines on Automated individual decisionmaking and Profiling for the purposes of Regulation 2016", 679
  77. "Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) and Amending Certain Union Legislative Acts", ~
  78. "Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL on a Single Market For Digital Services (Digital Services Act) and amending Directive 2000", 31, ~
  79. "Regulation (EU) 2016", 679 on the protection of natural persons with regard to the processing of personal data and the free movement of such data
  80. "Regulation (EU) 2019", 1150 of the European Parliament and of the Council of 20 June 2019 on promoting fairness and transparency for business users of online intermediation services
  81. "Using Artificial Intelligence and Algorithms" (2020)[URL]
  82. "Recommendation on the Ethics of Artificial Intelligence" (2021)[URL]

관련 논문AI추천

온라인 추천 시스템 알고리즘 투명성 확보와 이용자의 선택권 보장 - EU 디지털서비스법과의 비교를 중심으로 -신현아한국소비자법학회 · 소비자법연구2025 · 제11권 제3호검색 알고리즘은 투명해야 하는가? -검색 투명성 원칙의 개념 및 법적 정당성에 관한 소고-이해원IT와 법연구소 · IT와 법연구2023 · 제26호디지털 플랫폼의 콘텐츠 추천 알고리즘과 법적 책임정다영민사법의 이론과 실무학회 · 민사법의 이론과 실무2024 · 제28권 제1호온라인 플랫폼 규제 국제규범 제도화 : 정책 전환의 모색장우영, 정호경한국정치사회연구소 · 한국과 국제사회2025 · 제9권 제2호온라인플랫폼 알고리즘 담합규제에 관한 탐색적 연구김태윤, 양지원한국규제학회 · 규제연구2023 · 제32권 제1호인공지능 기반의 전자상거래에서 플랫폼사업자의 의무이재호한국소비자원 · 소비자문제연구2023 · 제54권 제2호

이 간행물의 다른 논문 (5건)

디지털 소비자사회화는 어떻게 이루어지는가? 세대 비교를 중심으로전상민pp. 1-31한국 소비자의 ‘수리할 권리’를 위한 탐색적 연구 - 휴대전화 수리 경험 및 ‘수리할 권리’에 대한 소비자 인식을 중심으로 -신지혜, 천혜정pp. 33-59이러닝 소비자의 학습태도가 이러닝 품질 지각과 이러닝 만족 및 재이용 의도에 미치는 영향등원주, 이성림pp. 89-106광주·전남권 비건 소비운동 발전방안에 관한 탐색적 연구: 양적-질적 혼합 연구방법의 적용이호영, 손지연pp. 107-139직장인 여성의 의복추구혜택에 따른 소비자유형과 지속가능성 의류 구매의도의 영향요인김민정, 고은희, 문주옥pp. 141-160
원문 보기