본문 바로가기
KERD
논문KCI 등재

알고리즘 공개와 영업비밀 보호 간의 긴장관계

Tension Between Algorithm Disclosure and Trade Secret Protection

김윤명
사법발전재단|2023.12|사법 (JURIS)|제1권 제66호|pp. 863-909|DOI 10.22825/juris.2023.1.66.022

0

조회

0

다운로드

3

인용

0

참고문헌

키워드

비밀유지의무confidentiality obligation데이터 공개설명가능한 인공지능알고리즘 공개영업비밀의 제한알고리즘 설명요구권Algorithm disclosuredata disclosuretrade secrets restrictionalgorithmic explanation rightexplainable artificial intelligence

초록

ChatGPT와 같은 생성형(generative) AI가 AI의 새로운 흐름을 바꾸고 있다. 판단형 알고리즘은 채용이나 범죄예측 등의 활용에 사용되며 학습데이터가 갖는 한계로 인하여 편견 가능성이 크다. 또한, 추천형 알고리즘은 편견을 확증할 수 있다는 우려도 크다. 특정 정보를 추천하면서 다른 정보가 배제되는 필터버블(filter bubble) 현상이 발생할 수 있기 때문이다. 이러한 편견 등의 발생은 데이터 기반의 기계학습이 갖는 한계이기도 하다. 학습데이터로 가공되어지는 공개된 정보에는 세상의 모든 편견이나 오류가 그대로 담기기 때문이다. 인간의 문제가 투영된 데이터를 기반으로 하는 AI모델도 인간의 문제를 그대로 학습하게 된다. 그렇기 때문에 ​알고리즘에 의한 사회적 문제는 지속적으로 제기될 것이다. 예를 들면, 채용이나 신용도 등을 판단하는 알고리즘과 이를 학습하는 데이터에 편향이 담겨있는 경우, 또는 기본권의 침해가 이루어져 삶의 가치를 훼손하는 경우 등이다. 알고리즘으로 인하여 발생하는 다양한 문제를 해결하기 위한 방안 중 하나로서 알고리즘 공개를 들 수 있다. 이에 대해 플랫폼사업자는 알고리즘이 영업비밀에 해당하기 때문에 공개할 수 없다는 입장이다. 공공부문에서도 그 입장은 다르지 않다. 문제는 알고리즘 규제론자들은 알고리즘 공개에 대한 합리적인 기준을 제시하지 못한다는 점이다. 알고리즘 공개에 대한 설득력을 얻기 위해서는 정당성을 확보하기 위한 방안을 제시해야 한다. 즉, 알고리즘 공개에 대한 구체적인 이유나 방법을 규제기관이 플랫폼사업자에게 제공해 주어야 한다. 규제기관은 명확한 정책목표를 달성하고, 플랫폼사업자들은 예측가능성을 가져야 하기 때문이다. 이에 알고리즘 공개에 대한 구체적인 방안과 사업자들이 우려하는 영업비밀과의 비교교량을 통해 신뢰가능한 알고리즘을 위한 합리적인 방안을 제시하고자 한다.

Abstract

Generative AI such as ChatGPT is changing the new trend of AI. Judgment algorithms are used for recruitment or crime prediction, and there is a high possibility of bias due to the limitations of learning data. In addition, there is a great concern that recommended algorithms can confirm prejudice. This is because a filter bubble phenomenon in which other information is excluded while recommending specific information may occur. The occurrence of such prejudice is also a limitation of data-based machine learning. This is because public information processed as learning data contains all prejudices or errors in the world. AI models based on data in which human problems are projected also learn human problems as they are. Therefore, social problems caused by algorithms will continue to be raised. For example, algorithms for judging recruitment or creditworthiness and data learning them contain biases, or infringement of basic rights undermines the value of life. Algorithm disclosure is one of the ways to solve various problems caused by algorithms. In response, platform operators say that algorithms cannot be disclosed because they are trade secrets. The position is no different in the public sector. The problem is that algorithmic regulators cannot provide reasonable criteria for algorithm disclosure. In order to gain convincing power for algorithm disclosure, a plan to secure legitimacy must be presented. In other words, regulatory agencies must provide platform operators with specific reasons or methods for algorithm disclosure. This is because regulators must achieve clear policy goals, and platform operators must have predictability. Therefore, we would like to present a specific plan for algorithm disclosure and a reasonable plan for a reliable algorithm through comparative bridges with trade secrets that operators are concerned about.

참고문헌 (68)

  1. 신용정보 인프라 종합개선 방안 마련을 위한 국내외 관련제도 현황 조사연구, "강경훈", 한국금융연구원, ~ (2006)
  2. 고학수, "인공지능 원론 : 설명가능성을 중심으로" (2020), 박영사
  3. 권오승, "독점규제법" (2023), 법문사
  4. 김병남, "영업비밀보호법 실무" (2016), 한국지식재산연구원
  5. 김윤명, "블랙박스를 열기위한 인공지능법" (2022), 박영사
  6. 김윤명, "생성형AI의 법과 윤리에 대한 문답" (2023), 박영사
  7. 나종갑, "영업비밀보호법의 철학적·규범적 토대와 현대적 적용" (2022), 경인문화사
  8. 송영식, "저작권법개설" (2009), 세창출판사
  9. 송영식, "송영식 지적소유권법(하)" (2008), 육법사
  10. 안재현, "XAI 설명가능한 인공지능, 인공지능을 해부하다" (2020), 위키북스
  11. 유승익, "인공지능 인권영향평가 도입 방안 연구" (2022), 국가인권위원회
  12. 디지털 전환 시대의 디지털 통상정책 연구, "이규엽", 대외경제정책연구원, ~, pp.연구보고서 21-01 (2021)
  13. 이해완, "저작권법" (2019), 박영사
  14. ICT기반 사회현안 해결방안 연구, "이호영", 정보통신정책연구원, ~ (2017)
  15. 정상조, "지식재산권법" (2013), 홍문사
  16. 영업비밀의 사법적 보호에 관한 비교법적 연구, "정상조", 법원행정처, ~ (2009)
  17. 정보통신망법 일부개정안 검토 보고, "조기열", 국회과학기술정보방송통신위원회, ~ (2021)
  18. 조영선, "지식재산법" (2023), 박영사
  19. 조영선, "특허법 3.1" (2023), 박영사
  20. 최정렬, "부정경쟁방지법" (2022), 진원사
  21. 특허청, "특허·실용신안 심사지침서", ~ (2011)
  22. 인공지능 알고리즘과 차별, "홍성욱", 과학기술정책연구원, ~ (2018)
  23. Safiya Umoja Noble, "구글은 어떻게 여성을 차별하는가" (2019), 한스미디어
  24. 강명수, "영업비밀보호의 체계 적합성에 관한 고찰", 산업재산권, (65), pp.315~350 (2020), 한국지식재산학회[DOI]
  25. 코로나19 이후 국제통상질서의 변화와 통상규범의 발전 방향에 대한 연구, "곽동철", 법무부, ~, pp.통상법률 2020-03 (2020)
  26. 권은정, "인공지능 서비스 영향평가의 체계와 방법론 - 「지능정보화 기본법」의 사회적 영향평가 제도를 중심으로 -", 경제규제와 법, 16(1), pp.29~50 (2023), 법학연구소[DOI]
  27. 김관식, "컴퓨터프로그램의 특허법상 보호에 관한 특허법 제2조 개정시안의 법적 의의 및 과제", 법학연구, 23(1), pp.549~582 (2012), 법학연구소[DOI]
  28. 김광수, "인공지능 규제법 서설", 토지공법연구, 81, pp.279~310 (2018), 한국토지공법학회
  29. 김기영, "소프트웨어 특허 침해에 대한 구제", LAW&TECHNOLOGY, 3(4) (2007), 서울대학교 기술과법센터
  30. 김법연, "공공분야 인공지능서비스의 영향평가제도 도입에 관한 연구", 정보법학, 27(2), pp.171~219 (2023), 한국정보법학회
  31. 김시열, "일본의 한정제공데이터 보호 규정 재논의와 데이터에 관한 우리 부정경쟁방지법의 개정 방안", 지식재산연구, 18(1), pp.111~145 (2023), 한국지식재산연구원[DOI]
  32. 김윤명, "AI관련 발명에 있어서 데이터 공개", 저스티스, 196, pp.170~198 (2023), 한국법학원[DOI]
  33. 김윤명, "SW특허는 기술혁신을 이끄는가?", 홍익법학, 15(4), pp.829~857 (2014), 법학연구소[DOI]
  34. 김윤명, "게임물 제작상 영업비밀의 보호", 산업재산권, (37), pp.167~214 (2012), 한국지식재산학회[DOI]
  35. 김정민, "플랫폼 기업의 ‘알고리즘 공개’, 진짜 해결책일까", the columnist(2021. 11. 3.), ~ (2021)
  36. 김천수, "헌법상 저작권의 재산적 권리 보장에 대한 연구", 가천법학, 13(1), pp.295~332 (2020), 법학연구소[DOI]
  37. 김혜인, "인공지능에 기반한 형사법상 의사결정 연구 - 설명요구권과 영업비밀보호 간 균형모색을 중심으로 -", 법학연구, 28(3), pp.203~229 (2020), 법학연구소[DOI]
  38. 김희정, "지능정보화 시대의 알고리즘 차별에 대한 법적 소고 -미국의 알고리즘 차별 사례를 중심으로-", 홍익법학, 21(3), pp.501~524 (2020), 법학연구소[DOI]
  39. 나종갑, "영업비밀보호법의 규범적 본질", 산업재산권, (73), pp.159~197 (2022), 한국지식재산학회[DOI]
  40. 모정훈, "알고리즘 공개에 관하여", 디지털사회, (36), pp.5~ (2021)
  41. 박노형, "자동화된 결정에 관한 개인정보보호법 정부 개정안 신설 규정의 문제점 - EU GDPR과의 비교 분석", 사법, 1(62), pp.361~390 (2022), 사법발전재단[DOI]
  42. 박종보, "인공지능기술의 발전과 법적 대응방향", 법학논총, 34(2), pp.37~62 (2017), 법학연구소[DOI]
  43. 선지원, "인공지능 알고리즘 규율에 대한 소고- 독일의 경험을 중심으로 -", 경제규제와 법, 12(1), pp.26~43 (2019), 법학연구소[DOI]
  44. 설민수, "한국 소프트웨어산업에서 형사처벌의 활성화를 통한 영업비밀의 지위 강화, 그 영향과 향후 과제 -미국과의 비교를 중심으로", 사법, 1(52), pp.381~429 (2020), 사법발전재단[DOI]
  45. 안정민, "검색광고 규제에 대한 법적 고찰 - 이용자 인식조사를 바탕으로", 언론과 법, 13(1), pp.153~180 (2014), (사)한국언론법학회
  46. 이나래, "인공지능 기반 의사결정에 대한 법률적 규율 방안", LAW&TECHNOLOGY, 15(5) (2019), 서울대학교 기술과법센터
  47. 이제희, "알고리즘의 취급에 대한 법적 논의", 공법학연구, 19(3), pp.307~331 (2018), 한국비교공법학회[DOI]
  48. 조남용, "생성형 AI의 등장으로 더욱 중요해진 설명 가능한 AI(XAI)", 삼성SDS (2023. 9. 6.), ~ (2023)
  49. 조형국, "네이버 이해진 “알고리즘 공개, 개인적으로 찬성", 경향신문(2017. 10. 30.), ~ (2017)
  50. 주진열, "AI 알고리즘 가격설정과 이른바 ‘알고리즘 묵시적 담합’ 문제에 대한 고찰", 경쟁법연구, 41, pp.332~368 (2020), 한국경쟁법학회[DOI]
  51. 홍석한, "미국 “2022 알고리즘 책임법안”에 대한 고찰", 미국헌법연구, 34(1), pp.73~107 (2023), 미국헌법학회
  52. Alex Hern, "OpenAI leaders call for regulation to prevent AI destroying humanity", The Guardian, Wed 24 May 2023, ~ (2023)
  53. Cade Metz, "Elon Musk and Others Call for Pause on A.I., Citing ‘Profound Risks to Society’", The New York Times, March 29, 2023, ~ (2023)
  54. Casey, Bryan, "Rethinking Explainable Machines: The GDPR's 'Right to Explanation' Debate and the Rise of Algorithmic Audits in Enterprise (February 19, 2018)", Berkeley Technology Law Journal, 34 (2019)
  55. Davis, Randall, "Explainable Machine Learning Models of Consumer Credit Risk", ~ (2022)
  56. Ebers, Martin, "Nordic Yearbook of Law and Informatics 2020" (2020)
  57. Ferrario, Andrea, "How Explainability Contributes to Trust in AI", 2022 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’22) (2022)
  58. Fleisher, Will, "Understanding, Idealization, and Explainable AI", Episteme, pp.1~27 (2021)
  59. Hacker, Philipp, "Explainable AI under Contract and Tort Law: Legal Incentives and Technical Challenges", Artificial Intelligence and Law, 28 (2020)
  60. K, Krishna Prasad, "A Literature Review and Research Agenda on Explainable Artificial Intelligence (XAI)", International Journal of Applied Engineering and Management Letters (IJAEML), 6(1) (2022)
  61. Lim, Shaun, "Judicial Decision-Making and Explainable Artificial Intelligence", Singapore Academy of Law Journal, 33, pp.280~ (2021)
  62. Lu, Sylvia, "Algorithmic Opacity, Private Accountability, and Corporate Social Disclosure in the Age of Artificial intelligence", Vanderbilt Journal of Entertainment & Technology Law, 23(1), pp.99~ (2021)
  63. Mowbray, Andrew, "Explainable AI (XAI) in Rules as Code (RaC): The DataLex approach", ~ (2022)
  64. Reed, Chris, "Non-Asimov Explanations Regulating AI Through Transparency", Queen Mary Law Research Paper, (370) (2021)
  65. Rowe, Elizabeth A., "Procuring Algorithmic Transparency", Alabama Law Review, 74(2), pp.303~ (2022)
  66. Ryan, Meghan J., "Secret Algorithms, IP Rights, and the Public Interest", Nevada Law Journal, 21(1) (2020)
  67. Tschider, Charlotte, "Beyond the Black Box", Denv. L. Rev, 98, pp.683~ (2021)
  68. Zhang, Chanyuan, "Explainable Artificial Intelligence (XAI) in Auditing", International Journal of Accounting Information Systems (2022)

관련 논문AI추천

디지털 플랫폼의 콘텐츠 추천 알고리즘과 법적 책임정다영민사법의 이론과 실무학회 · 민사법의 이론과 실무2024 · 제28권 제1호생성형 AI와 투명성문현지, 이병준한국소비자원 · 소비자문제연구2025 · 제56권 제3호지능정보사회에서 알고리즘의 법･규제의 방향김일환, 오정하법과정책연구원 · 법과정책2021 · 제27권 제3호창작자와 AI운영자 간의 긴장 영역의 법적 규율에서의 투명성주민호한국문화예술법학회 · 문화예술과 법2024 · 제4권 제2호알고리즘 권력화와 규제 거버넌스김윤명대한변호사협회 · 인권과 정의2023 · 제515호인공지능 통제수단으로서 주요국 규제 입법의 동향과 시사점김법연유럽헌법학회 · 유럽헌법연구2023 · 제42호

이 간행물의 다른 논문 (24건)

가상자산 소득과세의 쟁점과 입법 과제김석환, 김범준pp. 3-48가상자산 투자자 보호를 위한 진입·영업행위·공시규제의 적용 방안 연구 -관련 민사판례의 실무 동향과 한계 및 입법 방안을 중심으로이석준pp. 49-93가상자산에 대한 민사집행에 관한 소고 -비금전채권에 기한 집행을 중심으로전휴재pp. 95-133가상자산 발행 및 투자유치에 대한 형법적 검토최호진pp. 135-175적정 대지지분권자, 부족 대지지분권자, 구분소유자 아닌 대지 공유자 간 법률관계에 대한 고찰 -대법원 2022. 8. 25. 선고 2017다257067 전원합의체 판결김동호pp. 179-223
원문 보기