딥페이크 기술의 윤리 문제와 대응 방안 모색
Exploring ethical measures to respond to the problem of deepfakes
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
생성형 AI가 대중적으로 활용되면서 제기되는 AI 윤리 문제 가운데 최근에 딥페이크 문제가 주목받고 있다. 딥페이크 음란물이 일반인들에 의해 유명인뿐만 아니라 일반인인 지인들을 대상으로 제작되어 유포되고 있을 뿐만 아니라, 딥페이크가 문화 영역을 넘어 정치 영역뿐만 아니라 경제 영역 등 전방위로 확장되어 사회 문제를 야기하고 있기 때문이다. 이에 대해 한국 사회에서는 법을 통해 대응하려는 분위기가 강하지만, 딥페이크가 초래하는 다양한 문제가 법만으로 해결이 가능한 것인지 의문이다. 딥페이크 문제에 대응하기 위해서는 법이 필요한 것은 분명하지만, 윤리 또한 필요하기 때문이다. 본 논문은 딥페이크 문제에 효과적으로 대응하기 위한 윤리 방안을 모색하고자 한다. AI 윤리 실현을 위해서는 서로 다르지만 밀접하게 연관된 윤리의 세 층위, 즉 이론 윤리 층위, 제도 윤리 층위, 개인 윤리 층위의 협업이 필요하다. 딥페이크 문제는 약한 AI 단계에서 제시되는 윤리 문제이기에 이론 윤리 층위에서 다양한 도덕 논의들이 중첩적으로 합의된 공통 도덕 논의가 적합해 보이며, 제도 윤리 층위에서는 AI 지침을 통해 딥페이크의 사회적 활용을 지도할 뿐만 아니라 소위 ‘딥페이크 윤리 위원회’를 통한 활용 계획에 대한 사회적 승인 과정을 거칠 필요가 있다. 개인 윤리 층위에서는 딥페이크가 대중화되었다는 점에서 사용자의 윤리가 필수적인데, 1인칭 관점의 규범성에 효과적인 ‘덕성 중심의 AI 사용자 윤리’가 필요하다. 이러한 세 층위의 윤리가 협업할 때, 딥페이크가 초래하는 윤리 문제를 피하면서도 사회 번영과 발전에 도모하는 윤리 실현을 이룰 수 있을 것이다.
Abstract
Among the AI ethics issues that have emerged as generative AI has become more widely used, the issue of deepfakes has recently gained attention. This is because deepfake pornography is being produced and distributed not only to celebrities but also to the general public, and deepfakes are expanding into various areas of life, including politics and business. Although Korean society has a strong tendency to respond with laws, it is questionable whether the various problems caused by deepfakes can be solved by laws alone. Under the premise that law is necessary to respond to the problem of deepfakes, but ethics is also necessary, this paper aims to explore ethical measures to effectively respond to the problem of deepfakes. The ‘ethics realizing’ of AI requires the cooperation of three different but closely related tiers of ethics: the theoretical tier of ethics, the institutional tier of ethics, and the individual tier of ethics. Since the deepfake problem is an ethical issue that arises at the level of weak AI, a theory of common morality seems appropriate at the theoretical tier of ethics, while at the institutional tier of ethics it is necessary to promote the social use of deepfakes not only through AI guidelines, but also through a so-called “deepfake ethics committee” that aims to examine whether a deepfake use plan is ethical. At the individual ethics tier, a user ethics is essential given the popularity of deepfakes, and I propose a “virtue-based AI user ethics” that is effective for normativity from a first-person perspective. If these three tiers of ethics work together, we can avoid the ethical problems caused by deepfakes and realize an ethics that contributes to social prosperity and development.
참고문헌 (28)
- 김명주, "선거 속 딥페이크, 그 실태와 윤리", 관훈저널 (2024), 관훈클럽
- 마이클 샌델, "정의란 무엇인가" (2014), 와이즈베리
- 목광수, "자유주의 우생학에 대한 비판적 고찰", 철학, 126 (2016), 서울대학교철학사상연구소
- 목광수, "인공적 도덕 행위자 설계를 위한 고려사항", 철학사상, 69 (2018), 서울대학교 철학사상연구소
- 목광수, "도덕의 구조 : 인공지능 시대 도덕 논의의 출발점", 철학사상, 73 (2019), 서울대학교 철학사상연구소
- 목광수, "과학기술 시대의 윤리 층위 구분과 층위들 사이의 관계 규명 : 인공지능윤리를 중심으로", 범한철학, 98(3) (2020), 범한철학회
- 목광수, "인공지능 개발자 윤리 : 덕성 기반의 모델을 제안하며", 철학논총, 102 (2020), 새한철학회
- 목광수, "프라이버시의 의미와 가치, 그리고 리스크 모델－보건의료 빅데이터를중심으로", 철학연구, 63 (2021), 고려대학교 철학연구소
- 방석호, "사이버공간에서의 정치 패러디 허용 한계에 대한 법적 고찰", 선진상사법률연구, 35 (2006)
- 인공지능의 윤리적 쟁점에 관한 탐색적 연구, "배영임", 경기연구원, ~ (2022)
- 허위정보로서 딥페이크, 어떻게 대처할 것인가, "오세욱", 한국언론진흥재단, ~ (2020)
- 유발 하라리, "21세기를 위한 21가지 제언" (2018), 김영사
- 최종고, "법철학" (2009), 박영사
- 박지혼, "英 은행권, 딥페이크 사기 확산 추세에 대응", 하나은행 하나금융연구소의금융경영브리프, ~ (2024)
- Berling, Eric, "A New Method for a Virtue-Based Responsible Conduct of Research Curriculum : Pilot Test Results", Sci Eng Ethics, 25 (2019)
- Bracker, Milton, "Warren Favors Profession To Give Advice on Ethics; Cites Problems in Politics and Business That Are Not Covered by Law WARREN FAVORS ETHICS ADVISERS", New York Times, ~ (1962)
- De Ruiter, Adrienne, "The Distinct Wrong of Deepfakes", Philosophy & Technology, 34 (2021)
- Dworkin, Ronald, "법과 권리" (2010), 한길사
- Floridi, Luciano, "AI4People － An Ethical Framework for a Good AI Society : Opportunities, Risks, Principles, and Recommendations", Minds and Machines, 28 (2018)
- Fricker, Miranda, "Epistemic Injustice" (2009), Oxford University Press
- Gosztonyi, Gergely, "Deepfake : A Multifaceted Dilemma in Ethics and Law", Journal of Information Ethics, 32(2) (2023)
- Matthews, Taylor, "Deepfakes, Intellectual Cynics, and the Cultivation of Digital Sensibility", Royal Institute of Philosophy Supplement, 92 (2022)
- Pennock, Robert, "Developing a Scientific Virtue-Based Approach to Science Ethics Training", Sci Eng Ethics, 23 (2017)
- Rawls, John, "Political Liberalism" (2005), Columbia University Press
- Rini, Regina, "Deepfakes, Deep Harms", Journal of Ethics and Social Philosophy, 22(2) (2022)
- "Facebook to ban ‘deepfakes,’" (2020)[URL]
- Vallor, Shannon, "Technology and the Virtues" (2016), Oxford University Press
- Van der Sloot, Bart, "Deepfakes : regulatory challenges for the synthetic society", Computer Law & Security Review, 46 (2022)