생성형 인공지능의 잠재적 위험과 새로운 방향성 모색
Exploring the Potential Risks and New Directions for Generative Artificial Intelligence
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
현재 우리는 생성형 인공지능의 기술적 가능성과 발전에 대한 경이로움과 판단 유보를 동시에 보이고 있다. 4차 산업혁명의 첫 번째 쇼크인 알파고의 바둑 경기는 인공지능 혁신을 촉발했지만, 두 번째 쇼크인 ChatGPT는 인공지능에 대한 두려움을 불러왔다. 생성형 인공지능으로 촉발되는 여러 윤리 문제를 고려할 때 인류는 ‘윤리적 진공상태’에 빠져있다. 본 연구는 생성형 인공지능 시대에서 제한된 AI, 윤리적 AI, 지속 가능한 AI의 필요성을 강조한다. 제한된 AI는 위험 관리를 위한 규제 방안을 모색하고, 윤리적 AI는 윤리적 기준 설정과 자발적 윤리적 행위를 강조한다. 지속 가능한 AI는 생태 공동체에 미치는 부정적 영향을 줄이고 글로벌 협력을 통해 지속가능성을 보장하는 것을 목표로 한다.
Abstract
Currently, we exhibit both awe and cautious judgment regarding the technological potential and advancement of generative artificial intelligence. The first shock of the Fourth Industrial Revolution, represented by the Go game with AlphaGo, triggered innovation in AI, while the second shock, embodied by ChatGPT, has provoked fears about AI. Considering the various ethical issues prompted by generative AI, humanity finds itself in an 'ethical vacuum.' This study emphasizes the need for restricted AI, ethical AI, and sustainable AI in the era of generative AI. Restricted AI seeks regulatory measures for risk management, while ethical AI focuses on establishing ethical standards and encouraging voluntary ethical practices. Sustainable AI aims to mitigate negative impacts on ecological communities and ensure long-term sustainability through global cooperation.
참고문헌 (44)
- "사람이 중심이 되는 「인공지능(AI) 윤리기준」" (2020)[URL]
- "RLHF 외에 LLM이 피드백을 학습할 수 있는 방법은 무엇이 있을까?" (2023)[URL]
- ""AI 더러운 비밀"…구글보다 '챗GPT'가 지구에 더 나쁜 이유" (2023)[URL]
- 권은정, "인공지능 서비스 영향평가의 체계와 방법론 : "지능정보화 기본법"의 사회적 영향평가 제도를 중심으로", 경제규제와 법, 31 (2023)
- 김근혜, "AI 시스템의 위험 완화를 위한 정책적 접근방안 연구 : AI 영향평가를 중심으로", 규제연구, 32(2) (2023)
- "'AI 윤리' 강조하더니 규모 줄인 빅테크" (2023)[URL]
- 김법연, "공공분야 인공지능서비스의 영향평가제도 도입에 관한 연구", 정보법학, 27(2) (2023)
- "구글, 또 여성 AI 윤리 연구자 해고 '파문'" (2021)[URL]
- "데이터 시대의 초상, 비식별화 기술의 발전" (2021)[URL]
- 윤리적 인공지능을 위한 국가정책 수립, "문정욱", 정보통신정책연구원, ~, pp.방송통신정책연구 2020-0-01368 (2020)
- 박혜성, "인공지능 통제를 위한 규제의 동향과 시사점", 정보법학, 25(2) (2021)
- "AI 발전은 지구 환경에 득일까 실일까" (2023)[URL]
- 변순용, "AI로봇의 도덕성 유형에 근거한 윤리인증 프로그램(ECP)연구", 윤리연구, 126 (2019)
- 변순용, "인공지능 윤리하다" (2020), 어문학사
- 변순용, "데이터윤리의 의미와 원칙에 대한 연구", 초등도덕교육, 83 (2023)
- 변순용, "초거대 생성형 인공지능의 윤리적 문제", 인공지능인문학연구, 14 (2023)
- 인공지능윤리영향평가의 교육 분야 적용 가능성 탐색, "변순용", 한국교육학술정보원, ~, pp.연구자료 RM 2023-18 (2023)
- 인공지능(AI)의 학습용 데이터 윤리 가이드라인에 대한 연구, "변순용", 한국교육학술정보원, ~, pp.연구보고 RR 2023-3 (2023)
- 유순덕, "인공지능 서비스 영향성 평가를 위한 분석 기준 연구", 한국인터넷방송통신학회 논문지, 23(1) (2023)
- "유네스코 인공지능(AI) 윤리 권고 해설서: 인공지능 윤리 이해하기" (2021)[URL]
- 이숙연, "인공지능 관련 규범 수립의 국내외 현황과 과제", 법조, 757 (2023)
- "생성형 인공지능, 친환경적인 설계와 운용 필요해" (2023)[URL]
- "제1권 품질관리 가이드라인 v3.0, 인공지능 학습용 데이터 품질관리 가이드라인 및 구축 안내서 v3.0" (2023)[URL]
- "Accenture"[URL]
- "RLHF란 무엇인가요?" (2023)[URL]
- "Artificial intelligence act: Council and Parliament strike a deal on the first rules for AI in the world" (2023)[URL]
- "Ethics Guidelines for Trustworthy AI" (2019)[URL]
- "Responsibility: Our Principles"[URL]
- "Green AI: An Environmental Problem or a Sustainable Solution?" (2023)[URL]
- Kazim, E., "The interrelation between data and AI ethics in the context of impact assessments", AI and Ethics, 1 (2021)
- Madiega, T., "Artificial intelligence act", European Parliament:European Parliamentary Research Service, ~ (2023)
- "Microsoft Responsible AI Standard, v2: General Requirements" (2022)[URL]
- "Notified body" (2023)[URL]
- Schwartz, R., "Green AI", Communications of the ACM, 63(12) (2020)
- Selbst, A. D., "An Institutional View of Algorithmic Impact", Harvard Journal of Law & Technology, 35(1) (2021)
- "인공지능과 지속 가능성 사이의 희망과 파라독스" (2023)[URL]
- "Recommendation on the Ethics of Artificial Intelligence" (2022)[URL]
- "UNESCO’s Recommendation on the Ethics of Artificial Intelligence: key facts" (2023)[URL]
- "AI maturity framework for enterprise applications" (2021)[URL]
- Verdecchia, R., "A systematic review of Green AI", Wiley Interdisciplinary Reviews: Data Mining and Knowledge Discovery, 13(4) (2023)