인공지능의 성편향성 개선을 위한 법제 정비방안
Legal Improvement Plan for Improving Gender Bias of Artificial Intelligence
0
조회
0
다운로드
4
인용
0
참고문헌
키워드
초록
인공지능은 자율주행차량, 인공지능 구직절차 등 다양한 분야에서 상용화되고 있으며, 급속도로 인간생활에 파고들고 있다. 그러나 인공지능이 내린 결정이 편향적이거나 차별적이라는 사례가 보고되면서 인공지능의 편향성을 개선하려는 연구가 다각적인 측면에서 이루어지고 있다. 이 논문에서는 인공지능의 성편향성을 개선할 수 있는 법적 방안에 대해 검토하고자 한다. 우리의 경우 인공지능에 대한 규율 필요 시 각 개별 법률에 관련 사항을 규정하는 방식을 채택해 왔다. 그러나 인공지능의 영향력이 막대해지며 이를 규율하기 위한 기본법의 필요성이 계속 제기되었고, 국회에도 관련 법안이 발의되어 있는 상태이다. 이에 인공지능의 성편향성을 개선하기 위해 인공지능 기본법에 마련되어야 할 규정을 제시하였다. 첫째, 차별금지 관련 조문의 신설이다. 직접적 차별 외에도 특정 성별이나 특정 단체에 대해 사회구조화된 간접 차별 금지 내용도 함께 규정할 필요가 있다. 둘째, 인공지능이 수집하는 데이터가 성편향적인 것인지 여부 또는 데이터 자체에는 성편향 문제가 없더라도 그 근저에 성별 고정관념이나 사회구조적인 차별 등이 자리 잡고 있는지 여부 등을 판단할 수 있을 정도의 전문성을 지닌 자를 “인공지능 성편향성 방지 책임자”로 지정하는 규정을 마련하여야 한다. 셋째, 인공지능 영향평가 제도를 도입할 필요가 있다. 영향평가의 객관성 확보를 위해서는 외부의 전문가가 포함된 평가단을 구성하여 평가를 수행하도록 해야 한다. 실시 내용에는 “가치판단이 필요한 영역에서 성별, 나이, 민족, 종교, 사회적 신분, 경제적 사정 또는 정치적 견해로 인해 사회구조적, 결과적으로 개인 또는 그가 속한 집단에 불이익이 나타난 결과의 유무 및 개선방안”이 포함되어야 할 것이다. 효과적인 규제를 위해서는 미이행시 과태료나 과징금 등을 부과할 수 있도록 하는 제재규정에 대한 논의도 필요하다.
Abstract
Artificial intelligence has been commercialized in various fields such as autonomous vehicles and job applications, and is rapidly penetrating human life. However, as much as its influence, many concerns are raised. In particular, as cases have been reported that decisions made by artificial intelligence are gender discriminatory, efforts are being made to improve them. This paper aims to study what ways to improve the gender bias of artificial intelligence in terms of law. Korea has regulated artificial intelligence in a way that stipulates necessary matters in each individual law. However, considering the enormous influence of artificial intelligence, it is necessary to enact and regulate basic laws, not through individual laws. The Framework Act on Artificial Intelligence should stipulate anti-discrimination provisions. Only when stipulated can the prohibition of Gender discrimination be defined with the values and principles that artificial intelligence must protect. The bias of artificial intelligence is caused by gender-biased data collection or algorithms that produce gender-discriminatory results. Since a person in charge of verifying and correcting this is needed, it should be stipulated in the Basic Law. It is difficult to check data or algorithms used for machine learning of artificial intelligence from the outside. Therefore, it is necessary to specify in the Basic Law that artificial intelligence developers should conduct an "artificial intelligence impact assessment" internally. The Framework Act on Artificial Intelligence should specify the prohibition of discrimination, the designation of a person in charge of preventing bias, and the disposition of fines that can be imposed if the impact assessment is not implemented, so that it can be effectively regulated.
참고문헌 (42)
- 고학수, "AI는 차별을 인간에게서 배운다 – 인간과 기술의 공존을 위해다시 세우는 정의" (2022), 북큐브네트웍스
- 박태웅, "박태웅의 AI강의" (2023), 한빛비즈
- 메러디스 브루서드, "페미니즘 인공지능: 오해와 편견의 컴퓨터 역사 뒤집기" (2019), 이음
- 카타리나 츠바이크, "무자비한 알고리즘: 왜 인공지능에도윤리가 필요할까?" (2021), 니케북스
- 홍정선, "신행정법특강" (2020), 박영사
- 고학수, "인공지능과 차별", 저스티스, 171, pp.199~277 (2019), 한국법학원[DOI]
- 고학수, "인공지능 윤리와 거버넌스" (2021), 박영사
- 고학수, "인공지능 윤리와 거버넌스" (2021), 박영사
- 김광수, "인공지능 과학기술과 행정법학", 서강법률논총, 11(1), pp.37~76 (2022), 법학연구소[DOI]
- 김광수, "인공지능 알고리즘 규율을 위한 법제 동향 — 미국과 EU 인공지능법의 비교를 중심으로 —", 행정법연구, (70), pp.173~201 (2023), 행정법이론실무학회[DOI]
- 김대인, "인공지능과 행정법총론체계의 변화", 경제규제와 법, 13(2), pp.108~128 (2020), 법학연구소[DOI]
- 김병필, "인공지능 윤리와 거버넌스" (2021), 박영사
- 김병필, "인공지능 개인정보 보호 기술과 개인정보 보호 법제의 과제", 법경제학연구, 20(1), pp.113~152 (2023), 한국법경제학회[DOI]
- 김송옥, "AI 법제의 최신 동향과 과제 - 유럽연합(EU) 법제와의 비교를 중심으로 -", 공법학연구, 22(4), pp.115~148 (2021), 한국비교공법학회
- 김태오, "인공지능과 개인정보보호 - 불필요한 갈등 증가에 대한 관견(管見) -", 경제규제와 법, 11(2), pp.131~146 (2018), 법학연구소
- 양 은 영, "생성형 AI의 개발 및 이용에 관한 규제의 필요성 - 대규모 언어모델에 기반한 대화형 인공지능 서비스(LLMs AI)를 중심으로 -", 성균관법학, 35(2), pp.293~325 (2023), 법학연구원[DOI]
- 이나래, "인공지능 기반 의사결정에 대한 법률적 규율 방안", LAW&TECHNOLOGY, 15(5) (2019), 서울대학교 기술과법센터
- 이선복, "기계학습의 소개: 예측모형을 위한 지도학습 이론을 중심으로", 교육과학연구, 53(3), pp.1~43 (2022), 교육과학연구소
- 이숙연, "인공지능 관련 규범 수립의 국내외 현황과 과제", 법조, 72(1), pp.442~488 (2023), 법조협회[DOI]
- 이현정, "인공지능과 헌법적 쟁점 - 인공지능의 차별에 관한 유럽에서의 논의를 중심으로", 헌법재판연구, 8(2), pp.101~130 (2021), 헌법재판연구원[DOI]
- 이효진, "인공지능(AI) 단일법 제정 필요성과 행정법학의 과제", 법학논총, 35(3), pp.9~57 (2023), 법학연구소[DOI]
- 장선화, "북유럽 지방소멸 위기와 정책적 대응: 스웨덴 사례를 중심으로", 유럽연구, 41(2), pp.177~208 (2023), 한국유럽학회[DOI]
- 조성규, "인공지능에 기반한 자동화된 행정결정의 행정법적 쟁점", 동북아법연구, 16(4), pp.149~189 (2023), 동북아법연구소
- 한애라, "인공지능 윤리와 거버넌스" (2021), 박영사
- 황용석, "인공지능 윤리와 거버넌스" (2021), 박영사
- "A Dictionary of Computer Science" (2016)[URL]
- Nisson, Nils J., "THE QUEST FOR ARTIFICIAL INTELLIGENCE -A HISTORY OF IDEAS AND ACHIEVEMENTS" (2009), Cambridge University Press
- "ChatGPT is everywhere. Here’s where it came from" (2023)[URL]
- LeCun, Yann, "Deep learning", Nature, 521 (2015)
- The Discipline of Machine Learning, "Mitchell, Tom M", Carnegie Mellon University, ~, pp.CMU-ML-06-108 (2006)
- "인구소멸 국가 대한민국...저출산 문제 탈출한 북유럽 국가 벤치마킹해야" (2020)[URL]
- "사람같은 챗봇 위한 ‘페르소나’... ‘양날의 칼’" (2021)[URL]
- "국가통계포털- 노동 – 성/직업별 취업자 통계"[URL]
- "과기부, 윤리적 인공지능 실현 위한 '윤리기준'공개" (2020)[URL]
- "英 인구학 권위자, 2750년엔 한국 소멸할 수도 있어… 저출산 경제지원으로 해결 못해" (2023)[URL]
- "AI 스타트업 ‘우후죽순’...사업모델 못 만들며 버블 우려" (2023)[URL]
- "과기정통부, 확장가상세계 윤리원칙 수립을 위한토론회 개최" (2022)[URL]
- "Algorithmic Accountability Act of 2022"[URL]
- "South Korea records world's lowest fertility rate again" (2022)[URL]
- "Recommendation of the Council on Artificial Inte lligence" (2019)[URL]