생성형 AI와 투명성
Generative AI and Transparency
1
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
생성형 AI의 등장은 기술적 특수성으로 인해 기존의 AI 투명성 논의를 새로운 국면으로 전환시키고있다. 심층 신경망에 기반한 의사결정 과정의 불투명성(블랙박스 문제)과 환각 현상(Hallucination) 같은고유한 위험은 설명 가능성을 요구하는 윤리적·법적 원칙과 긴장관계를 이룬다. 유럽연합의 AI Act는위험 기반 접근을 통해 투명성 의무를 구체화하고 있으나, 이러한 법적 요구가 생성형 AI의 기술적 현실과조응할 수 있는지, 나아가 영업비밀 보호 등과 충돌하지는 않는지에 대한 근본적인 질문을 제기한다. 더불어, 우리나라의 인공지능기본법 역시 선언적 수준의 투명성 의무만을 규정하는 데 그쳐, 실질적인투명성 확보 방안에 대한 심층적인 고민이 필요한 실정이다. 이에 본 논문은 법적 규제와 기술적 구현가능성 사이의 이러한 괴리에 주목하고 그 의미를 탐구한다. 구체적으로는 생성형 AI의 맥락에서 투명성의개념을 재정립하고, 유럽연합 AI Act의 규제 내용을 기술적 한계와 연관하여 비판적으로 검토한다. 궁극적으로는 이러한 분석을 바탕으로, 기술적 특수성을 고려하면서도 사회적 신뢰를 확보할 수 있는합리적인 투명성 규제 방안을 모색하는 것을 목적으로 한다.
Abstract
The advent of generative artificial intelligence (AI) has brought the ongoing debate on AI transparency into a new dimension due to its technical particularities. The opacity of decision-making processes based on deep neural networks, commonly referred to as the black box problem, as well as specific risks such as hallucinations, creates tensions with ethical and legal principles that demand explainability. The European Union, through the EU AI Act, specifies transparency obligations using a risk-based approach; however, this raises fundamental questions about whether these legal requirements align with the technical realities of generative AI and whether they may conflict with trade secrets. Similarly, Korea's AI Framework Act imposes transparency obligations only at a declaratory level, highlighting the need for a more in-depth consideration of strategies to ensure transparency. This paper focuses on the gap between legal regulations and technical feasibility, exploring its implications. To this end, it clarifies the concept of transparency in the context of generative AI and critically examines the EU AI Act in relation to technical limitations. Ultimately, the study aims to propose a rational approach to transparency regulation that accounts for technical particularities while securing societal trust.