wav2vec 2.0 XLS-R을 활용한 한국어 방언 자동 식별
Automatic Korean dialect identification using wav2vec 2.0 XLS-R
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
기존의 한국어 자동 방언 식별 시스템은 약 60% 수준의 낮은 정확도를 보였으며, 주로 전통적인 기계 학습 모델에의존해 왔다. 또한, 행정 구역에 따라 방언을 분류하는 방법론적 문제는 기존의 언어학적 경계와 일치하지 않는 한계가 있었다. 본 연구는 이러한 한계를 극복하기 위해 최신 트랜스포머 기반의 종단간 음성 모델인 wav2vec 2.0 XLS-R(cross-lingual speech representation)을 적용하고자 한다. 128개 언어의 약 436,000시간에 달하는 음성 데이터로사전 훈련된 이 모델을 본 과제에 맞게 미세조정하였다. 또한, 방언을 중부, 경남, 경북, 전남, 전북, 제주의 6개 주요언어권으로 재분류하였다. AI Hub ‘중 · 노년층 한국어 방언 데이터’를 사용하여 XLS-R 모델을 Bi-LSTM과 같은 베이스라인 모델과 비교하였다. 그 결과, XLS-R 모델이 F1 점수 86.8%를 달성하며 가장 성능이 좋은 베이스라인보다14%p 높은 성능 향상을 보였다. 특정 방언 간의 혼동은 여전히 존재하지만, 본 연구는 대규모 사전 학습 모델을 한국어 방언 식별이라는 정교한 과제에 적용하는 것의 효과를 입증하고, 언어학적 정보에 기반한 범주 사용의 중요성을 강조한다. 연구 결과는 음성인식 및 법과학 분야의 방언 식별 기술 발전에 기여할 것이다.
Abstract
Previous Korean automatic dialect identification systems have demonstrated limited accuracy, hovering around 60%, and have often relied on traditional machine learning models. A further methodological issue has been the categorization of dialects by administrative districts, a method inconsistent with established linguistic boundaries. This study seeks to overcome these limitations by applying a modern, Transformer-based, end-to-end speech model, wav2vec 2.0 cross-lingual speech representation (XLS-R). The model, pre-trained on approximately 436,000 hours of speech from 128 languages, was fine-tuned for this task. We also re-categorized the dialects into six major linguistic zones: Central, Gyeongnam, Gyeongbuk, Jeonnam, Jeonbuk, and Jeju. Using a dataset of middle-aged and senior male speakers, the XLS-R model was compared against baseline models like Bi-LSTM. The results show a significant performance increase, with the XLS-R model achieving an F1 score of 86.8%—a 14 percentage point improvement over the strongest baseline. While confusion between certain dialects persists, this research validates the effectiveness of applying large-scale, pre-trained models to the nuanced task of dialect identification and underscores the importance of using linguistically-informed categories. Furthermore, the findings contribute to advancing dialect identification technology for applications in speech recognition and forensic science.