트랜스포머 기반 온라인상 살인 및 테러 예고글 자동분류 모델에 관한 연구
A Study on Transformer-Based Automatic Classification Models for Online Murder and Terror Threat Posts
0
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
이 연구는 2023년 서현역과 신림역 등에서 발생한 흉기난동 사건을 계기로, 온라인상 살인 및 테러 예고 게시글을 실시간으로 자동 분류할 수 있는 모델을 개발하는 것을 목적으로 한다. 기존 텍스트 분류는 TF-IDF나 BOW 기반의 감성 분석 방식에서 출발하였으나 최근에는 BERT 등 트랜스포머 기반 언어모델이 주류로 자리잡고 있다. 본 연구는 이러한 흐름을 반영하여 실제 범죄로 이어질 수 있는 위협 게시글을 정밀하게 분류하기 위해 트랜스포머 기반의 4단계 단계적 분류 구조를 제안하였다 1단계는 핵심 키워드 기반의 필터링, 2단계는 SBERT 유사도 분석, 3단계는 Cross-Encoder 기반 문맥 분석, 4단계는 KoELECTRA를 통한 최종 판단으로 구성되며 각기 다른 수준의 문맥과 의미를 단계적으로 분석 및 분류한다. 또한 비교 기반 분류와 의미 기반 분류를 결합함으로써, 기존 데이터에 포함되지 않은 새로운 유형의 위협 표현에도 유연하게 대응할 수 있도록 설계되었다. 총 3개 클래스를 기준으로 균형 있는 데이터를 구성하여 성능을 검증한 결과, F1-Score 99.31%를 기록하였다. 특히 실제 위협글을 최대한 놓치지 않도록 설계되어 실무 활용 가능성이 높으며 트랜스포머 기반 분류모델이 공공안전 영역에 효과적으로 적용될 수 있음을 보여주며, 향후 온라인 위협 대응 모니터링 시스템 구축의 기반 자료로 활용될 수 있겠다.
Abstract
This study aims to develop a real-time automated classification model for detecting murder and terror threat posts on online platforms, prompted by a series of weapon-related attacks that occurred in 2023 including incidents at Seohyeon and Sillim Stations. While early text classification approaches were based on TF-IDF or Bag-of-Words methods mainly used for sentiment analysis, more recent advances have shifted toward transformer-based models such as BERT and its variants. Reflecting this progression, this research proposes a four-stage transformer-based step-wise classification framework to precisely identify online threats with potential to escalate into real-world crimes. The model consists of four sequential stages: (1) keyword-based filtering, (2) semantic similarity analysis using SBERT, (3) sentence pair classification via Cross-Encoder, and (4) final decision-making using KoELECTRA. Each stage progressively analyzes contextual and semantic depth, allowing the model to flexibly handle novel threatening expressions not present in the training data. The system was evaluated on a balanced dataset across three classes and achieved an F1-score of 99.31%, demonstrating high precision and minimizing the omission of actual threat posts. Overall, this study highlights the applicability of transformer-based classification in public safety and offers a solid foundation for developing future online threat monitoring systems.