A Design and Implementation of Youth Profanity Prevention Application Based on LLM and Generative AI
2
조회
0
다운로드
0
인용
0
참고문헌
키워드
초록
본 논문에서는 청소년의 건전한 언어문화 형성과 사이버 폭력 예방을 위한 AI 기반의 바른말ㅆ. 미 서비스를 제안한다. 이 서비스는 LLM(Large Language Model) 기반의 분류 모델과RAG(Retrieval Augmented Generation)를 활용하여 비속어를 정확히 감지하고, 상황에 적합한 대체표현이나 이모티콘을 실시간으로 제공함으로써 자녀의 사생활을 보호하고 비속어 사용을 줄일 수있도록 한다. 이 서비스는 키패드와 앱으로 구성한다. 키패드는 비속어를 감정에 맞는 이모지로대체하고, 비윤리적 표현의 위험등급과 올바른 표현 제안 기능을 실시간으로 제공한다. 앱은 LLM 으로 누적된 텍스트를 분석하여 언어 습관과 사이버 폭력에 관한 리포트를 자동 생성하여 학생과부모에게 각각 전달한다. 키패드에 사용한 KoSim-CSE-BERT-multitask 모델은 온디바이스에서 데이터 노출없이 빠르고 정확한 결과를 내고, LLM과 RAG를 활용한 리포트에는 부모에게 자녀의 실제 대화 내용의 일부만을 제공한다. 그 결과 학생들에게는 실시간 언어 교정과 자기 인식 기회가주어지고, 부모는 자녀의 언어 습관에 대한 통찰력 있는 정보를 얻는다. 바른말ㅆ. 미 서비스는 올바른 언어 습관을 형성하고, 건전한 사이버 환경 조성에 중요한 역할을 할 것이다.
Abstract
In this paper, we propose an AI-based service called Baleunmalssami aimed at fostering a positive language culture among adolescents and preventing cyberbullying. This service utilizes a classification model based on LLM and RAG to accurately detect offensive language and provide real-time suggestions for alternative expressions or emojis suited to the context, thus protecting the privacy of minors and reducing the use of profanity. The service consists of a keypad and an app. The keypad replaces offensive language with emojis that match the tone and provides a real-time risk rating for unethical expressions. The app uses accumulated text data analyzed by the LLM to automatically generate reports on language habits and cyberbullying for both students and parents. The KoSim-CSE-BERT-multitask model used in the keypad delivers fast and accurate results on-device without exposing data, while reports generated with LLM and RAG include only select portions of actual conversations to protect the privacy of minors. As a result, this service provides students with real-time language correction and self-awareness opportunities, while offering parents insightful information about their children’s language habits. Baleunmalssami will play an important role in fostering healthy language habits and contributing to a safer cyber environment.