대학생들의 중도 탈락 예측을 위한 신경망과 그레디언트 부스팅 머신의 성능 비교
Performance Comparison of Neural Network and Gradient Boosting Machine for Dropout Prediction of University Students
0
조회
0
다운로드
4
인용
0
참고문헌
키워드
초록
학생들의 중도 탈락은 대학의 재정적 손실 뿐 아니라, 학생 개개인 및 사회적으로도 부정적인영향을 끼친다. 이러한 문제를 해결하기 위해 기계 학습을 이용하여 대학생들의 중도 탈락 여부를 예측하고자 하는 다양한 시도가 이루어지고 있다. 본 논문에서는 대학생들의 중도 탈락 여부를 예측하기 위해 DNN(Deep Neural Network)과 LGBM(Light Gradient Boosting Machine)을 이용한모델을 구현하고 성능을 비교하였다. 학습 데이터로는 서울 소재 중소규모 4년제 대학인 A 대학의 20,050명의 학생을 대상으로 수집된 학적 및 성적 데이터를 학습에 이용하였다. 원본 데이터의140여개의 속성 중 중도 탈락 여부를 나타내는 속성과의 상관계수가 0.1 이상인 속성들만 추출하여 학습하였다. 두 모델의 성능 실험 결과, DNN과 LGBM의 F1-스코어는 0.798과 0.826이었으며, LGBM이 DNN에 비해 2.5% 나은 예측 성능을 보였다.
Abstract
Dropouts of students not only cause financial loss to the university, but also have negative impacts on individual students and society together. To resolve this issue, various studies have been conducted to predict student dropout using machine learning. This paper presents a model implemented using DNN (Deep Neural Network) and LGBM (Light Gradient Boosting Machine) to predict dropout of university students and compares their performance. The academic record and grade data collected from 20,050 students at A University, a small and medium-sized 4-year university in Seoul, were used for learning. Among the 140 attributes of the collected data, only the attributes with a correlation coefficient of 0.1 or higher with the attribute indicating dropout were extracted and used for learning. As learning algorithms, DNN (Deep Neural Network) and LightGBM (Light Gradient Boosting Machine) were used. Our experimental results showed that the F1-scores of DNN and LGBM were 0.798 and 0.826, respectively, indicating that LGBM provided 2.5% better prediction performance than DNN.
참고문헌 (20)
- 김재현, "전문대학생의 개인, 교육기관, 사회적 변인과 중도탈락의도의 위계적 관계", 직업교육연구, 30(2), pp.249~266 (2011), 한국직업교육학회
- 이훈병, "대학에서 학습부진 학습자 진단을 위한 주요인 분석", 인문사회 21, 7(3), pp.653~672 (2016), 인문사회 21[DOI]
- 박철, "사이버대학 중도탈락 개선을 위한 예측모형 개발", 한국산학기술학회논문지, 21(7), pp.380~390 (2020), 한국산학기술학회[DOI]
- 문기범, "대용량 LMS 로그 데이터를 이용한 심층신경망 기반 대학생 학업성취 조기예측 모델", 한국콘텐츠학회 논문지, 21(10), pp.1~10 (2021), 한국콘텐츠학회[DOI]
- Jürgen Schmidhuber, "Deep learning in neural networks: An overview", Neural Networks, 61, pp.85~117 (2015), Elsevier BV[DOI]
- G. Ke, "LightGBM: A highly efficient gradient boosting decision tree", Advances in Neural Information Processing Systems, vol. 30, ~ (2017)
- N. V. Chawla, "SMOTE: Synthetic Minority Over-sampling Technique", Journal of Artificial Intelligence Research, 16, pp.321~357 (2002), AI Access Foundation[DOI]
- 서은희, "대학생의 학사경고 예측요인 탐색: 학교참여도 변인을 중심으로", 한국콘텐츠학회 논문지, 21(7), pp.469~476 (2021), 한국콘텐츠학회[DOI]
- 이현진, "오토인코더에 기반한 딥러닝을 이용한 사이버대학교 학생의 학업 성취도 예측 분석 시스템 연구", 디지털콘텐츠학회논문지, 19(6), pp.1115~1121 (2018), 한국디지털콘텐츠학회[DOI]
- 양자영, "인공지능을 이용한 학습부진 특성 추출 및 예측 모델 연구", 한국정보통신학회논문지, 26(4), pp.510~518 (2022), 한국정보통신학회[DOI]
- 황철현, "이상 데이터를 활용한 성과부진학생의 조기예측성능 향상", 한국정보통신학회논문지, 26(11), pp.1608~1614 (2022), 한국정보통신학회
- "Wikipedia"[URL]
- 김종만, "연관관계 규칙을 이용한 학생 유지율 관리 방안연구", 한국산업정보학회논문지, 23(6), pp.67~77 (2018), 한국산업정보학회[DOI]
- 정선호, "분류 기법을 활용한 대학생 중도탈락 예측모형 개발", 융합과 통섭, 5(2), pp.174~185 (2022), 미래융합통섭학회
- J. Lee, "A study on the prediction model for student dropout", Proc, of the Annual Conference of KIPS 2018, 25(1), pp.37~40 (2018)
- Hee Sun Park, "Early Dropout Prediction in Online Learning of University using Machine Learning", JOIV : International Journal on Informatics Visualization, 5(4), pp.347~353 (2021), Politeknik Negeri Padang[DOI]
- Wanli Xing, "Dropout Prediction in MOOCs: Using Deep Learning for Personalized Intervention", Journal of Educational Computing Research, 57(3), pp.547~570 (2018), SAGE Publications[DOI]
- Sunbok Lee, "The Machine Learning-Based Dropout Early Warning System for Improving the Performance of Dropout Prediction", Applied Sciences, 9(15), pp.3093~ (2019), MDPI AG[DOI]
- "Exponential smoothing"[URL]
- "Google Keras"[URL]