기업신용등급 예측을 위한 랜덤 포레스트의 응용
Application of Random Forests to Corporate Credit Rating Prediction
0
조회
0
다운로드
50
인용
0
참고문헌
키워드
초록
지금까지 금융기관의 신용위험관리를 효과적이고 효율적으로 수행하기 위한 지능형 기술에 대한 연구가 활발하게 이루어져 왔다. 특히 기업의 부실 예측이나 신용등급 예측 문제를 해결하는데 있어, 다양한 기계학습 분류 알고리즘들이 제안되고 적용되어 왔는데, 이들은 효과적인 입력변수 선정에 대한 해답을 제공해 주지 못하고, 과적합 및 잡음·이상치에 취약할 수 있는 위험이 있으며, 각종 모수에 대한 조정 작업이 요구되는 한계점이 있었다. 이러한 기존 기법들의 한계를 극복하기 위한 대안으로 본 연구는 랜덤 포레스트(Random Forests)의 응용을 제안한다. 미국의 통계학자 Breiman(2001)에 의해 제안된 랜덤 포레스트는 배깅(bagging)과 무작위 입력 변수 선택(random input selection)을 통해 단일 의사결정 나무를 다수의 의사결정 나무로 확장시킨 기계학습 기법이다. 랜덤 포레스트는 과적합에서 자유로우며, 잡음이나 이상치에 받는 영향이 적고, 높은 정확도를 얻을 수 있는 특징을 지닌다. 본 연구에서는 기업신용등급 예측에 랜덤 포레스트 기법을 적용해 보고, 그 성과를 전통적으로 사용되어 온 다른 기법들과 비교하여 예측성과의 개선이 있는지 확인해 보고자 하였다. 이를 위해 본 연구에서는 1,295개 국내 상장기업을 대상으로 하는 기업신용등급 평가모형 구축에 랜덤 포레스트를 적용해 보았다. 제안된 기법의 성과를 비교평가하기 위한 전통적인 분류 기법으로는 다중판별분석, 인공신경망, 다분류 SVM 모형을 사용하였다. 실증분석 결과, 제안 기법이 전통적인 기법들과 비교해, 보다 정확한 예측결과를 산출함을 확인할 수 있었다.
Abstract
There has been a lot of research on intelligent information processing techniques to effectively and efficiently manage credit risk in the financial industry. To predict corporate credit ratings better, various algorithms of machine learning have been proposed and applied. However, the algorithms have some limitations. First of all, they are unable to give a solution for which variables in the dataset should be considered as input variables to effectively predict a dependent variable. Also, they are easily exposed to overfitting and risk being affected by outliers and noise. In addition, they are required to tune their numerous parameters. Under this background, this study proposes the application of Random Forests(RF) to overcome the weakness of the traditional techniques. RF were designed by Leo Breiman, an American statistician and professor, and are an ensemble learning technique. This algorithm has both features originating from bagging algorithm, which is to extend a single decision tree to various decision trees, and from random input selection. The benefit of our proposed algorithm is free from an overfitting issue, and both noise and outliers in the dataset cannot have an effect on it. Thus, our model can yield high accuracy in forecasting corporate credit ratings. To validate the effectiveness of RF in predicting corporate credit ratings, we applied it to a real world dataset of corporate credit rating in Korea. The data that we used for this research consisted of various financial ratios of 1,295 corporations and their corporate credit ratings. To evaluate and compare our model with traditional methods, we used the following methods: MDA(Multiple Discriminant Analysis), ANN(Artificial Neural Network) and MSVM(Multiclass SVM). Each model’s performance was calculated by predictive accuracy based on training and validation. Empirical results showed that RF outperforms other traditional methods from the perspective of prediction accuracy.
참고문헌 (40)
- 김문현, "신용등급의 주가관련성 연구", 산업혁신연구, 29(4), pp.171~192 (2013), 산업개발연구소
- 권안나, "랜덤포레스트를 이용한 변수 선택", 석사, 통계학과 통계학전공, pp.2013
- 박기남, "러프집합을 이용한 통합형 채권등급 평가모형 구축에 관한연구", 한국경영과학회지, 25(3), pp.125~135 (2000)
- 심준섭, "부스트래핑(bootstrapping)기업을 활용한 회귀분석", 정책분석평가학회보, 14(2), pp.167~183 (2004), 한국정책분석평가학회
- 안현철, "다양한 다분류 SVM을 적용한 기업채권평가", Asia Pacific Journal of Information Systems, 19(2), pp.157~178 (2009), 한국경영정보학회
- 안현철, "다분류 Support Vector Machine을 이용한 한국 기업의 지능형 기업채권평가모형", 경영학연구, 35(5), pp.1479~1496 (2006), 한국경영학회
- 윤태균, "의료진단 및 중요 검사 항목 결정 지원 시스템을 위한 랜덤 포레스트 알고리즘 적용", 전기학회논문지ABCD, 57(6), pp.1058~1062 (2008), 대한전기학회
- 이건창, "통계적 모형과 인공지능 모형을 결합한 기업신용평가 모형에 관한 연구", 한국경영과학회지, 21(1), pp.81~100 (1996)
- 이규복, "한국의 경제성장과 금융의 역할", 산업혁신연구, 28(2), pp.1~34 (2012), 산업개발연구소[DOI]
- 이현주, "부정맥 증상을 자동으로 판별하는 Random Forest 분류기의 정확도 향상을 위한 수정 알고리즘에 대한 연구", 정보처리학회논문지. 소프트웨어 및 데이터 공학, 18(6), pp.341~348 (2011), 한국정보처리학회
- 최진배, "외환 위기와 기업구조조정 – 현황과 문제점", 산업혁신연구, 18(1), pp.21~49 (2002)
- 최혁진, "Random forest를 이용한 단백질에서의 DNA 결합 부위 예측", 정보과학회논문지 : 소프트웨어 및 응용, 39(7), pp.515~522 (2012), 한국정보과학회[DOI]
- 한은정, "건강검진 자료에서 Random Forests를 이용한 백내장 발생 위험군 예측 모형", 석사, 의학통계학, pp.2005
- 홍준혁, "가중치 기반 Bag-of-Feature와 앙상블 결정 트리를 이용한 정지 영상에서의 인간 행동 인식", 한국통신학회논문지, 38(1), pp.1~9 (2013), 한국통신학회
- Altman, E. I., "Corporate Distress Diagnosis Comparisons Using Linear Discriminant Analysis and Neural Networks", Journal of Banking and Finance, 18(3), pp.505~529 (1994)
- Amit, Y., "Shape Quantization and Recognition with Randomized Trees", Neural Computation, 9(7), pp.1545~1588 (1997)
- Breiman, L., "Bagging predictors", Machine Learning, 24(2), pp.123~140 (1996)
- Breiman, L., "Random Forests", Machine Learning, 45, pp.5~32 (2001)
- Brown, I., "An experimental comparison of classification algorithms for imbalanced credit scoring data sets", Expert Systems with Applications, 39(3), pp.3446~3453 (2012)
- Chaveesuk, R., "Alternative neural network approaches to corporate bond rating", Journal of Engineering Valuation and Cost Analysis, 2(2), pp.117~131 (1993)
- Chang, C.-C., "LIBSVM : a library for support vector machines", ACM Transactions on Intelligent Systems and Technology, 2(3), pp.27:1~27:27 (2011)
- De Andres, J., "Bankruptcy Prediction and Credit Scoring: A Review of Recent Developments", Recent Patents on Computer Science, 5, pp.11~20 (2012)
- Efron, B., "Bootstrap methods: Another look at the Jackknife", The Annals of Statistics, 7(1), pp.1~26 (1979)
- Efron, B., "An Introduction to the Bootstrap" (1993), Chapman and Hall
- Hajek, P., "Feature selection in corporate credit rating prediction", Knowledge-Based Systems, 51, pp.72~84 (2013)
- Huang, C.C., "Rough set approach to case-based reasoning application", Expert Systems with Applications, 26(3), pp.369~385 (2004)
- Huang, Z., "Credit rating analysis with support vector machines and neural networks: a market comparative study", Decision Support Systems, 37, pp.543~558 (2004)
- Jo. H., "Integration of case-based forecasting, neural network, and discriminant analysis for bankruptcy prediction", Expert Systems with Applications, 11, pp.415~422 (1996)
- Kalsyte, Z., "A novel approach to exploring company’s financial soundness: Investor’s perspective", Expert Systems with Applications, 40(3), pp.5085~5092 (2013)
- Kim, K.-j., "A Corporate Credit Rating Model using Multi-class Support Vector Machines with an Ordinal Pairwise Partitioning Approach", Computers & Operations Research, 39(8), pp.1800~1811 (2012)
- Kim, M. -J., "Geometric mean based boosting algorithm with over-sampling to resolve data imbalance problem for bankruptcy prediction", Expert Systems with Applications, 42(3), pp.1074~1082 (2015)
- Kim, J. W., "Expert systems for bond rating: a comparative analysis of statistical rule-based and neural network systems", Expert Systems, 10(3), pp.167~171 (1993)
- Kumar, P. R., "Bankruptcy prediction in banks and firms via statistical and intelligent techniques - A review", European Journal of Operational Research, 180(1), pp.1~28 (2007)
- Kwon. Y. S., "Ordinal Pairwise Partitioning(OPP) approach to neural networks training in bond rating", Intelligent Systems in Accounting, Finance and Management, 6, pp.23~40 (1997)
- Lee. K., "Hybrid neural networks for bankruptcy predictions", Decision Support Systems, 18, pp.63~72 (1996)
- Maher, J. J., "Predicting bond ratings using neural networks: a comparison with logistic regression", Intelligent Systems in Accounting, Finance and Management, 6, pp.59~72 (1997)
- Big Data: The next frontier for innovation, competition, and productivity, "Manyika, J.", McKinsey Global Institute, ~ (2011)
- Shin, K.-S., "Case-based reasoning supported by genetic algorithms for corporate bond rating", Expert Systems with Applications, 16(2), pp.85~95 (1999)
- Shin, K.-S., "Case-based approach using inductive indexing for corporate bond rating", Decision Support Systems, 32(1), pp.41~52 (2001)
- Witten, I. H., "Data Mining: Practical Machine Learning Tools and Techniques" (2011), Morgan Kaufmann Publishers Inc