본문 바로가기
KERD
논문KCI 등재

DTD Transformer-MAF: 인접 시점의 다양한 맥락 정보를 강조한 우리나라 주요 수출 8개국의 장기 원화 환율 분포 추정

DTD Transformer-MAF: Estimating the Long-Term Exchange Rates with Emphasis on Various Contextual Information at Adjacent Points in Time

김하영|김민채|권혁재
한국지식정보기술학회 (Korea Knowledge Information Technology Society)|2023.08|한국지식정보기술학회 논문지 (Journal of Knowledge Information Technology and Systems)|제18권 제4호|pp. 907-921|DOI 10.34163/jkits.2023.18.4.012

0

조회

0

다운로드

1

인용

0

참고문헌

키워드

Deep learningTransformerAuto regressive modelMAF (Masked Autoregressive Flow)Multivariate exchange rate forecastsNormalizing flows
주제분류학제간연구

초록

환율은 각국의 실질적인 화폐 가치로서 유기적으로 연결된 국내외 상황에 따라 탄력적으로 변동하며 각 나라의 수출입은 물론 내수 경제에 많은 영향을 끼친다. 최근 미·중 갈등을 비롯한 베트남의 경제 상황 악화는 우리나라 수출 기업의 큰 침체를 야기하며 원화 가치 하락세와 함께 한국 경제의 잇따른 악재로 이어지고 있다. 이에 따라 본 연구에서는 다변량 환율 예측 연구에서 가장 높은 성능을 보인 Transformer-MAF를 기반으로 우리나라 주요 수출 8개국의 원화 환율 추이를 예측해냄으로써 실질적인 환위험 관리에 도움이 되고자 하였다. 그러나 기존의 Transformer-MAF는 하나의 선형층으로 이루어진 임베딩 모듈을 통하여 전체적인 맥락 정보만을 모델에 전달할 뿐 나라별 급상승 내지 급하강 변동 추이를 예측하는 데에 주요한 맥락 정보를 강조하지 못하고 있었다. 따라서 우리는 기존의 Transformer-MAF에 Dilated Temporal Dependency Embedding 모듈을 제안함으로써 인접 시점의 다양한 종속관계를 바탕으로 효과적인 다변량 장기 예측이 이루어지도록 하였다. 제안한 임베딩 모듈은 각 나라의 포괄적인 맥락 정보를 추출할 수 있는 고차원의 선형 투영층과 이에 관하여 순전파마다 새로운 인접 시점의 맥락 정보를 다양하게 전달하는 연속된 무작위 마스킹 및 확장된 합성곱 신경망 블록으로 구성되어 있다. 실험 결과, 제안 모델 Dilated Temporal Dependency centered Transformer-MAF (DTD Transformer-MAF)은 가장 적은 표준편차를 보이며 모든 비교 모델을 모두 뛰어넘는 0.75987 CRPSsum (± 0.00202)를 기록하며 적은 연산량 증가만으로도 효율적인 다변량 환율 예측이 가능함을 보여주었다. Ablation study에 따르면 전체 성능 향상에 가장 크게 기여한 요소는 무작위의 연속된 3개의 마스킹이었으며 이를 통해 다양한 맥락 관계를 생성하여 보다 많은 시점 정보를 전달해주는 것이 모델의 환율 변동성 추론 향상에 주요함을 실험적으로 확인하였다.

Abstract

The exchange rate fluctuates elastically depending on the domestic and international conditions and has a great impact on the domestic economy as well as the export and import of each country. Recently, the deterioration of Vietnam's economic situation, including the US-China conflict, has caused a major downturn in Korean exporters along with the depreciation of the Korean Won. Therefore, this study aims to help manage their exchange rate risks by predicting the trends of the exchange rates of 8 major exporting countries based on Transformer-MAF, which has shown the highest performance in multivariate exchange rate prediction studies. However, the Transformer-MAF only conveys overall contextual information to the model through an single linear embedding module, and fails to emphasize the contextual information important for predicting the fluctuation trend of each country. Therefore, we proposed a Dilated Temporal Dependency Embedding module to the Transformer-MAF to enable effective multivariate long-term prediction based on various dependency relationships at adjacent time points. The proposed embedding module consists of a high-dimensional linear projection layer that can extract comprehensive contextual information of each country, and successive randomized masking and dilated conv blocks that deliver the various contextual information from different neighboring time points in each forward propagation. Experimental results show that the proposed model has the smallest standard deviation and outperforms all comparison models with a 0.75987 CRPSsum (±0.00202), provinging that effective multivariate exchange rate forecasting is possible with only a small increase in computation.

참고문헌 (46)

  1. Q. He, "Monetary policy transmission with two exchange rates of a single currency : The Chinese experience", International Review of Economics &Finance, 75, pp.558~576 (2021)
  2. P. Liu, "A CNN-STLSTM-AM model for forecasting USD", RMB exchange rate, 2023, pp.11(100079), ~
  3. Di Mauro, F., "The changing role of the exchange rate in a globalised economy", European Central Bank Occasional Paper, 94 (2008)
  4. A. Nicita, "Exchange rates, international trade and trade policies", International Economics, 135, pp.47~61 (2013)
  5. "Worktoday" (2023)[URL]
  6. "Yonhap News Agency" (2023)[URL]
  7. 조영철, "문재인 정부 경제정책 평가", 경제와 사회, (120), pp.134~157 (2018), 비판사회학회[DOI]
  8. "Statistics Korea" (2023)[URL]
  9. M. J. Bailey, "The impact of exchange-rate volatility on export growth: some theoretical considerations and empirical results", Journal of Policy Modeling, 9(1), pp.225~243 (1987)
  10. Accumulation of foreign exchange reserves and long term growth, "V. Polterovich", New Economic School Working, ~ (2003)
  11. 김경석, "유럽 재정위기에 따른 외국인의 채권투자 행태 변화 분석 - 만기별 채권순매수 변화를 중심으로 -", 한국지식정보기술학회 논문지, 7(2), pp.125~134 (2012), 한국지식정보기술학회[DOI]
  12. How well do monetary fundamentals forecast exchange rates?, "C. J. Neely", Federal Reserve Bank of Saint Louis Working, ~, pp.Federal Reserve Bank of Saint Louis Working Paper Series, No. 2002-007 (2002)
  13. 한정아, "시계열 모형을 이용한 원", 달러 환율 예측모형 비교연구, 2019, pp.7(4), 69~78[DOI]
  14. 김보미, "일별 환율데이터에 대한 시계열 모형 적합 및 비교분석", 응용통계연구, 26(1), pp.1~14 (2013), 한국통계학회
  15. 이연하, "다변량 지수평활모형을 이용한 환율 분석", 응용통계연구, 33(3), pp.257~267 (2020), 한국통계학회
  16. S. Wu, "Adversarial sparse transformer for time series forecasting", Advances in neural information processing systems, 33, pp.17105~17115 (2020)
  17. Artificial neural network model for forecasting foreign exchange rate, "A. P. Adewole", ~ (2011)
  18. J. Imbs, "Nonlinearities and real exchange rate dynamics", Journal of the European Economic Association, 1(2-3), pp.639~649 (2003)
  19. K. Rasul, "Multivariate probabilistic time series forecasting via conditioned normalizing flows", arXiv preprint arXiv : 2002. 06103, ~ (2020)
  20. K. B. Grier, "Exchange rate shocks and trade: A multivariate GARCH-M approach", Journal of International Money and Finance, 37, pp.282~305 (2013)
  21. A. S. Babu, "Exchange rate forecasting using ARIMA. Neural Network and Fuzzy Neuron", Journal of Stock & Forex Trading, 4(3), pp.1~5 (2015)
  22. N. A. Bakar, "Autoregressive integrated moving average (ARIMA) model for forecasting cryptocurrency exchange rate in high volatility environment: A new insight of bitcoin transaction", International Journal of Advanced Engineering Research and Science, 4(11), pp.130~137 (2017)
  23. L. Benzid, "The impact of COVID-19 on exchange rate volatility : Evidence through GARCH model", Available at SSRN 3612141, ~ (2020)
  24. G. E. Box, "Distribution of residual autocorrelations in autoregressive-integrated moving average time series models", Journal of the American statistical Association, 65(332), pp.1509~1526 (1970)
  25. T. Bollerslev, "Generalized autoregressive conditional heteroskedasticity", Journal of econometrics, 31(3), pp.307~327 (1986)
  26. 임현욱, "국고채, 금리 스왑 그리고 통화 스왑 가격에 기반한 외환시장 환율예측 연구: 인공지능 활용의 실증적 증거", 지식경영연구, 22(4), pp.71~85 (2021), 한국지식경영학회[DOI]
  27. K. O'Shea, "An introduction to convolutional neural networks", arXiv preprint arXiv:1511.08458, ~ (2015)
  28. C. Liu, "Foreign exchange rates forecasting with convolutional neural network", Neural Process. Lett, 46, pp.1095~1119 (2017)
  29. K. Cho, "Learning phrase representations using RNN encoder-decoder for statistical machine translation", arXiv preprint arXiv:1406.1078, ~ (2014)
  30. S. Hochreiter, "Long short-term memory", Neural computation, 9(8), pp.1735~1780 (1997)
  31. M. S. Islam, "Foreign exchange currency rate prediction using a GRU-LSTM hybrid network", Soft Computing Letters, 3(100009) (2021)
  32. A. Vaswani, "Attention is all you need", Advances in neural information processing systems, 30 (2017)
  33. D. Salinas, "DeepAR: Probabilistic forecasting with autoregressive recurrent networks", International Journal of Forecasting, 36(3), pp.1181~1191 (2020)
  34. K. Rasul, "Autoregressive denoising diffusion models for multivariate probabilistic time series forecasting", International Conference on Machine Learning, The Proceedings of Machine Learning Research, pp.8857~8868 (2021)
  35. G. Papamakarios, "Masked autoregressive flow for density estimation", Advances in neural information processing systems, 30 (2017)
  36. "Kyeonggi Ilbo" (2023)[URL]
  37. "Korea Development Institute" (2023)[URL]
  38. "Bank of Korea" (2023)[URL]
  39. M. Germain, "Made: Masked autoencoder for distribution estimation", International conference on machine learning, The Proceedings of Machine Learning Research, pp.881~889 (2015)
  40. D. Hendrycks, "Gaussian error linear units (gelus)", arXiv preprint arXiv:1606.08415, ~ (2016)
  41. D. A. Clevert, "Fast and accurate deep network learning by exponential linear units (elus)", arXiv preprint arXiv:1511.07289, ~ (2015)
  42. J. E. Matheson, "Scoring rules for continuous probability distributions", Management science, 22(10), pp.1087~1096 (1976)
  43. D. Salinas, "High-dimensional multivariate forecasting with low-rank gaussian copula processes", Advances in neural information processing systems, 32 (2019)
  44. J. Ho, "Denoising diffusion probabilistic models", Advances in Neural Information Processing Systems, 33, pp.6840~6851 (2020)
  45. Y. Song, "Generative modeling by estimating gradients of the data distribution", Advances in neural information processing systems, 32 (2019)
  46. 김영진, "장기 변동성을 반영하기 위한 확산 모델을 활용한 주가 지수 확률 분포 예측", 한국지식정보기술학회 논문지, 18(1), pp.141~155 (2023), 한국지식정보기술학회[DOI]

관련 논문AI추천

머신러닝을 이용한 우리나라 환율 예측 연구노재확지식경영연구원 · 기업과혁신연구2021 · 제44권 제3호대용량 거시･금융 자료를 이용한 원/달러 환율 변동의 예측력 평가박민지, 이동진, 이지원, 전찬우예금보험공사 · 금융안정연구2022 · 제23권 제1호국제 맥락정보와 변수 선택법을 강조한 코스피 주가 예측 최적화김진호, 김하영, 박은홍한국컴퓨터정보학회 · 한국컴퓨터정보학회논문지2025 · 제30권 제1호Forecasting Exchange Rate by Finding Trend Change김태윤, Gyu Moon Song, O Jin Kwon자연과학연구소 · Quantitative Bio-Science2013 · 제32권 제1호국고채, 금리 스왑 그리고 통화 스왑 가격에 기반한 외환시장 환율예측 연구: 인공지능 활용의 실증적 증거오경주, 이희수, 임현욱, 정승환한국지식경영학회 · 지식경영연구2021 · 제22권 제4호시계열 예측을 위한 스타일 기반 트랜스포머김광수, 김동건한국정보처리학회 · 정보처리학회 논문지2021 · 제10권 제12호

이 간행물의 다른 논문 (19건)

BERT를 활용한 전자정부표준프레임워크 코드 생성 모델 구축정회경, 송지호, 최인빈, 김판영pp. 775-784다중 에이전트 강화학습 기반 상품 추천 모델 개발 연구김철진pp. 785-795세대에 따른 워라밸 인식차이 분석 : 공무원 조직을 중심으로한승조pp. 797-804메타버스 서비스를 위한 근거리 다중 사용자 상호작용을 지원하는 미들웨어최훈, 윤영한pp. 805-815행동탐지요원의 훈련체계 정립 및 특별사법경찰관으로서의 활용방안송제환, 황호원, 전제형pp. 817-827
원문 보기