Forecasting Realized Volatility Using Neural Networks

Kateryna Pavlyuk

Master's thesis

Odhad realizované volatility pomocí neuronových sítí

Abstract:

Tato diplomová práce zkoumá využití neuronových sítí pro predikci realizované volatility na třech hlavních měnových párech. Zatímco tradiční ekonometrické modely často nedokáží zachytit dynamiku finančních dat, neuronové sítě prokazují schopnost této komplexnosti čelit. Analýza se soustředí na srovnání výkonnosti neuronových sítí, zahrnující jak feedforward, tak LSTM architektury, s běžně používanými heterogenními autoregresivními modely. Dále se také zaměřuje na modifikované modely, které zahrnují dodatečné parametry jako jsou skoky, kvarticity a semivariance. Výsledky naznačují, že jednodušší modely jako HAR prokazují vynikající schopnost generalizace, zejména při predikci na testovacím vzorku, zatímco neuronové sítě vykazují lepší výkon na trénovacích datech. Při zkoumání distribuce testovacího vzorku se ukázalo, že neuronové sítě vykazují vyšší výkonnost až do 95. percentilu, zatímco modely HAR excelují v nejextrémnějších scénářích. Zvláště skoky a kvarticity se ukázaly jako cenné doplňkové parametry během extrémních událostí.

Abstract:

This diploma thesis investigates the effectiveness of neural network models, encompassing both feedforward and LSTM architectures, in forecasting volatility across three major forex currency pairs. Traditional econometric models often struggle to capture the intricate dynamics of financial data, whereas NNs show the ability to cope with these complexities. The analysis focuses on applying both NN frameworks to volatility prediction and juxtaposing their performance against the commonly employed Heterogeneous Autoregressive models. The modeling phase entails deploying both feedforward and LSTM NNs while taking into account also supplementary parameters such as jumps, quarticities and semivariance. The findings indicate that simpler models like HAR demonstrate superior performance in out-of-sample forecasting owing to their enhanced generalization capabilities, whereas NNs exhibit strong in-sample performance. Upon examining the distribution of out-of-sample data, NNs demonstrate superiority up to the 95th percentile, particularly during extreme events, while HAR models excel in the most extreme scenarios. Notably, jumps and quarticities emerge as valuable additional parameters during extreme events.

Keywords

LSTM, HAR, Neuronové sítě, Realizovaná volatilita

Keywords

Realized volatility, Neural Networks, LSTM, HAR

Language used: English

Date on which the thesis was submitted / produced: 28. 5. 2024

Thesis defence

• Date of defence: 18. 6. 2024
• Supervisor: Milan Fičura
• Reader: Matěj Drahokoupil

Vysoká škola ekonomická v Praze

Master programme:
Finanční inženýrství