Strojové učení ve finanční matematice

Bc. Ján Kršiak

Diplomová práce

Machine learning in financial mathematics

Abstract:

This master's thesis deals with the application of machine learning methods, specifically reinforcement learning, in the field of quantitative trading. Reinforcement learning is one of the most promising areas of machine learning, aiming to optimize decision-making strategies through repeated interactions with the environment and feedback in the form of rewards. The goal of this thesis is to provide a mathematical background for reinforcement learning, including the Double Deep Q-Network (DDQN) algorithm, and to apply it effectively in quantitative trading. The work includes the development of a trading environment and trading agent in the Python programming language, capable of making trading decisions based on historical price and volume data, specifically Apple stock. The agent is trained and tested on three types of data: historical real data, smoothed using a simple moving average, and simulated data. The experiments show that the agent created using the Double Deep Q-Network algorithm is not able to generate profit on real data but performs very well on smoothed and simulated data. This thesis provides new insights into the use of machine learning in quantitative trading and identifies the strengths and weaknesses of the proposed model.

Abstract:

Tato diplomová práce se zabývá aplikací metod strojového učení, konkrétně posilovacího učení, v oblasti kvantitativního obchodování. Posilovací učení je jednou z nejperspektivnějších oblastí strojového učení, která se zaměřuje na optimalizaci rozhodovacích strategií prostřednictvím opakované interakce s prostředím a zpětné vazby ve formě odměn. Cílem práce je poskytnout matematický základ posilovacího učení včetně algoritmu Double Deep Q-Network (DDQN) a vhodně jej aplikovat v kvantitativním obchodování. Součástí práce je vývoj obchodního prostředí a obchodního agenta v programovacím jazyce Python, který bude schopen vykonávat obchodní rozhodnutí na základě historických cenových a objemových dat, konkrétně akcií společnosti Apple. Agent je trénován a testován na třech druzích dat: historických reálných datech, vyhlazených pomocí jednoduchého klouzavého průměru a simulovaných datech, tj. vyhlazených s přidaným gaussovským šumem. Experimenty ukazují, že agent vytvořený pomocí algoritmu Double Deep Q-Network není schopen generovat zisk na reálných datech, ale dosahuje velmi dobré výsledky na vyhlazených a simulovaných datech. Tato práce přináší nové poznatky o využití strojového učení v kvantitativním obchodování a identifikuje silné a slabé stránky navrženého modelu.

Klíčová slova

Markovovy rozhodovací procesy, hluboké posilovací učení, Double Deep Q-Network, obchodní agent, kvantitativní obchodování, Python, Markov decision processes, deep reinforcement learning, trading agent, quantitative trading

Jazyk práce: slovenština

Datum vytvoření / odevzdání či podání práce: 5. 5. 2025

Obhajoba závěrečné práce

• Obhajoba proběhla 26. 6. 2025
• Vedoucí: Mgr. Ondřej Pokora, Ph.D.
• Oponent: doc. RNDr. Martin Kolář, Ph.D.

Masarykova univerzita

Přírodovědecká fakulta

Magisterský studijní program / obor:
Aplikovaná matematika / Finanční a pojistná matematika