The Evolution of Semantics and its Effect on Asset Prices

Martin Matoušek

Master's thesis

Vývoj sentimentu a jeho efekt na ceny aktiv

Abstract:

Pokrok v přirozeném zpracování jazyka vyvrcholil zrodem jazykových modelů na bázi trans- former architektury, které předčují dokonce i lidské schopnosti v některých jazykových bench-markových úkolech. Jejich deriváty, přizpůsobené specifickým odvětvím, představují slibné výsledky i při aplikacích na finanční texty. Rozsah výzkůmu je v této oblasti prozatím skromný. Předchozí práce využívají primárně dřívější metody, jednoduché jazykové proměnné a open-source data. Tato práce navrhuje metodu aplikace jazykového modelu na rozsáhlý dataset vytvořený na základě finančních článků. Tento přístup kombinuje pokrok v oblasti strojového učení, přirozeného zpracování jazyka a interpretability modelů pro lepší pochopení a aproximaci efektů sentimentu investorů s ohlednem na predikci cen akcíí. Navrhovaný postup může být využit ke konstrukci profitabilní obchodní strategie, která však disponuje vysokou volatilitou. Výsledky testů dokazují, že sentiment extrahovaný z finančních článků ovlivňuje výnosy dalšího dne. Tento vztah je zesílen délkou článku.

Abstract:

Advances in natural language processing culminated in the advent of language models based on transformers that surpass even humans in certain language benchmarking tasks. Their domain-specific derivatives show promising results also when applied to financial texts. But research in this domain is sparse. Prior research works with former models, simple features and open-source data. This thesis proposes an approach of applying a language model on a large-scale custom-made dataset of financial news articles. This approach combines progress in machine learning, natural language processing and model interpretability to help better understand and estimate the effect of investor sentiment with regards to stock price forecasting. The proposed end-to-end approach can be utilized in a trading strategy that outperforms the market but suffers from high volatility. Experimental results show that sentiment extracted from articles influences next day returns, a relationship that is amplified by the length of the article.

Keywords

analýza sentimentu, predikce cen akcií, jazykový model

Keywords

sentiment analysis, stock price prediction, language model

Language used: English

Date on which the thesis was submitted / produced: 6. 2. 2020

Thesis defence

• Date of defence: 4. 2. 2021
• Supervisor: Milan Fičura
• Reader: Michal Vyletelka

Vysoká škola ekonomická v Praze

Master programme / field:
Finance a účetnictví / Finance