Temporal fusion transformers for traffic flow prediction in smart cities

Godfred Enim Douglas

Diplomová práce

Temporal fusion transformers for traffic flow prediction in smart cities

Abstract:

Accurate traffic flow prediction plays a critical role in the development of intelligent transportation systems and smart city planning. This thesis explores the application of Temporal Fusion Transformers (TFT), a deep learning architecture designed for interpretable multi-horizon time series forecasting, to model and predict traffic patterns in urban environments. Using real-world traffic datasets composed of spatial-temporal features such as time of day, day of week, road-specific data, and environmental variables, we construct a forecasting pipeline that captures complex dependencies across multiple locations and timeframes. The research includes extensive preprocessing of temporal data, feature engineering, and the implementation of TFT using PyTorch Forecasting. We conduct hyperparameter tuning to optimize model performance and evaluate the model using standard metrics such as Root Mean Squared Error (RMSE) and Mean Absolute Error (MAE) on both validation and test datasets. The results demonstrate the model's ability to capture non-linear patterns and temporal correlations, offering interpretable and scalable predictions suitable for real-time traffic management systems. The thesis concludes with visual and statistical analyses of predicted versus actual traffic flows, emphasizing the effectiveness of TFT in smart city applications.

Abstract:

Přesná predikce dopravního toku hraje klíčovou roli ve vývoji inteligentních dopravních systémů a plánování chytrých měst. Tato diplomová práce zkoumá využití Temporal Fusion Transformers (TFT), hluboké učící architektury navržené pro interpretovatelné predikce časových řad s vícečasovým horizontem, k modelování a predikci dopravních vzorců v městském prostředí. Pomocí reálných dopravních datových sad složených z prostorově-časových prvků, jako je denní doba, den v týdnu, údaje specifické pro dané silnice a environmentální proměnné, vytváříme predikční pipeline, která zachycuje složité závislosti napříč různými lokalitami a časovými rámci. Výzkum zahrnuje rozsáhlé předzpracování časových dat, návrh příznaků (feature engineering) a implementaci modelu TFT pomocí knihovny PyTorch Forecasting. Provádíme ladění hyperparametrů za účelem optimalizace výkonu modelu a hodnotíme model pomocí standardních metrik, jako je střední kvadratická chyba (RMSE) a střední absolutní chyba (MAE) na validačních a testovacích datových sadách. Výsledky ukazují schopnost modelu zachytit nelineární vzorce a časové korelace a nabízejí interpretovatelné a škálovatelné predikce vhodné pro systémy řízení dopravy v reálném čase.Práce končí vizuálními a statistickými analýzami predikovaných a skutečných dopravních toků, přičemž zdůrazňuje efektivitu modelu TFT v aplikacích pro chytrá města.

Keywords

Temporal Fusion Transformer (TFT), traffic-flow forecasting, smart-city mobility, Intelligent Transportation Systems (ITS), multi-horizon time-series prediction, deep-learning interpretability, self-attention mechanism, variable-selection networks (VSN), Gated Residual Network (GRN), hyperparameter tuning with Optuna, PyTorch Forecasting framework, Root Mean Squared Error (RMSE), Mean Absolute Error (MAE), persistence baseline comparison, urban-traffic sensor data, Internet of Things (IoT) traffic sensors, adaptive signal control, quantile loss and prediction intervals, attention heat-map explainability, edge-deployable inference.

Jazyk práce: angličtina

Datum vytvoření / odevzdání či podání práce: 27. 6. 2025

Zveřejnit od: 31. 12. 2999

Obhajoba závěrečné práce

• Vedoucí: prof. Ing. Petr Hájek, Ph.D.

Univerzita Pardubice

Fakulta ekonomicko-správní

Magisterský studijní program / obor:
Informatics and System Engineering / Informatics in Public Administration