​​Enhancing multiple DDoS attack detection through hybrid deep learning model​

Harsh Vijaykumar Chaudhari

Master's thesis

Vylepšení detekce vícenásobných útoků DDoS prostřednictvím modelu hlubokého učení

Abstract:

Stávající systémy detekce DDoS spolu s mechanismy zmírňování problémů čelí třem primárním provozním problémům, včetně vysoké míry chybné identifikace a omezení škálovatelnosti jejich detekční schopnosti a také nedostatečné odezvy na nové vzorce útoků. Tradiční přístupy často identifikují legitimní pakety provozu jako škodlivé, což vede ke zbytečným přerušením služeb. Několik síťových systémů trpí neschopností automaticky detekovat nebo zastavit útoky kybernetické bezpečnosti v reálném čase, zejména v cloudových a podnikových sítích. Tato studie si klade za cíl vybudovat systém hlubokého učení pro detekci vícenásobných útoků DDoS prostřednictvím procesu převodu tabulkových dat do obrazových formátů. Tato studie se zaměřuje na vývoj robustního detekčního modelu prostřednictvím metod hlubokého učení s datovou sadou CSE-CIC-IDS2018 v prostředí Google Colab. Výkon vybrané metodiky byl hodnocen oproti tradičním modelům strojového učení napříč různými scénáři detekce kybernetických útoků. Výsledky ukazují, že CNN dosáhlo nejvyšší přesnosti (99%) a prokázalo efektivní výkon, zatímco XGBoost poskytl silnou rovnováhu mezi rychlostí a přesností ve srovnání s jinými modely. Klíčová zjištění ukazují, že navrhovaný přístup zvyšuje přesnost detekce, škálovatelnost a odolnost proti moderním kybernetickým hrozbám a zdůrazňuje efektivitu hloubkového učení založeného na obrázcích pro detekci různých kybernetických útoků. Tento přístup také ukazuje na slibný směr systémů detekce narušení v reálném čase v moderních síťových prostředích.

Abstract:

Existing DDoS detection systems together with mitigation mechanisms face three primary operational challenges including high misidentification rates and scalability limitations for their detection capabilities as well as insufficient responsiveness to new attack patterns. Traditional approaches often identify legitimate traffic packets as malicious leading to unnecessary service disruptions. Several network systems suffer from an inability to automatically detect or stop cybersecurity attacks in real time, especially among cloud and enterprise networks. This study aims to build a deep learning system for multiple DDoS attack detection through the process of converting tabular data into image formats. This study focuses on the development of a robust detection model through deep learning methods with the CSE-CIC-IDS2018 dataset in the Google Colab environment. The performance of selected methodology was evaluated against traditional machine learning models across multiple cyberattack detection scenarios. The results show that CNN achieved the highest accuracy (99%) and demonstrated efficient performance, while XGBoost provided a strong balance of speed and accuracy compared to other models. The key findings demonstrate that the proposed approach enhances detection accuracy, scalability, and resilience against modern cyber threats highlighting the effectiveness of image-based image based deep learning to detect diverse cyberattacks. The approach also points to a promising direction of real-time intrusion detection systems in modern network environments.

Keywords

DDoS detection, hybrid deep learning, network security, image feature extraction, anomaly detection

Keywords

DDoS detection, Network security, Anomaly detection, Image feature extraction, Hybrid deep learning

Language used: English

Date on which the thesis was submitted / produced: 11. 5. 2025

Thesis defence

• Supervisor: doc. Ing. František Dařena, Ph.D.

Mendel University in Brno

Faculty of Business and Economics

Master programme / specializace:
Open Informatics / Scope for Open Informatics