Kyberútoky na ML/DL modely

Adam Antoš

Bakalářská práce

Cyberattacks on ML/DL Models

Anotace:

Tato bakalářská práce se zaměřuje na problematiku kybernetických hrozeb v oblasti modelů strojového učení (ML) a hlubokého učení (DL). Analyzuje různé typy útoků, které mohou ohrozit integritu, dostupnost a důvěrnost těchto modelů. Teoretická část poskytuje ucelený pohled na základní principy ML a DL a vysvětluje jejich zranitelnosti v kybernetickém prostředí. Praktická část práce se zaměřuje na simulaci vybraných útoků v testovacím prostředí a na testovacím modelu Gandalf v.2, přičemž zkoumá dopady útoků a postupy pro posílení bezpečnosti ML a DL modelů. Cílem je poskytnout užitečné poznatky pro odborníky z oblasti kybernetické bezpečnosti a vývojáře ML/DL aplikací.

Abstract:

This bachelor thesis focuses on cyber threats in the field of machine learning (ML) and deep learning (DL) models. It analyses different types of attacks that can compromise the integrity, availability and confidentiality of these models. The theoretical part provides a comprehensive view of the basic principles of ML and DL and explains their vulnerabilities in cyber environments. The practical part of the thesis focuses on simulating selected attacks in a sandbox environment and on the Gandalf v.2 test model, examining the impact of the attacks and techniques to strengthen the security of ML and DL models. The aim is to provide useful insights for cybersecurity practitioners and ML/DL application developers.

Klíčová slova

Kybernetická bezpečnost, Modely strojového učení (ML), Hluboké učení (DL), Útoky na modely ML a DL, Bezpečnostní opatření, Kybernetické hrozby

Keywords

Cyber Threats, Machine Learning Models (ML), Deep Learning (DL), Attacks on ML and DL Models, Security Measures, Cybersecurity

Jazyk práce: čeština

Datum vytvoření / odevzdání či podání práce: 5. 5. 2024

Obhajoba závěrečné práce

• Obhajoba proběhla 21. 6. 2024
• Vedoucí: Marie Kovářová
• Oponent: Miloš Maryška

Vysoká škola ekonomická v Praze

Bakalářský studijní program:
Aplikovaná informatika