Kyberútoky na ML/DL modely

Adam Antoš

Bachelor's thesis

Cyberattacks on ML/DL Models

Abstract:

Tato bakalářská práce se zaměřuje na problematiku kybernetických hrozeb v oblasti modelů strojového učení (ML) a hlubokého učení (DL). Analyzuje různé typy útoků, které mohou ohrozit integritu, dostupnost a důvěrnost těchto modelů. Teoretická část poskytuje ucelený pohled na základní principy ML a DL a vysvětluje jejich zranitelnosti v kybernetickém prostředí. Praktická část práce se zaměřuje na simulaci vybraných útoků v testovacím prostředí a na testovacím modelu Gandalf v.2, přičemž zkoumá dopady útoků a postupy pro posílení bezpečnosti ML a DL modelů. Cílem je poskytnout užitečné poznatky pro odborníky z oblasti kybernetické bezpečnosti a vývojáře ML/DL aplikací.

Abstract:

This bachelor thesis focuses on cyber threats in the field of machine learning (ML) and deep learning (DL) models. It analyses different types of attacks that can compromise the integrity, availability and confidentiality of these models. The theoretical part provides a comprehensive view of the basic principles of ML and DL and explains their vulnerabilities in cyber environments. The practical part of the thesis focuses on simulating selected attacks in a sandbox environment and on the Gandalf v.2 test model, examining the impact of the attacks and techniques to strengthen the security of ML and DL models. The aim is to provide useful insights for cybersecurity practitioners and ML/DL application developers.

Keywords

Kybernetická bezpečnost, Modely strojového učení (ML), Hluboké učení (DL), Útoky na modely ML a DL, Bezpečnostní opatření, Kybernetické hrozby

Keywords

Cyber Threats, Machine Learning Models (ML), Deep Learning (DL), Attacks on ML and DL Models, Security Measures, Cybersecurity

Language used: Czech

Date on which the thesis was submitted / produced: 5. 5. 2024

Thesis defence

• Date of defence: 2024
• Supervisor: Marie Kovářová
• Reader: Miloš Maryška

Vysoká škola ekonomická v Praze

Bachelor programme:
Aplikovaná informatika