Analýza, Detekce a Prevence Kybernetických Hrozeb v Prostředí Strojového Učení

Josef Knobloch

Bachelor's thesis

Analysis, Detection and Prevention of Cyber Threats in Machine Learning Environments

Anotácia:

Bakalářské práce vychází z rostoucí potřeby řešit bezpečnostní hrozby v prostředí Machine Learning (ML) a Deep learning (DL) modelů a zaměřuje se na identifikaci a prevenci kybernetických hrozeb, které mohou ovlivnit spolehlivost a důvěryhodnost těchto modelů. Cílem práce je s pomocí experimentálního ML modelu predikující diabetes, na kterém je testována účinnost tří vybraných kybernetických útoků, systematicky analyzovat a identifikovat bezpečnostní rizika, slabá místa a hrozby a navrhnout metody pro jejich detekci a prevenci. Výsledky experimentálního výzkumu ukazují reálné dopady těchto útoků na model, následně jsou díky výsledkům identifikována potenciálně slabá místa a na základě nich jsou navrženy metody ochrany, detekce a prevence před útoky na ML modely. Rovněž jsou zohledněny i etické a právní aspekty těchto útoků. Tato práce zdůrazňuje význam zkoumání bezpečnosti ML a DL modelů a poskytuje ucelený přehled o možných hrozbách a jejich dopadech. Díky tomu přispívá k lepšímu pochopení bezpečnostních rizik v oblasti ML a DL a pomáhá vyvíjet efektivnější strategie pro ochranu těchto modelů v praxi.

Abstract:

The bachelor's thesis stems from the growing need to address security threats in the environment of Machine Learning (ML) and Deep Learning (DL) models, focusing on the identification and prevention of cyber threats that could impact the reliability and credibility of these models. The aim of the thesis is to systematically analyze security risks, weaknesses, and threats, and propose methods for their detection and prevention, using an experimental ML model predicting diabetes, which is tested for the effectiveness of three selected cyber attacks. The results of the experimental research demonstrate the real impacts of these attacks on the model. Subsequently, potential weak points are identified based on the results, and protection, detection, and prevention methods against attacks on ML models are proposed. Ethical and legal aspects of these attacks are also considered. This thesis highlights the importance of researching the security of ML and DL models, providing a comprehensive overview of potential threats and their impacts. Thus, it contributes to a better understanding of security risks in the field of ML and DL and helps develop more effective strategies for protecting these models in practice.

Kľúčové slová

machine learning, deep learning, bezpečnostní rizika, kybernetické hrozby, prevence, detekce

Keywords

machine learning, deep learning, detection, cyber threats, security risks, prevention

Jazyk práce: Czech

Datum vytvoření / odevzdání či podání práce: 5. 5. 2024

Obhajoba závěrečné práce

• Obhajoba proběhla 21. 6. 2024
• Vedúci: Marie Kovářová
• Oponent: Miloš Maryška

Vysoká škola ekonomická v Praze

Bachelor programme:
Aplikovaná informatika