Detecting cryptographic primitives in malicious Windows binaries

Bc. Mykhailo Klunko

Master's thesis

Abstract:

Ransomware je typ malwaru, který šifruje soubory oběti a často požaduje platbu za jejich dešifrování. Zjištění přítomnosti kryptografických primitivů ve vzorcích ransomwaru je klíčové pro pochopení fungování ransomwaru a pro vývoj účinných mechanismů detekce a prevence. Tato práce se zaměřuje na detekci kryptografických primitivů ve vzorcích ransomwaru a jejím cílem je poskytnout vhled do šifrovacích technik používaných autory ransomwaru. Data použitá k analýze se skládají z velkého počtu vzorků ransomwaru a metodika analýzy zahrnuje průzkum dat, detekci kryptografických primitivů a automatizaci procesu analýzy. Výsledky analýzy odhalují výskyt určitých kryptografických primitivů ve vzorcích ransomwaru a omezení současných detekčních technik kvůli obfuskaci. Práci uzavírá diskuse o výsledcích a budoucích směrech výzkumu v této oblasti.

Abstract:

Ransomware is a type of malware that encrypts victim's files and often demands payment for their decryption. Detecting the presence of cryptographic primitives in ransomware samples is crucial for understanding how ransomware works and for developing effective detection and prevention mechanisms. This thesis focuses on the detection of cryptographic primitives in ransomware samples and aims to provide insights into the encryption techniques used by ransomware authors. The dataset used for analysis consists of a large number of ransomware samples, and the analysis methodology includes data exploration, detection of cryptographic primitives, and automation of the analysis process. The results of the analysis reveal the prevalence of certain cryptographic primitives in ransomware samples and the limitations of current detection techniques due to obfuscation. The thesis concludes with a discussion of the results and future directions for research in this area.

Keywords

cryptography, security, cryptographic primitives, static analysis

Language used: English

Date on which the thesis was submitted / produced: 16. 5. 2023

Thesis defence

• Date of defence: 20. 6. 2023
• Supervisor: RNDr. Adam Janovský
• Reader: prof. RNDr. Václav Matyáš, M.Sc.

Masaryk University

Faculty of Informatics

Master programme / field:
Computer systems, communication and security / Information security