Windows malware detection using malware visualisation

Bc. Martina Cvinčeková

Master's thesis

Abstract:

Táto práca skúma techniky malware detekcie založené na jeho vizuálnej reprezentácii vo forme čierno-bielych obrázkov. Okrem toho, táto práca porovnáva efektivitu tohto postupu so štandardnejšou metódou, ktorá na klasifikáciu využíva zvolenú množinu charakteristických znakov. Celkovo sa práca skladá zo štyroch hlavných blokov. Prvá časť opisuje techniky na detekciu malware a rolu algoritmov strojového učenia v tomto probléme. V tejto časti je tiež predstavený doterajší výskum v oblasti detekcie malware za pomoci vizualizácie. Druhá pasáž sa sústreďuje na výber vhodného zdroja dát a jeho opis. Tretí blok je primárne venovaný výberu charakteristických znakov, ich vlastností a transformácii na obrázky. Tiež popisuje klasifikačné experimenty uskutočnená nad touto množinou charakteristických znakov. Posledná sekcia diskutuje dva algoritmy strojového učenia použité v experimentoch na klasifikáciu malware, ich výkonnosť, možné vylepšnia a ďalšie podnety pre výskum.

Abstract:

This thesis explores the technique of detecting malware based on its visual representation in the form of grey-scale images. Furthermore, it compares the efficiency of this approach with a more standard method of classification by using a selected set of features. Overall, the thesis consists of four main blocks. The first part describes the malware detection techniques together with the role of machine learning algorithms in this field. It also introduces previous research done on malware detection using visualisation. The second section focuses on the selection of a suitable data source and its description. The third block is primarily devoted to the selection of suitable features, their characteristics, and transformation into images. It also describes classification experiments conducted on this feature set. The last section discusses the two machine learning algorithms used for malware classification experiments, their performance, possible improvements and further research options.

Keywords

malware classification, static malware analysis, malware visualisation, machine learning, convolutional neural networks, random forest algorithm

Language used: English

Date on which the thesis was submitted / produced: 9. 12. 2019

Thesis defence

• Date of defence: 5. 2. 2020
• Supervisor: RNDr. Radek Ošlejšek, Ph.D.
• Reader: RNDr. Karolína Dočkalová Burská

Masaryk University

Faculty of Informatics

Master programme / field:
Applied Informatics / Applied Informatics