Modern obfuscation techniques

Bc. Roman Oravec

Master's thesis

Abstract:

V kontexte kyberbezpečnosti, obfuskácia predstavuje spôsob úpravy programu s cieľom ukryť jeho špecifiká jeho implementácie. Rôzne obfuskačné techniky sa používajú ako prostriedok na ochranu duševného vlastníctva a prevenciu neoprávnenej manipulácie s programom, ako aj na škodlivé účely, akým je napríklad tvorba malvéru ktorý sa dokáže vyhnúť detekcii. V rámci práce sú popísané bežne používané techniky obfuskácie a vybrané voľne dostupné nástroje ktoré ich implementujú. Práca tiež popisuje možnosti využitia frameworku LLVM na obfuskáciu programov počas ich kompilácie. V praktickej časti bolo s využitím LLVM implementovaných niekoľko obfuskačných transformácií. Kvalita tejto implementácie bola otestovaná a vyhodnotená na základe vybraných metrík. Súčasťou práce je tiež analýza a test možností použitia tejto implementácie na obfuskáciu programov napísaných v jazyku C/C++ určených pre Android OS.

Abstract:

In the context of cybersecurity, obfuscation is a method of manipulating a computer program with the intention to obscure its inner workings. Various obfuscation techniques have found their use as a means to protect intellectual property and to prevent code tampering, as well as to achieve malicious purposes, such as creating malware that can circumvent detection mechanisms. In this thesis, we examine multiple commonly used obfuscating techniques and freely available tools that implement them. We also discuss the possibilities of the LLVM Pass Framework for obfuscating programs during compilation. In the practical part, we have implemented several obfuscating transformations, leveraging the LLVM Pass Framework. The quality of the implemented transformations has been tested and evaluated with respect to selected metrics. Lastly, we have examined and tested the possibility of using our implementation to obfuscate programs written in C/C++ for Android OS.

Keywords

obfuscation, LLVM, compilers, security, Android, C++, obfuskácia, bezpečnosť

Language used: English

Date on which the thesis was submitted / produced: 14. 12. 2021

Thesis defence

• Date of defence: 3. 2. 2022
• Supervisor: Mgr. et Mgr. Jan Krhovják, Ph.D.
• Reader: doc. RNDr. Petr Švenda, Ph.D.

Masaryk University

Faculty of Informatics

Master programme / field:
Software systems and services management / Cybersecurity management