Optimisation heuristics in randomness testing

Bc. Karel Kubíček

Master's thesis

Abstract:

Detekovatelná nenáhodnost výstupu kryptografických funkcí značí potenciální slabinu těchto funkcí. Tato slabina může signalizovat hlubší bezpečnostní riziko dané funkce. Proto je statistické testování jedním z automatizovaných nástrojů kryptoanalýzy. Příkladem takové analýzy je ohodnocení náhodnosti statistickými bateriemi. Výzkumný nástroj EACirc, vyvinutý na Fakultě informatiky Masarykovy univerzity, má za úkol nacházet testy náhodnosti, které reflektují aktuálně testovaná data. Tento nástroj k tomu využívá jednoduchou heuristiku na principu lokálního prohledávání. Cílem této práce je prozkoumat další metaheuristiky a jejich vliv na schopnosti EACircu. Navíc tato práce zkoumá koncept umělých neuronových sítí pro testování náhodnosti. Tato práce má tři hlavní přínosy. První je vývoj testovací množiny 16 rozšířených a známých kryptografických funkcí pro potřeby srovnání nástrojů na testování náhodnosti. Druhý je rozšíření nástroje EACirc o tři metaheuristiky, z nihž jedna, pojmenovaná guided local search, poráží všechny ostatní metaheuristiky ve schopnostech hledání optima v nástroji EACirc. Třetí přínos je analýza produkovaných testů náhodnosti. Úspěšné testy obsahují klíč ke zdroji nenáhodnosti dat. Práce srovnává vliv metaheuristik na složitost těchto testů. Ukázalo se, že metaheuristika guided local search produkuje nejméně komplikované testy, které snáze pomohou kryptografické analýze.

Abstract:

A detectable non-randomness of cryptoprimitive's output signals a bias of the cryptographic function. This bias may signal deeper security issues of the primitive. Therefore, statistical testing of randomness is one of the automated ways of cryptanalysis. Randomness assessment by statistical batteries is an example of such automated cryptanalysis. Research tool EACirc developed at Faculty of Informatics, Masaryk University aims to design the randomness tests, which adapts to the tested data. The tool utilises a simple heuristic based on local search. This thesis researches other metaheuristics and their influence on EACirc's success rate. In extension, proof of concept artificial neural network for randomness testing was analysed. This thesis has three main contributions. The first is a development of a testbed of 16 well-known cryptographic functions used for randomness testing comparison. The second is an extension of EACirc by three new metaheuristics. One of them, called guided local search, outperforms all the others in terms of its success rate. The third contribution is an analysis of randomness tests produced by EACirc computation. Successful tests contain evidence of the bias in the tested data. The influence of tested metaheuristics on the complexity of these tests is analysed. It is shown that the guided local search produces the least complex tests, such that allow easier cryptanalysis.

Keywords

randomness testing, cryptanalysis, block functions, stream functions, hash functions, problem optimization, metaheuristics

Language used: English

Date on which the thesis was submitted / produced: 22. 5. 2017

Thesis defence

• Date of defence: 22. 6. 2017
• Supervisor: RNDr. Petr Švenda, Ph.D.
• Reader: RNDr. Martin Stehlík, Ph.D.

Masaryk University

Faculty of Informatics

Master programme / field:
Informatics / Information Technology Security