Examining RSA keys in selected real-world systems

Mgr. Matúš Nemec

Advanced ('rigorózní') thesis

Abstract:

Útoky na súčasné kryptografické algoritmy a protokoly obvykle majú náskok pred vývojom nových obranných mechanizmov. Prelamovanie novo navhrnutých špecifikácií je prirodzenou súčasťou štandardizačného procesu. Pre zachovanie a vylepšenie bezpečnosti praktických aplikácií týchto algoritmov je nutné nepretržité úsilie a výskum. Existujúce útoky často bývajú úmyselne alebo neúmyselne ignorované a nepokladajú sa za hrozby pri vývoji nových protokolov, ako napríklad v starších verziách protokolu TLS. Snaha predísť takému útoku potom často prichádza až vo chvíli, keď sa výskumníkom podarí útok prakticky uskutočniť alebo dokážu, že kvôli neplatným predpokladom bol útok podceňovaný. Teda v snahe zabezpečiť nové systémy je nutné zohľadniť aj staré alebo zabudnuté útoky. Implementácie v reálnych systémoch sa často líšia od špecifikácií v štandardoch, čo môže mať katastrofické dopady na bezpečnosť, ak dôjde k zanedbaniu dôležitého kroku predpísaného postupu. Dôvodom pre také chyby môžu byť omyly pri programovaní, ale aj nepochopenie špecifikácie. Aj zdanlivo nevýznamný únik informácií, ako napríklad malá strata entropie pri generovaní šifrovacích kľúčov, môže dať útočníkovi drobnú výhodu, ako napríklad zníženie neistoty o nasadenej kryptografickej knižnici. Takéto malé výhody sa môžu nahromadiť a umožniť uskutočnenie útoku so zložitejšími predpokladmi. Z toho dôvodu je nutné hrozby posudzovať v širokom kontexte reálnych systémov a nie izolovane. Cieľom môjho výskumu je študovať vlastnosti systémov, ktoré prakticky využívajú kryptosystém RSA, z pohľadu bezpečnosti. Za týmto účelom sme analyzovali metódu generovania RSA kľúčov, ktorá bola použitá v proprietárnej kryptografickej knižnici výrobcu bezpečných čipov. Aj napriek nedostupnosti zdrojových kódov sme vyvinuli praktickú faktorizačnú metódu, teda útok, ktorý z verejného kľúča dopočíta súkromný kľúč. Tieto kľúče boli používané v elektronických identifikačných dokumentoch, na platforme Trusted Platform Module a v ďalších aplikáciách bezpečných čipov, ktorých bezpečnosť náš útok narušil. Pri výskume sa nám osvedčilo vytvoriť široký prehľad implementácií. Tým spôsobom sme našli spomínanú chybu v generovaní kľúčov, a navyše sme vďaka prehľadu vyvinuli metódu pre meranie popularity kryptografických knižníc vo veľkých súboroch RSA kľúčov. Hlavnou oblasťou môjho ďalšieho výskumu sú vybrané zraniteľnosti kryptografických protokolov. Mojím cieľom je nájsť nové útoky, študovať ich uskutočniteľnosť a dopady na skutočné implementácie, a spojiť existujúce útoky do silnejších kombinácií.

Abstract:

Attacks on contemporary cryptographic algorithms and protocols are usually ahead of the development of new defenses. It is a natural part of a standardization process to break newly proposed specifications. Only by a continuing effort and scrutiny the security of practical applications of the algorithms can be preserved and improved. Existing attacks have a history of being deliberately or unintentionally ignored as threats when developing new protocols, such as in earlier versions of TLS. Often an action towards mitigation is taken only after an attack is demonstrated or after learning that an assumption about its unfeasibility does not hold. Hence even old or forgotten attacks need to be revisited for the sake of securing new systems. Implementations sometimes diverge from standards and this can have catastrophic consequences when a crucial part of the procedure is neglected. The reasons for such slip-ups can range from programming mistakes to misinterpreting the instructions in a specification. Even otherwise harmless information leakage, such as a small loss of entropy when generating keys, can give a slight advantage to an attacker, such as decreasing the uncertainty about a deployed library. Such assets of a malicious party may add up to allow an attack with complex preconditions to be mounted, hence threats must be studied in a wide context of real systems and not in isolation. The aim of my research is to study security properties of real-world deployment of the RSA cryptosystem. To this end, we analyzed an RSA key generation method of a widely deployed proprietary cryptographic library. The study was performed without the access to the source code and resulted in a practical factorization attack against keys used in electronic identification documents, Trusted Platform Modules and other uses of secure chips. The method of surveying a variety of implementations proved useful in our research, identifying the key generation vulnerability in the first place, but also leading to a method for measuring the popularity of cryptographic libraries in datasets of RSA keys. The main focus of my future research lies in examining selected protocol vulnerabilities, with the goals of finding new attacks, studying their feasibility and impacts on real implementations, as well as combining existing attacks into more powerful ones.

Keywords

Coppersmith's algorithm, cryptographic library, cryptographic protocol, factorization, key generation, RSA, Coppersmithov algoritmus, kryptografická knižnica, kryptografický protokol, faktorizácia, generovanie kľúčov

Language used: English

Date on which the thesis was submitted / produced: 6. 3. 2018

Thesis defence

• Date of defence: 1. 6. 2018
• Reader: Prof. Chen-Mou Cheng, Graham Steel, PhD

Masaryk University

Faculty of Informatics

Advanced ('rigorózní řízení') programme / field:
Informatics / Information Technology Security