Model Checking Software

RNDr. Petr Ročkai, Ph.D.

Doctoral thesis

Abstract:

Systémy které navrhujeme jsou čím dál složitější a je často mimo lidské možnosti ověřit jejich korektnost. Výzkum v oblasti formálních metod vede k implementaci automatických nástrojů, které nám můžou s tímto úkolem pomoct. V současné době se však z různých důvodů užívá formálních metod pouze v ojedinělých případech. Obecným cílem této práce je zlepšit použitelnost metody ověřování modelu v návrhu a implementaci programů. Tato práce si klade za úkol přispět k dostupným znalostem v několika oblastech úzce spjatých s jejími cíly. V první řadě popisuje a implementuje interpret pro LLVM bitkód, který je centrální součástí nástroje pro ověřování programů. Poté uvede několik zlepšení tohoto základního interpretu: redkuce τ a τ+ pro zmenšení stavového prostoru vícevláknových programů, redukci pomocí symetrie haldy která činí dynamickou paměť praktickou a podporu výjimek nutnou pro verifikaci realistického kódu v jazyce C++. Za účelem zachycení složitého chování programů práce navrhuje nový jazyk pro popis cílových stavů. Jak samostatně, tak v kombinací s LTL, si klade za cíl poskytnout stručný, ale přesný a přirozený jazyk. Pro lepší využití unikátních schopností našeho explicitně-stavového verifikačního nástroje práce navrhuje také schéma pro abstrakci a její následné zjemňování na úrovni bitkódu. Konečně, klíčovou vlastností úspěšného verifikačního nastroje je schopnost rychle se vypořádat s problémy realistické velikosti a složitosti. Moderní implementace jednoznačně musí plně využít paralelní procesory: práce zkoumá jak toho lze dosáhnout a v některých oblastech posouvá známé hranice. Tyto výsledky jsou mnohdy aplikovatelné i v širším kontextu obecných datových struktur. Ve zmiňovaných oblastech došlo k velkému posunu vpřed, přesto ale zbývá mnoho otevřených problémů. Hlavní význam práce spočívá ve výzkumu který umožnil praktickou implementaci škálovatelného, automatického verifikačního nástroje DIVINE. Práce demonstruje schopnosti tohoto nástroje na důležitých částech jeho vlastního kódu a součástech standardní knihovny jazyka C++.

Abstract:

The systems we design are increasing in complexity and it is often beyond human capacity to verify their correctness. Research in formal methods has provided us with automated tools that can help ensure correctness of a system that is beyond our capabilities to check manually. Nowadays, for a variety of reasons, such tools are applied only to a very limited number of systems. The broad goal of this thesis is to improve applicability of model checking in design and implementation of general-purpose computer software. This thesis seeks to contribute to the state of the art in a number of areas closely aligned with this goal. Primarily, we describe and implement an interpreter for LLVM bitcode -- a centrepiece of a software model checker. We then introduce a number of improvements over the basic interpreter: τ and τ+ reduction to trim state spaces of threaded programs, heap symmetry reduction to make model checking with dynamic memory practical, exception handling which allows for verification of realistic C++ code. In order to successfully confront the realities of complex software behaviour, we propose a language for describing global program state. Both standalone and in combination with LTL, it aims to be succinct, precise and natural. To further leverage the unique features available in our explicit-state engine, we suggest a scheme for abstracting and refining LLVM bitcode in a composable manner. Finally, a vital ingredient in a successful verification tool is the ability to expediently deal with realistic problems, both in terms of size and complexity. A modern implementation clearly needs to take advantage of parallel processors: we explore what it takes to do so and press the state of the art forward in certain areas, obtaining results relevant in the wider context of general-purpose data structures. Significant advances have been made in the areas mentioned, even though many issues are still open and a subject of ongoing research. Most importantly, our key contributions lead to a practical implementation of a scalable, automated verification tool, DIVINE. We demonstrate its capabilities by using DIVINE to verify important portions of its own code base, as well as parts of the underlying standard library.

Keywords

Model checking, LLVM, Explicit-state model checking, Software model checking, Linear Temporal Logic, Parallel algorithms, Implementation, Multi-threading, Shared memory, Distributed memory, State space reductions, Partial order reduction, Interpreter, Exception handling

Language used: English

Date on which the thesis was submitted / produced: 16. 1. 2015

Thesis defence

• Date of defence: 9. 6. 2015
• Supervisor: prof. RNDr. Jiří Barnat, Ph.D.
• Reader: prof. Ing. Tomáš Vojnar, Ph.D., Prof. Dr. Jaco van de Pol

Masaryk University

Faculty of Informatics

Doctoral programme / field:
Informatics (4-years) / Computer Systems and Technologies