Program Slicing and Symbolic Execution for Verification

RNDr. Marek Chalupa

Doctoral thesis

Abstract:

Existuje mnoho formálních metod k dokazování či vyvracení vlastností programů (např. že žádný příkaz assert nemůže být porušen). Jedna taková metoda je symbolická exekuce, která systematicky vyčísluje možné běhy v programu. Tento přístup musí dříve či později nevyhnutelně selhat kvůli nedostatečným zdrojům (např. čas nebo paměť), pokud je počet cest v analyzovaném program velký. Tomuto problému se říká problém exploze cest. Pokud navíc program obsahuje nekonečnou cestu nebo nekonečně mnoho cest, symbolická exekuce ani nemůže všechny cesty vyčíslit. To znamená, že existují programy na kterých symbolická exekuce neskončí svůj výpočet a je tedy neúplná. V našem výzkumu přistupujeme ke zmíněným problémům symbolické exekuce ze dvou nezávislých směrů. První směr jsou transformace programů, zejména prořezávání programů. Druhý směr je obohacení symbolické exekuce o matematickou indukci. Prořezávání programů je technika, která analyzuje závislosti v program a odstraní příkazy, které nemají vliv k danému prořezávacímu kritériu. V této práci představíme nové algoritmy na počítání datových závislostí a na počítání kontrolních závislostí, které jsou citlivé na nekonečné běhy programu. Tyto závislosti používáme pro korektní a přesné prořezávání programů před symbolickou exekucí, respektive obecně před analýzou a verifikací programů. Práce taktéž rozebírá, jak prořezávat programy správně před verifikací různých vlastností programů, jmenovitě před verifikací, že program neobsahuje žádný příkaz assert, který může selhat, neobsahuje chyby v práci s pamětí, nekonečné běhy, a nebo přetečení v operacích nad znaménkovými typy. Experimentálně ukážeme, že prořezávání programů je relativně levná technika, která může zrychlit verifikační proces. Matematická indukce je schéma formálních důkazů, které bylo již dříve použito k dokazování vlastností programů. V práci ukážeme, že zpětná symbolická exekuce, to jest symbolická exekuce která analyzuje program od dané lokace zpětně k počátečním lokacím v programu, provádí indukci vzhledem k délce běhů v programu. Dále rozšíříme zpětnou symbolickou exekuci o generování invariantů pomocí techniky, kterou nazýváme skládání smyček. Výsledný algoritmus je vysoce kompetitivní s nejmodernějšími algoritmy, které soutěžily v mezinárodní soutěži na verifikaci softwaru (Competition on Software Verification) 2021.

Abstract:

There are many formal methods for proving or disproving various properties of programs (e.g., that all assertions in a program hold). One such method is symbolic execution that systematically enumerates feasible execution paths of a program. This approach must inevitably fail due to insufficient resources (e.g., time or memory) if the number of execution paths in a program is huge. This is the so-called path explosion problem of symbolic execution. Moreover, if the program contains an infinite path or infinitely many paths, symbolic execution is unable to finish the enumeration. In other words, there are programs on which symbolic execution does not terminate and thus it is incomplete. In our research, we approach the two problems of symbolic execution from two orthogonal directions. The first direction is the use of program transformations, mainly program slicing, and the other is to enrich symbolic execution with mathematical induction. Program slicing is a technique that analyzes dependencies in a program and removes program statements that are irrelevant to a given slicing criterion. We introduce new algorithms for the computation of data dependence, non-termination sensitive control dependence, and decisive order dependence that we use for a correct and precise slicing of programs before symbolic execution or, in general, program analysis and verification. We study how to slice programs properly before verification of various program properties, namely, the verification of the absence of assertion violations, memory-related errors, non-terminating executions, and signed-integer overflows. We experimentally show that program slicing is a relatively cheap technique that can speed up the verification process. Mathematical induction is a proof scheme that has been previously used to prove the properties of programs. We show that backward symbolic execution, i.e., symbolic execution that analyzes the program from a given program location backward to the initial location of the program, performs induction on control flow paths of the program. Moreover, we extend backward symbolic execution with an invariant generation technique called loop folding to further alleviate the incompleteness problem. The resulting technique, backward symbolic execution with loop folding, is highly competitive with the state-of-the-art algorithms used in the Competition on Software Verification 2021.

Keywords

program slicing, data dependence, control dependence, symbolic execution, backward symbolic execution, k-induction, invariants

Language used: English

Date on which the thesis was submitted / produced: 8. 10. 2021

Thesis defence

• Date of defence: 12. 4. 2022
• Supervisor: doc. RNDr. Jan Strejček, Ph.D.
• Reader: Dr. rer. nat. Dirk Beyer, Prof. Corina Pasareanu

Masaryk University

Faculty of Informatics

Doctoral programme / field:
Computer Science / Fundamentals of Computer Science