A Framework for Abstract Interpretation in the GraalVM Native Image Java Compiler

Bc. Samuel Malec

Bakalářská práce

Anotace:

Statická analýza programov je kľúčovou technikou na uvažovanie o správnosti a bezpečnosti programov. Abstraktná interpretácia poskytuje dobre zavedený teoretický základ pre budovanie takýchto analýz spoľahlivým a systematickým spôsobom. Táto práca predstavuje framework pre abstraktnú interpretáciu integrovaný do prekladača GraalVM Native Image, ktorého cieľom je rozšíriť jeho možnosti statickej analýzy. Framework podporuje vývoj medziprocedurálnych analýz, ktoré prechádzajú grafom volaní programu spôsobom zhora nadol, čo umožňuje flexibilnú a škálovateľnú konštrukciu analýz. Na vyhodnotenie frameworku boli implementované tri konkrétne statické analýzy: analýza úniku zdrojov a dve numerické analýzy založené na intervalovej a pentagon doméne. Tieto analýzy boli testované na súbore referenčných programov s cieľom posúdiť ich účinnosť a praktickosť. Výsledky ukazujú, že framework uľahčuje efektívny vývoj a integráciu nových analýz založených na abstraktnej interpretácii v rámci Native Image a prispieva k pevnému základu pre budúci výskum a nástroje v oblasti statickej analýzy aplikácií implementovaných v programovacích jazykoch založených na JVM.

Abstract:

Static program analysis is a key technique for reasoning about the correctness and safety of programs. Abstract interpretation provides a well-established theoretical foundation for building such analyses in a sound and systematic manner. This thesis introduces a framework for abstract interpretation integrated into the GraalVM Native Image compiler, aimed at extending its static analysis capabilities. The framework supports the development of inter-procedural analyses that traverse the program’s call graph in a top-down manner, enabling flexible and scalable analysis construction. To evaluate the framework, three concrete static analyses were implemented: a resource leak analysis, and two numerical analyses based on the interval and pentagon abstract domains. These analyses were tested on a set of benchmark programs to assess their effectiveness and the practicality of the framework. The results demonstrate that the framework facilitates efficient development and integration of new abstract interpretation-based analyses within the Native Image pipeline, contributing a solid foundation for future research and tooling in static analysis for JVM-based applications.

Keywords

abstract interpretation, compiler, GraalVM, Java, Native Image, Oracle, points-to analysis, static analysis

Jazyk práce: angličtina

Datum vytvoření / odevzdání či podání práce: 23. 5. 2025

Obhajoba závěrečné práce

• Obhajoba proběhla 24. 6. 2025
• Vedoucí: prof. Ing. Tomáš Vojnar, Ph.D.
• Oponent: RNDr. Petr Ročkai, Ph.D.

Masarykova univerzita

Fakulta informatiky

Bakalářský studijní program / obor:
Programování a vývoj aplikací / Programování a vývoj aplikací