Verification of binarised neural networks using ASP

Bc. Jindřich Matuška

Bakalářská práce

Anotace:

Hluboké neuronové sítě jsou moderní technologií. Jejich použití v kritických aplikací v reálném životě s sebou nese rizika. Proto je nutná jejich verifikace. Bakalářská práce zkoumá možnost využití paradigmatu Answer set programming v tomto úkolu. Pomocí tohoto paradigmatu implementuje kvantitativní verifikátor pro binarizované neuronové sítě, speciální případ neuronových sítí. Dále demonstruje využití tohoto verifikátoru na sítích trénovaných na datasetu MNIST.

Abstract:

Deep neural networks are state-of-the-art technology. Using them in critical real-life applications carries a risk of failure. For this, verification of their properties is needed. This thesis explores the possibility for the use of answer set programming paradigm in this task. It implements a quantitative verificator for binarized neural networks, a special case of deep neural networks, using this paradigm. It also demonstrates the use of this verificator on a network trained on the MNIST dataset.

Keywords

verification, binarized neural networks, answer set programming, Clingo, robustness

Jazyk práce: angličtina

Datum vytvoření / odevzdání či podání práce: 19. 12. 2024

Obhajoba závěrečné práce

• Obhajoba proběhla 6. 2. 2025
• Vedoucí: RNDr. Samuel Pastva, Ph.D.
• Oponent: RNDr. Nikola Beneš, Ph.D.

Masarykova univerzita

Fakulta informatiky

Bakalářský studijní program / obor:
Informatika / Informatika