Metody vysvětlitelnosti chování neuronových sítí

Bc. Vojtěch Krajňanský

Master's thesis

Neural Networks Explainability Methods

Abstract:

Velice komplexní hluboké neuronové sítě a další neprůhledné prediktivní modely se dnes stále častěji objevují jako součást softwarových produktů. Společně s tímto faktem roste potřeba schopnosti člověka vysvětlit jejich rozhodovací postupy. V posledních letech se rodí disciplína vysvětlitelné umělé inteligence, mezi jejími cíli zajištění korektnost procesů vedoucích k učinění rozhodnutí, odhalení nezamýšleně předpojaté modely a v budoucnu i umožnění lidem učit se o specifických problémech za pomoci automatizovaných modelů. Tato práce představuje zásadní teoretické koncepty vysvětlitelnosti a poskytuje široký přehled o existujících technikách a přístupech. Dále navrhuje systematický způsob pro selekci vhodné techniky z mnoha dostupných. Jeho využití ilustruje na výběru technik vysvětlitelnosti pro prediktivní model, jehož cílem je odhalit rakovinu tkáně. Vybrané metody jsou následně vyhodnoceny co do vhodnosti využití v histopatologickém diagnostickém procesu. Také jsou diskutovány některé problémy, které mohou nastat při využití metod vysvětlitelnosti v praxi.

Abstract:

As extremely complex deep neural networks and other opaque decision-making models become progressively ubiquitous, the need for the ability of humans to explain the decision making process is quickly gaining importance. The field of explainable artificial intelligence emerges, its goals to ensure the correctness of the process leading to a certain conclusion, detect unintended algorithmic biases or, eventually, help humans learn new insights into specific phenomena. This thesis takes introduces the main theoretical concepts behind explainability, and provides a broad description of different explanatory techniques and approaches. It then proposes a systematic approach for explainability practitioners to choose an appropriate technique from the varied available methods, which is then used to define a selection of explanatory techniques for a cancer detection predictive model. Several practical issues which may arise during the adoption of explainability methods are discussed, as the methods are evaluated on the histopathology task.

Keywords

neural network, explainability, interpretability, image processing, computer vision, machine learning, deep learning

Language used: English

Date on which the thesis was submitted / produced: 7. 1. 2021

Thesis defence

• Date of defence: 10. 2. 2021
• Supervisor: RNDr. Tomáš Rebok, Ph.D.
• Reader: doc. RNDr. Petr Holub, Ph.D.

Masaryk University

Faculty of Informatics

Master programme / field:
Applied Informatics / Service Science, Management and Engineering