Visualization of hidden layers in convolutional neural networks

Bc. Jakub Hruška

Master's thesis

Anotácia:

Stejně jak v mnoha oborech vzrostla popularita strojového učení, vzrostla i složitost používaných modelů. Oblast vysvětlitelné umělé inteligence (XAI) se zabývá interpretací skrytých vnitřních procesů komplikovaných modelů. V této práci popisujeme jednu z větví XAI zvanou post-hoc metody. Pomocí nich prozkoumáváme vnitřní struktury konvolučních neuronových sítí, tzv. mapy rysů (feature maps). Dále analyzujeme a porovnáváme použitelnost vybraných post-hoc metod v oblasti histopatologie. Závěrem představujeme naše rozšíření medicínského vizualizačního nástroje Histoviso, zvané Histoviso-Explain. Toto rozšíření nabízí uživatelům vhled do modelu pomocí interaktivního dialogu za použití vysvětlujících post-hoc metod.

Abstract:

The popularity of machine learning raises in many fields, and so does the complexity of utilized models. Explainable Artificial Intelligence (XAI) aims to disclose the decision-making processes of complex models. This thesis provides an introduction to a branch of XAI called post-hoc methods. We explore internal representations of deep convolutional neural networks, so-called feature maps, using post-hoc methods. We analyze the information provided through these methods when applied to histopathological data and evaluate their suitability for application in medical fields. We also propose an extension of Histoviso, a visualization tool for histopathology. This Histoviso-Explain extension offers an interactive dialog between user and model and uncovers the model’s internals.

Keywords

computer vision, machine learning, convolutional neural networks, explainability, feature maps, visualization, histopathology

Jazyk práce: English

Datum vytvoření / odevzdání či podání práce: 14. 12. 2021

Obhajoba závěrečné práce

• Obhajoba proběhla 1. 2. 2022
• Vedúci: doc. RNDr. Tomáš Brázdil, Ph.D.
• Oponent: RNDr. Filip Lux

Masaryk University

Faculty of Informatics

Master programme / odbor:
Artificial intelligence and data processing / Machine learning and artificial intelligence