Explaining convolutional neural network using clustering methods

Bc. Adam Bajger

Master's thesis

Abstract:

Tato práce pojednává o tom, proč je v praxi potřeba vysvětlitelná umělá inteligence. Úvádí konkrétní příklad situace ve které je model strojového učení vyloučen z rozhodovacího procesu z důvodu nedostatečného porozumnění modelu, který je prezentován jako motivace ke zkoumání nových technik vysvětlitelnosti. Stručně jsou posouzeny současné nejmodernější metody vysvětlování neuronových sítí se závěrem, že metody shlukování nejsou dostatečně prozkoumány pro vysvětlitelnou AI. Po rozsáhlé explorativní analýze je navržena nová metoda pro sémantickou segmentaci pomocí aktivačních hodnot a gradientů z konvoluční neuronové sítě. Navržená metoda má za cíl zvýšit rychlost lokalizace rakoviny ve velkých skenech tkání. Algoritmus pro generování segmentace běží výrazně rychleji než srovnávaná metoda založená na okluzi, protože se nepotřebuje dotazovat na výsledky z modelu vícekrát, než jednou. Metoda založená na okluzi trvala hodiny, segmentace trvala na srovnatelném hardwaru minuty. Tato technika by mohla pomoci urychlit diagnostiku rakoviny, což by umožnilo dříve diagnostikovat více pacientů a potenciálně jim zachránit život.

Abstract:

This thesis discusses why explainable AI is needed in practice. A concrete example of a situation where the machine learning model is not accepted into a decision-making process because of the lack of insight into the model behaviour is presented as a motivation to explore new techniques of explainability. Current state-of-the-art methods for explaining neural networks are briefly assessed, revealing that clustering methods are not sufficiently investigated for explainable AI. After broad exploratory analysis, a novel method is proposed for unsupervised semantic segmentation based on feature maps from a convolutional neural network. The proposed method aims to increase the speed of cancer localisation in large tissue scans. The algorithm for generating the segmentation runs significantly faster than the occlusion-based baseline because it only requires one query to the model per each patch. The occlusion-based method took hours; the segmentation took minutes on comparable hardware. The technique could help to speed up the search for cancer in a large WSI, allowing more patients to be diagnosed earlier and potentially save their lives.

Keywords

explainabilty, machine learning, clustering, vysvětlitelnost, shlukování, strojové učení, CNN, konvoluční neuronová síť, histopatologie, histopathology

Language used: English

Date on which the thesis was submitted / produced: 13. 12. 2022

Thesis defence

• Date of defence: 24. 1. 2023
• Supervisor: doc. RNDr. Tomáš Brázdil, Ph.D.
• Reader: doc. RNDr. Petr Matula, Ph.D.

Masaryk University

Faculty of Informatics

Master programme / field:
Artificial intelligence and data processing / Machine learning and artificial intelligence