Comparison of methods for clustering convolutional neural network intercomputation values with respect to explainability

Bc. Adrián Bindas

Bachelor's thesis

Abstract:

Konvolučné neurónové siete našli svoje uplatnenie v histopatológii, kde pomáhajú odborníkom pri identifikácii zhubného tkaniva. Využitie neurónových sietí je ale v medicíne limitované ich vysvetliteľnosťou. Táto práca sa zaoberá aplikáciou zhlukovania ako metódy vysvetliteľnosti pre konvolučnú neurónovú sieť natrénovanú na dátach z Masarykovho onkologického ústavu. Zhlukovanie aktivačných hodnôt vygenerovaných konvolučnými filtrami bolo vykonané použitím rôznych metód zhlukovania a funkcií pre porovnávanie obrázkov. Počas tohto procesu bolo vygenerované značné množstvo dát. Výsledné zhlukovania boli filtrované, agregované, vizualizované a vyhodnotené. Aplikáciou tohto prístupu boli identifikované zhluky konvolučných filtrov detekujúce rôzne sémantické štruktúry. Analýza sémantických štruktúr detekované neurónovou sieťou ponúka pohľad do rozhodovania siete a zvyšuje dôveru v predikcie. Vyhodnotenie expertom v oblasti histopatológie ukazuje sľubné výsledky pri využívaní zhlukovania ako metódy vysvetliteľnosti konvolučných neurónových sietí.

Abstract:

Convolutional neural networks have found their use in histopathology, assisting experts in the identification of malignant tissue. The use of artificial neural networks in medicine is, however, limited by their explainability. The thesis is concerned with the application of clustering as an explainability method for CNN trained on histopathological data from Masaryk Memorial Cancer Institute. The clustering of activation values generated by the convolutional filters was undertaken using various clustering methods and image comparison functions. A significant amount of data was generated during this process. The resulting clustering assignments were filtered, aggregated, visualised and evaluated. Utilising this approach, multiple clusters of convolutional filters detecting distinct semantic features were identified. Analysis of semantic features detected by the network offers insight into the reasoning behind predictions and improves trust in the results. Assessment by an expert displays promising results in employing clustering as an explainability tool for convolutional neural networks.

Keywords

machine learning, histopathology, convolutional neural network, CNN, explainability, clustering, convolutional filters, strojové učenie, histopatológia, konvolučná neurónová sieť, vysvetliteľnosť, zhlukovanie, konvolučné filtre

Language used: English

Date on which the thesis was submitted / produced: 23. 5. 2024

Thesis defence

• Date of defence: 26. 6. 2024
• Supervisor: Mgr. Adam Bajger
• Reader: doc. RNDr. Martin Maška, Ph.D.

Masaryk University

Faculty of Informatics

Bachelor programme / field:
Informatics / Informatics