Interpretation techniques for deep neural networks in digital histopathology

Bc. Martin Krebs

Bachelor's thesis

Abstract:

Skupina RationAI natrénovala konvolučnú neurónovú sieť, ktorá predpovedá výskyt rakoviny prostaty v digitálnych snímkach tkaniva. Naším cieľom je vedieť dostatočne rýchlo vysvetliť správanie tejto siete. Preskúmame niekoľko metód, ktoré produkujú vizuálne podobné výsledky ako súčasná, pomalá metóda Oklúzie. Aby sme zaistili kvalitu testovaných metód, nastavíme a vyhodnotíme 5 kvantitatívnych metrík a odprezentujeme vygenerované vysvetlenia odborníkovi na histopatológiu. Novo vyhodnotené metódy sú v porovnaní s Oklúziou o 2 rády rýchlejšie a majú 50-krát nižšie nároky na pamäť grafickej karty, bez obetovania ich vierohodnosti alebo lokalizačných schopností. Histopatológ navyše považuje dve metódy za prijateľné alternatívy. Vrátane pomocného spracovania v nasadenom systéme nám metódy umožňujú generovať vysvetlenia pre použitý dataset, pozostávajúci z 87 snímkov tkaniva, za približne 2 hodiny, v porovnaní s 3.3 dňami, ktoré potrebovala Oklúzia.

Abstract:

RationAI group trained a convolutional neural network model that can reliably predict the presence of prostate cancer in digitized tissue samples. Our goal is to find an explainability method to help us understand those predictions in a reasonable time. We review several popular explainability methods that produce visually similar results to the current, notably slow solution based on Occlusion. To ensure the suitability of our candidate methods, we carefully establish an exhaustive quantitative benchmark and present our results to a domain expert. Our evaluated methods achieve 2 orders of magnitude faster computation time and 50 times better GPU utilization without sacrificing their faithfulness or localization capabilities. Furthermore, a domain expert considers two methods as viable alternatives. Including all auxiliary RationAI’s pipeline processing, the methods selected as suitable allow us to generate explanations for a dataset of 87 Whole Slide Images in about 2 hours, compared to the 3.3 days needed using Occlusion.

Keywords

digital histopathology, convolutional neural networks, explainable artificial intelligence, occlusion, CAM, HiResCAM, performance, faithfulness, localization

Language used: English

Date on which the thesis was submitted / produced: 23. 5. 2024

Thesis defence

• Date of defence: 24. 6. 2024
• Supervisor: RNDr. Vít Musil, Ph.D.
• Reader: Anselm Paulus

Masaryk University

Faculty of Informatics

Bachelor programme / field:
Informatics / Informatics