Deep learning for anomaly detection in histopathological data

Bc. David Čechák

Master's thesis

Abstract:

Zkoumání histopatologických snímků s cílem zjistit, zda obsahují rakovinovou tkáň, je časově náročný úkol. Vývoj technologie umožnil digitalizaci mikroskopických preparátů do digitálních snímků. Zdigitalizované snímky pak mohou být zpracovány různými metodami strojového učení. Tato práce zkoumá modely z třídy Generative Adversarial Networks (GANs) a jejich schopnost se naučit generovat histopatologické obrázky prostaty. Práce zkoumá dále několik metod detekce anomálií založených na GANs architektuře a jejich aplikaci na detekci rakovinové tkáňe v obrázcích prostaty. Práce dále na obrázky aplikuje dvě metody založené na rekonstrukci Efficient GAN-based Anomaly Detection (EGBAD) a Adversarially Learned Anomaly Detection (ALAD). Dále implementuje Ancoding Adversarial Network for Anomaly Detection (AnoEAN) a rozšiřuje ho pomocí transfer learning, přidáním váhy do jeho loss funkce a přizpůsobením pomeru počtu kroků učení pro encoder a discriminator. Práce také provádí experimenty k měření úspěšnosti použitých metod.

Abstract:

Examination of histopathological images to determine whether they contain carcinoma tissues is a timeconsuming task. The developments of technology allow for the digitalisation of microscope glass slides into digital slides. Once the slides are digitalised, they can be processed by various machine learning methods. This thesis explores models from the class of Generative Adversarial Networks (GANs) and their capabilities to learn to generate histopathological images of the prostate. It explores further several anomaly detection methods based on GANs and their application on detecting the carcinoma tissues in the images of the prostate. It applies reconstruction-based methods Efficient GAN-based Anomaly Detection (EGBAD) and Adversarially Learned Anomaly Detection (ALAD). Furthermore, it implements and augments An Encoding Adversarial Network for Anomaly Detection (AnoEAN) with the use of transfer learning, partially weighting its loss function, and shifting the training balance of the encoder and discriminator. The thesis also conducts experiments to measure the performance of used methods.

Keywords

deep learning, anomaly detection, Generative Adversarial Networks, Adversarial Learning, histopathological data, high-resolution images, TensorFlow

Language used: English

Date on which the thesis was submitted / produced: 7. 1. 2021

Thesis defence

• Date of defence: 11. 2. 2021
• Supervisor: doc. RNDr. Tomáš Brázdil, Ph.D.
• Reader: Mgr. Filip Lux

Masaryk University

Faculty of Informatics

Master programme / field:
Artificial intelligence and data processing / Machine learning and artificial intelligence