Deep Learning Methods for Epithelium Segmentation of Breast and Colorectal Tissue

Bc. Adam Džadoň

Bachelor's thesis

Abstract:

Automatizované metódy segmentácie epitelu znižujú množstvo potrebnej práce od profesionálnych patológov a zlepšujú proces diagnostiky rakoviny. Táto práca vytvára a prezentuje niekoľko modelov hlbokého učenia pre segmentáciu epitelu prsného a kolorektálneho tkaniva založených na architektúre U-Net. Vyhodnotenie modelov naznačuje, že modely trénované na kolorektálnych dátach vykazujú sľubné výsledky. Modely trénované na prsných snímkach taktiež dosahujú lepší výkon ako referenčný model aj napriek nedostatku dát a odlišnej štruktúre epitelu. Táto skutočnosť naznačuje, že modely môžu byť použité ako referenčné modely pre pokročilejšie architektúry. Práca taktiež diskutuje o tom, že modely trénované na jednom type tkaniva majú problém s epitelom druhého tkaniva kvôli rozdielom v epitelovej štruktúre. Práca nakoniec vytvára model natrénovaný na oboch tkanivách. Tento model dosiahol porovnateľný výkon s modelmi trénovanými len na jednom type tkaniva, čo naznačuje, že sa dokázal naučiť epitelové vlastnosti oboch tkanív.

Abstract:

Automated methods of epithelium segmentation reduce the manual effort of professional pathologists and enhance the cancer diagnosis process. This thesis creates and presents several deep learning models for the epithelium segmentation of breast and colorectal tissue based on U-Net architecture. The evaluation of the models reveals that the models trained on colorectal data exhibit promising results. Similarly, models trained on breast data, despite the lack of data and different epithelium structures, also improve the performance of the baseline model on breast data, indicating they can be used as decent baseline models for more advanced architectures. The thesis also discusses that the models trained on one tissue struggle with the other tissue data due to differences in epithelial structures. Finally, the thesis creates a model trained on both colorectal and breast data. This model achieves comparable performance to models trained on one tissue only, indicating it learned the epithelial features of both tissues.

Keywords

Digital pathology, Epithelium, Deep learning, Image segmentation, Neural networks

Language used: English

Date on which the thesis was submitted / produced: 23. 5. 2024

Thesis defence

• Date of defence: 24. 6. 2024
• Supervisor: RNDr. Vít Musil, Ph.D.
• Reader: doc. Mgr. Jan Obdržálek, PhD.

Masaryk University

Faculty of Informatics

Bachelor programme / field:
Informatics / Informatics