Instance Segmentation of Membrane-Stained Cells Using Cellpose-SAM

Bc. Jiří Skopal

Diplomová práce

Anotace:

Přesná segmentace buněk v mikroskopických obrazech představuje základní úlohu kvantitativní biologické analýzy, která umožňuje zkoumání buněčné morfologie a dynamiky. Manuální segmentace je ovšem subjektivní a časově velmi náročný proces, což vede k potřebě automatizovaných přístupů pro segmentaci buněk. Tato diplomová práce se zabývá zkoumáním a analýzou možností metody Cellpose-SAM pro instanční segmentaci buněk s membránovým značením. Uvedená metoda a její základní principy jsou podrobně popsány a následně vyhodnoceny z hlediska přesnosti detekce a segmentace na poskytnutých 3D obrazových datech obsahujících buňky s membránovým značením. Dále je zkoumán vliv inferenčních hyperparametrů metody Cellpose-SAM a je provedeno doladění výchozího modelu Cellpose-SAM. Výsledky ukazují dobrý výkon výchozího modelu a také možnost mírného zlepšení výkonu prostřednictvím doladění na specifických obrazových datech.

Abstract:

Accurate segmentation of cells in microscopy images is a fundamental task in quantitative biological analysis, enabling exploration of cellular morphology and dynamics. However, manual segmentation is a subjective and very time-consuming process, calling for automated cell segmentation approaches. This thesis explores and analyses the possibilities of the Cellpose-SAM framework for membrane-stained cell instance segmentation. The mentioned framework with its core principles is described in detail, and subsequently evaluated in terms of detection and segmentation accuracy using the provided 3D stacks with membrane-stained cells. Moreover, the influence of Cellpose-SAM inference hyperparameters is investigated, and fine-tuning of the default Cellpose-SAM model is conducted. The results show good performance of the default model, and also the possibility of slight performance improvement by fine-tuning using the specific image data.

Keywords

digital image processing, cell segmentation, cell detection, Cellpose-SAM, membrane-stained cells, fluorescence microscopy

Jazyk práce: angličtina

Datum vytvoření / odevzdání či podání práce: 19. 5. 2026

Obhajoba závěrečné práce

• Obhajoba proběhla 19. 6. 2026
• Vedoucí: doc. RNDr. Martin Maška, Ph.D.
• Oponent: Aleksandra Melnikova

Masarykova univerzita

Fakulta informatiky

Magisterský studijní program / obor:
Umělá inteligence a zpracování dat / Strojové učení a umělá inteligence