Detection of Sub-Resolution Spots in Microscopy Images

Mgr. Karel Štěpka, Ph.D.

Doctoral thesis

Abstract:

Fluorescenční mikroskopie se stala jednou z klíčových metod pozorování užívaných v biomedicínském výzkumu. Umožňuje vědcům studovat a vizualizovat detaily vnitrobuněčných struktur, a s využitím různých fluorescenčních technik mohou výzkumníci pořizovat 3D snímky zobrazující chromosomy, jejich části nebo dokonce jednotlivé geny, a tím lépe porozumět funkci a životnímu cyklu buněk. Velikost mnoha z těchto struktur se však nachází pod difrakčním limitem pro viditelné světlo, a objekty se na obrazech jeví jako malé nejasné tečky. V minulosti bylo představeno několik metod, které se na detekci takových sub-resolučních teček ve 2D a 3D obrazech zaměřují. V této práci je představeno rozsáhlé vyhodnocení řady v současnosti používaných metod. Text začíná popisem přípravy vzorků a procesu utváření obrazu v konfokální fluorescenční mikroskopii. Důraz je kladen na důležitost plného 3D vyhodnocování a použití věrně simulovaných syntetických dat. Díky měření úspěšnosti metod ve 3D, s použitím jak reálných, tak syntetických dat generovaných simulátorem, a díky studiu jednotlivých typů poškození obrazu vlivem šumu nebo nespecifické fluorescence pozadí můžeme poskytnout souhrnné srovnání a také vysvětlit různé aspekty chování metod. Ve druhé části práce je představen nový přístup ke kvantifikaci citlivosti různých (nejen detekčních) metod k nastavení jejich parametrů. Je předvedeno, že závislost výsledků metody na změnách hodnot jejích parametrů je důležitým aspektem její použitelnosti. Doposud se ovšem tomuto aspektu dostalo jen velmi málo formalizace a upřednostňovány byly intuitivní popisy chování metod. Prezentujeme tedy novou veličinu hodnotící citlivost k nastavení parametrů, která je následně zkoumána u metod pro detekci teček. Tím byl získán hlubší vhled do jejich úspěšnosti pro různé datové sady a do jejich snadnosti použití. Využitelnost tohoto hodnotícího měřítka však není omezena jen na detekční metody nebo zpracování obrazu, a může se osvědčit i v jiných kontextech. Ve spojitosti s detekcí teček je také prezentována nová metoda pro analýzu pozice genových lokusů vzhledem k teritoriím okupovaným jejich rodičovskými chromosomy. S využitím dostupných snímacích technik se teritoria jeví jako rozmazané oblasti bez jasných okrajů, protože jsou tvořena sub-resolučními, více či méně natěsnanými smyčkami chromatinu. Prezentovaný přístup akceptuje tuto sub--resoluční povahu chromatinové struktury, a namísto ostré a potenciálně nad- nebo podhodnocené segmentace teritorií využívá k popisu genových pozic relativní fluorescenční intenzity chromatinu.

Abstract:

In biomedical research, fluorescence microscopy has become one of the key methods of observation, allowing the researchers to study and visualize the details of intracellular structures. Using various fluorescence microscopy techniques, the researchers can acquire 3D images showing the chromosomes, their parts, and even individual genes, leading to a better understanding of the function and the life cycle of the cells. The size of many of these structures is below the diffraction limit of visible light, however, and the objects appear as small, indistinct spots in the images. Multiple image processing methods have been introduced, focusing on the detection of such sub-resolution spots in 2D and 3D images. In this thesis, an extensive evaluation of several currently used spot detection methods is presented. We start by discussing the specimen preparation and the process of image formation in a confocal fluorescence microscope, highlighting the importance of a full 3D evaluation, and of the use of accurately simulated synthetic data. By measuring the performance of the methods in 3D, using both real data and synthetic data generated by a state-of-the-art simulator, and by studying the influence of image degradations caused by varying combinations of noise and non--specific background fluorescence, we are able to provide a comprehensive comparison, and also note and explain different aspects of the method behavior. As the second main part of the thesis, we present a novel approach for quantifying the parameter sensitivity of various (not only detection) methods. We show that the dependence of a method's results on the changes of its parameter values is an important aspect of its usability. However, so far, it has received very little formal treatment, usually relying rather on intuitive descriptions of method behavior. We therefore present the parameter sensitivity measure, and proceed to apply it to the spot detection methods, providing further insight into their performance for different data sets, and their ease of use. The applicability of the parameter sensitivity measure is however not limited to spot detection or image processing, and the measure could prove to be of use in other contexts as well. In connection with the spot detection, we also present our method for the analysis of the position of gene loci with respect to the territories occupied by their parental chromosomes. With available imaging techniques, the territories appear as blurred areas with no distinct boundary, since they are formed by sub-resolution, more or less tightly packed loops of chromatin. Our approach acknowledges the sub--resolution nature of the chromatin structure, and instead of a hard, but potentially biased segmentation of the territories, it uses the relative intensity of the chromatin fluorescence to describe the gene positions.

Keywords

fluorescence microscopy, 3D imaging, diffraction-limited spot detection, parameter sensitivity, chromosome territories

Language used: English

Date on which the thesis was submitted / produced: 29. 10. 2015

Thesis defence

• Date of defence: 9. 3. 2016
• Supervisor: doc. RNDr. Pavel Matula, Ph.D.
• Reader: prof. Ing. Jiří Jan, CSc., Pekka Ruusuvuori, DSc. (Tech)

Masaryk University

Faculty of Informatics

Doctoral programme / field:
Informatics (4-years) / Informatics