Data augmentation for image classification using GAN and autoencoder

Ing. Gofur Halmuratov

Doctoral thesis

Abstract:

V této disertační práci jsem zkoumal metody augmentace dat pro klasifikaci obrazů a to zejména pro takové případy, kdy jsou k dispozici jen velmi malé soubory trénovacích dat. Tato práce je založena na použití generativních adverziálních sítí (GAN), autoenkodérů a na použití shlukové analýzy latentního prostoru autoenkodérů. Tyto metodiky použité společně zvyšují přesnost klasifikace a dovolují získat uspokojivé výsledky i v případě, že máme k dispozici pouze velmi malé trénovací soubory. V počáteční fázi své práce jsem vyvinul nový přístup využívající generativní adverziální sítě (GAN) k simulaci pravděpodobnostních distribucí jednotlivých klasifikačních kategorií. Tento přístup znamenal významný odklon od konvenčních technik rozšiřování datové sady. Integrací GAN do procesu vývoje a použití klasifikátoru jsem efektivně využil jejich generativní schopnosti nad rámec pouhého generování dat. Moje komplexní experimentování s databází MNIST, zahrnující tréninková data v rozsahu od 1 do 100 vzorků na kategorii, potvrdilo účinnost tohoto nového přístupu. Výsledky mnou vyvinutých metod, zejména M1 a M3, ukázaly významná zlepšení oproti standardnímu použití GAN diskriminátoru pro rozšíření trénovacích dat a prokázaly jejich účinnost v situacích, kdy je k dispozici pouze velmi malý soubor trénovacích dat. Například pouze s jednou trénovací instancí na kategorii, zlepšila metoda M1 přesnost klasifikace na 108,12 % ve srovnání s 38,2 % diskriminátoru. Podobně metoda M3, další model, který jsem vyvinul, také vykazovala pozoruhodné výsledky. Se stejnou jedinou trénovací instancí dosáhla metoda M3 109,69% nárůst přesnosti klasifikace, čímž překonala i vylepšení zaznamenaná u metody M1. V rámci svého výzkumu jsem navrhl integraci analýzy latentního prostoru variačních autoenkodérů (VAE) do procesu trénování a klasifikace. Výsledkem byly metody M2 a M4. Integrace analýzy latentního prostoru byla klíčová a umožnila mi výrazně zvýšit kvalitu a spolehlivost dat generovaných těmito modely a tím také přesnost navržených klasifikátorů. Navržená metodika prošla přísným testováním na datové sadě MNIST. V těchto testech prokázaly navržené metody M2 a M4, velmi dobrou přesnost klasifikace i pro velmi male soubory trénovacích dat. Například metoda M2 s pouhou jednou trénovací instancí na kategorii dosáhla působivého 116,75% zvýšení přesnosti klasifikace a se 100 trénovacími instancemi si stále udržela velkou míru přesnosti 79,84 % ve srovnání s přesností naučeného diskriminátoru. Podobně metoda M4, zahrnující stejné principy analýzy latentního prostoru, přinesla srovnatelná vylepšení přesnosti klasifikace. Výsledky tohoto výzkumu byly publikovány v [15.1.1]. V závěrečné části mé disertační práce jsem se zabýval problémem posouzení kvality pro augmentaci dat nově vytvořeného obrazu. Navrhl jsem pro tento účel novou metodiku pracující s latentním prostorem autoenkodérů. Tento přístup významně zefektivnil proces hodnocení kvality generovaného obrazu a eliminoval potřebu ručního přezkoumání. Při testování na souborech dat jako MNIST, CIFAR-10 a CIFAR-100 tato metodika prokázala svou účinnost. Například v souboru dat CIFAR-100 s pouze pěti snímky na kategorii zlepšila moje metodika přesnost klasifikace z 14,6 % na 18,2 %, což je nárůst přibližně o 24,66 %. Výsledky tohoto výzkumu byly publikovány v [15.1.2] Moje disertační práce poskytuje komplexní a inovativní přístup k rozšiřování dat pro klasifikaci obrazu v případě, že je dispozici pouze velmi malý soubor trénovacích dat. Navržené metody v tomto případě dosahují vyšší přesnosti klasifikace než jakou lze získat standardní

Abstract:

mi metodami rozšiřování datového souboru. Výsledky mého empirického výzkumu potvrzují potenciál těchto pokročilých technik rozšiřování dat při klasifikaci obrazů, zejména ve scénářích reálného světa, kde jsou trénovací data často vzácná.

Keywords

Augmentace dat, klasifikace obrazu, hluboké učení, autokodéry, analýza latentního prostoru, generativní adversiální sítě (GAN), variační autoenkodér (VAE), shlukování v latentním prostoru, konvoluční neuronové sítě (CNN)

Language used: English

Date on which the thesis was submitted / produced: 5. 4. 2024

Thesis defence

• Supervisor: doc. Ing. Arnošt Veselý, CSc.
• Reader: Tatiana Guy, doc. Ing., PhD., Antonín Slabý, externi, Miroslav Kárný, externi

Czech University of Life Sciences Prague

Faculty of Economics and Management

Doctoral programme / field:
Systems Engineering and Informatics / Information Management