Kapsulové neuronové sítě v počítačovém vidění

Bc. David ČÍŽ

Master's thesis

Capsule neural networks in computer vision

Abstract:

Konvoluční neuronové sítě jsou dnes nejčastěji používanými sítěmi pro klasifikaci obrazu. V práci popisujeme formalismus těchto sítí a zaměřujeme se na jednotlivé architektury. Zvláštní pozornost věnujeme kapsulovým neuronovým sítím, které přináší myšlenku kapsulí s vektory zakomponující do sebe vlastnosti entit a způsob směrování pomocí dohody. Pro tuto abstraktní třídu kapsulí verifikujeme čtyři jejich hlavní implementace pro různé frameworky. V části experimentů oveřujeme klasické datasety MNIST a CIFAR-10, pričemž pro MNIST nabízíme vlastní modifikaci oveřujíci schopnost extrakce objektu z pozadí pomoci kapsulových sítí. Tyto výsledky kriticky srovnáváme pro kritéria rychlosti a přesnosti s výsledky dosažené pomocí konvolučních sítí se závěrem, že představené kapsulové sítě dosahují horších výsledků. Pro úplnost se zabýváme možnostmi zvýšení přesnosti pomocí dvou technik, skládání naučených modelů a augmentace testovacích dat, s pozitivním výsledkem.

Abstract:

Convolutional neural networks are the most commonly used networks for image classification. In this thesis, we describe the formalism of these networks and focus on these architectures. Special attention is given to capsule networks, that bring the idea of capsules, activity vectors and routing by agreement. We verify four main implementations in different frameworks for this abstract class. In the experiment part, we test classic datasets MNIST and CIFAR-10 with added special modification for MNIST dataset, to verify an ability to extract an object from a background using capsule networks. We critically compare these results in terms of speed and accuracy with a conclusion, that capsule networks achieve worse results. Additionally, we explore possibilities of increasing accuracy using two techniques, ensemble of learned models and test time augmentation. This had a positive effect on achieved accuracy.

Keywords

Neuronové sítě, kapsulové sítě, routovací algoritmus, MNIST, klasifikování obrazu

Language used: English

Date on which the thesis was submitted / produced: 13. 1. 2020

Accessible from:: 31. 12. 2999

Thesis defence

• Date of defence: 3. 2. 2020
• Supervisor: Mgr. Petr Hurtík, Ph.D.

University of Ostrava

Faculty of Science

Master programme / field:
Information Science / Information Systems