Boolean Factor Analysis by Attractor Neural Network

Pavel Polyakov

Disertační práce

Anotace:

Jednou z nejdůležitějších výzev současnosti, která stojí před komunitou badatelů z oblasti strojového učení je výzkum metod pro analýzu vysoce-dimenzionálních binárních dat s cílem odhalení jejich skryté struktury. V literatuře můžeme nalézt mnoho přístupů, které se snaží tuto doposud poněkud vágně definovanou úlohu řešit. Booleovská Faktorová Analýza (BFA), jež je předmětem této práce, předpokládá, že skrytou strukturu binárních dat lze reprezentovat jako booleovskou superpozici binárních faktorů tak, aby co nejlépe odpovídala generativnímu modelu signálů BFA a danému kritériu optimálnosti. Za těchto podmínek je BFA dob��e definovaná úloha zcela analogická lineární faktorové analýze. Hlavní přínosy disertační práce, jsou následující: Za prvé byl vyvinut efektivní způsob BFA založený na původní atraktorové neuronové síti s rostoucí aktivitou (ANNIA), která byla následně zlepšena kombinací s metodou expectation–maximization (EM)a tak vytvo5ena metoda LANNIA. Dále byly provedeny analýzy charakteristik ANNIA, které jsou důležité pro fungování obou metod. Funkčnost obou metod byla také ověřena na uměle vytvořených souborech dat pokrývajících celou škálu parametrů generativního modelu. Dále je v práci ukázáno použití metod na reálných datech z různých oblastí vědy s cílem prokázat jejich přínos pro tento typ analýzy. A konečně bylo provedeno i srovnání metod BFA se podobnými metodami včetně analýzy jejich použitelnosti.

Abstract:

Methods for the discovery of hidden structures of high-dimensional binary data rank among the most important challenges facing the community of machine learning researchers at present. There are many approaches in the literature that try to solve this hitherto rather ill-defined task. The Boolean factor analysis (BFA) studied in this work represents a hidden structure of binary data as Boolean superposition of binary factors complied with the BFA generative model of signals, and the criterion of optimality of BFA solution is given. In these terms, the BFA is a well-defined task completely analogous to linear factor analysis. The main contributions of the dissertation thesis are as follows: Firstly, an efficient BFA method, based on the original attractor neural network with increasing activity (ANNIA), which is subsequently improved through a combination with the expectation-maximization method(EM),so LANNIA method has been developed. Secondly, the characteristics of the ANNIA that are important for LANNIA and ANNIA methods functioning were analyzed. Then the functioning of both methods was validated on artificially generated data sets. Next, the method was applied to real-world data from different areas of science to demonstrate their contribution to this type of analysis. Finally, the BFA method was compared with related methods, including applicability analysis.

Klíčová slova

Booleovská faktorová analýza, dolování z dat, neuronové sítě, statistika, redukce dimenze, atraktorová neuronová síť, Hopfieldova neuronová síť, Hebbovo učení, metoda maximální věrohodnosti, expectation-maximization, informační zisk

Keywords

Boolean factor analysis, data mining, statistics, dimension reduction, attractor neural network, Hopfield neural network, Hebbian learning rule, information gain, likelihoodmaximization, expectation-maximization

Jazyk práce: angličtina

Datum vytvoření / odevzdání či podání práce: 27. 2. 2017

Obhajoba závěrečné práce

• Obhajoba proběhla 15. 5. 2017
• Vedoucí: Dušan Húsek
• Oponent: Roman Neruda, Jan Platoš, Mirko Novák

VŠB - Technická univerzita Ostrava

Fakulta elektrotechniky a informatiky

Doktorský studijní program / obor:
Informatika, komunikační technologie a aplikovaná matematika / Informatika