Bio-Inspired Prototype-Based Models and Applied Gompertzian Dynamics in Cluster Analysis

Lukáš Pastorek

Doctoral thesis

Biologicky inspirované modely založené na prototypech a aplikace gompertzovské dynamiky ve shlukové analýze

Abstract:

Tato práce se zabývá analýzou shlukovacích a mapovacích metod odvozených z principu neuronového a statistického ucení a teorie rustu. Vybraná vetev biologicky inspirovaných modelu založených na prototypech je analyzována v rámci definicního schématu, který zduraznuje návaznost techto metod na klasické "cisté" statistické koncepty. Jelikož jsou tyto metody široce chápány jako "cerné skrínky" s nepredvídatelným, nejasným a hlavne skrytým chováním, jsou poskytovány príklady prostorových a organizacních vzoru ve ve dvou-dimenzionálním prostoru. Práce navíc predstavuje koncept založený na nelineární negaussovské gompertzovské funkci, která se široce uplatnuje jako univerzální zákon v dynamických rustových modelech, zatím však bez aplikace ve výpocetní inteligenci. Podstata gompertzovské dynamiky je matematicky analyzována a je predstavena nová modifikovaná verze normalizované gompertzovské funkce. Funkce byla rovnež upravena pro potreby umelé výpocetní inteligence, pri níž jsou zkoumány souvislosti s neuronovými sítemi. Z principu Kohenenových samoorganizujících se map a algoritmu neuronového plynu jsou odvozeny a navrženy nové neuronové síte. Úspešnost gompertzovských neuronových sítí byla vyhodnocována na generovaných a reálných datových souborech. Gompertzovské neuronové síte s pevnou mrížkovou, které využívají principu poradí sousedu, vykazují nižší prumerné ctvercové odchylky v porovnání s puvodními algoritmy samoorganizujících se map. Podobne topologicky neomezené gompertzovské síte vykazují nízké úrovne chybovosti porovnatelné s algoritmem neuronového plynu, dále poskytují stabilnejší a méne chybová rešení v porovnání s metodou k-prumeru. Predstavená gompertzovská funkce se ukázala být životaschopným konceptem a efektivním nástrojem ve vícerozmerné analýze.

Abstract:

The thesis deals with the analysis of the clustering and mapping techniques derived from the principles of the neural and statistical learning and growth theory. The selected branch of the unsupervised bio-inspired prototype-based models is described in terms of the proposed logical framework, which highlights the continuity of these methods with the classical "pure" statistical methods. Moreover, as those methods are broadly understood as the "black boxes" with the unpredictable, unclear and especially hidden behavior, the examples of the spatial computational and organizational patterns in two-dimensional space are provided. Additionally, this thesis presents the novel concept based on the non-linear, non-Gaussian Gompertzian function, which has been widely used as the universal law in dynamic growth models, but has not yet been applied in the field of computational intelligence. The essence of Gompertzian dynamics is mathematically analyzed and a novel simple version of the Gompertzian normalized function is introduced. Furthermore, the function was modified for use in the field of artificial intelligence and neural implications were discussed. Additionally, the novel neural networks were proposed and derived from the topological principles of Kohonen's self-organizing maps and neural gas algorithm. The Gompertzian networks were evaluated using several indicators for various generated and real datasets. Gompertzian neural networks with fixed grid and integrated neighborhood ranking principle generally show lower mean squared errors than the original SOM algorithms. Likewise, the unconstrained Gompertzian networks have demonstrated overall low error rates comparable to neural gas algorithm, more stable and lower error solutions than the k- means sequential procedure. In conclusion, the Gompertzian function has been shown to be a viable concept and an effective computational tool for multidimensional data analysis.

Keywords

samoorganizujúcí sa mapy, neuronové ucení bez ucitele, gompertzovská funkce, teorie růstu, algoritmus neurónového plynu

Keywords

selforganizing maps, Gompertzian function, unsupervised neural learning, growth theory, neural gas algorithm

Language used: English

Date on which the thesis was submitted / produced: 17. 9. 2010

Thesis defence

• Date of defence: 7. 9. 2015
• Supervisor: Hana Řezanková
• Reader: Dušan Húsek, Oľga Nánásiová

Vysoká škola ekonomická v Praze

Doctoral programme / field:
Kvantitativní metody v ekonomice / Statistika