Multi-Agent based Neural Networks

Ing. Martin BULÍN, M.Sc.

Doctoral thesis

Abstract:

Vědecké postupy a metody v oblasti výpočetní techniky a informačních technologií lze z širšího úhlu pohledu rozdělit na analytické přístupy a strategie založené na strojovém učení či optimalizačních technikách. V rámci strojového učení hraje klíčovou roli využití neuronových sítí, jejichž výsostné postavení kontrastuje s omezenými možnostmi vysvětlení jejich vnitřních procesů. Všeobecná aproximační věta formulovaná již v 90. letech minulého století také naznačuje prostor pro vylepšení dnešních trendů, především pak postupu při návrhu architektur sítí. Tato práce nabízí alternativní pohled na využití neurálních principů představením vlastní metody pro návrh architektury neuronové sítě vedoucí k řešení zadaného klasifikačního problému. Základním stavebním kamenem práce je kombinace genetického algoritmu, attention mechanismu a reinforcement learningu pro učení agentů v multiagentním systému. Navržený algoritmus je vyhodnocen na pěti klasifikačních problémech, které zahrnují jednoduché úlohy vykreslitelné ve 2D prostoru, ale i komplexní problémy o více dimenzích a třídách. Pro každou úlohu je vygenerována ukázková minimální struktura sítě. Zpracované výsledky naznačují další možnosti využití a otevírají širokou škálu nových směrů pro budoucí výzkum.

Abstract:

In the realm of computer science and information technology, scientific methodologies can be categorized into two overarching paradigms: analytical approaches and strategies grounded in machine learning or optimization techniques. In the context of machine learning, the massive employment of neural networks contrasts with the limited explainability of their internal processes. The Universal Approximation Theorem formulated as early as the 1990s also suggests room for improvement in recent trends, particularly in the design of network architectures. This study delves into fundamental neural principles and presents a new perspective on working with them by introducing an original methodology for designing neural network architectures tailored to address the classification problems at hand. At the core of the method lies the fusion of a genetic algorithm, attention mechanism, and reinforcement learning utilized for training agents within a multi-agent system. The developed algorithm is evaluated on five classification scenarios, ranging from simple, interpretable 2D tasks to complex multi-dimensional and multi-class problems. A minimal network architecture is generated for each task. Experimental evaluation indicates promising scalability in handling larger parameter sets, hints at partial explainability in generated network architectures and unveils new directions for future research and exploration.

Keywords

Neuronové sítě, Multiagentní systémy, Reinforcement learning, Architektura neuronové sítě

Language used: English

Date on which the thesis was submitted / produced: 28. 2. 2024

Accessible from:: 31. 12. 2999

Thesis defence

• Supervisor: Prof. Ing. Josef Psutka, CSc., Prof. Ing. Josef Psutka, CSc.

University of West Bohemia

Faculty of Applied Sciences

Doctoral programme / field:
Applied Sciences and Computer Engineering / Cybernetics