Use of spiking neural networks

Václav HONZÍK

Bachelor's thesis

Abstract:

In the last decade, artificial (analog) neural networks have become the new norm of solving many tasks from the fields of machine learning and native language processing. Despite their success, however, analog networks fail to accurately capture the behaviour of biological neural networks as the model of an analog neuron depends on continuous activations rather than discrete sequences of action potentials. Spiking neural networks, on the other hand, present a new approach to model such biological nets much closely while also attaining performance close to artificial networks. This thesis studies current knowledge of spiking networks and compares them to analog ones. Subsequently, state-of-the-art tools for simulation in the spiking setting are overviewed and their subset is applied to selected brain-computer interface experiments and image datasets.

Abstract:

Umělé (analogové) neuronové sítě se staly v posledním desetiletí novou normou pro řešení mnoha úloh z oblasti strojového učení a zpracování přirozeného jazyka. Nicméně i přes jejich úspěch, analogové sítě nejsou schopné přesně zachytit chování biologických neuronových sítí, protože model analogového neuronu závisí na spojitých aktivacích místo diskrétních posloupností akčních potenciálů. Impulzní neuronové sítě, na druhou stranu, představují nový přístup jak modelovat biologické sítě mnohem přesněji a zároveň dosahují výkonu velmi blízko analogovým sítím. Tato bakalářská práce studuje současné znalosti z impulzních sítí a porovnává je s analogovými. Následně práce shrnuje nejmodernější nástroje pro simulaci v impulzním prostředí a část z nich je aplikována na vybraných experimentech pro rozhraní mozek-počítač a obrazových datasetech.

Keywords

impulzní neuronové sítě, impulzní sítě, neuronová síť, BCI, EEG, MNIST, Fashion MNIST, analogová síť, umělá neuronová síť, TensorFlow, PyTorch, Nengo, Keras, BNCI Horizon

Language used: English

Date on which the thesis was submitted / produced: 6. 5. 2021

Accessible from:: 31. 12. 2999

Thesis defence

• Supervisor: Ing. Roman Mouček, Ph.D.

University of West Bohemia

Faculty of Applied Sciences

Bachelor programme / field:
Computer Science and Engineering / Information Technologies