Neuronové sítě pro porozumění řeči

Vladimíra KIMLOVÁ

Bachelor's thesis

Neural networks for spoken language understanding

Abstract:

Neuronové sítě jsou dnes dominantním nástrojem pro mnoho úloh v oblasti strojového učení a umělé inteligence. Avšak pro dosažení vysoké přesnosti řešení dané úlohy je potřeba velké množství anotovaných dat pro trénování sítě, což může být časově náročné a drahé. Tato bakalářská práce se zaměřuje na využití lidské interakce při trénování neuronových sítí (tzv. human-in-the-loop přístup) s cílem umožnit neuronové síti se učit nové věci v reálném čase a rychle a flexibilně reagovat na nové situace. Výsledná metoda umožňuje adaptivní dotrénování libovolných vzorků a tříd v reálném čase na neuronové síti pro klasifikaci záměru. Tento proces je uskutečněn prostřednictvím interaktivního hlasového dialogu a Sentence Transformeru. Síť pro klasifikaci záměru byla vytvořena pomocí transfer learningu pro efektivnější trénování a zlepšení schopnosti generalizace. Celý systém je navržen tak, aby byl snadno použitelný a mohl být nasazen na zařízení s omezenými výpočetními zdroji, jako je Raspberry Pi.

Abstract:

Neural networks have become a dominant tool for many tasks in the field of machine learning and artificial intelligence. However, achieving high accuracy in solving a given task requires a large amount of annotated data for network training, which can be time-consuming and expensive. This bachelor's thesis focuses on utilizing human interaction in the training of neural networks (the human-in-the-loop approach) to enable the network to learn new things in real-time and to quickly and flexibly respond to new situations. The resulting method allows for real-time fine-tuning of samples and classes using a voice dialogue and Sentence Transformer on a neural network for intent classification. The intent classification network was created using transfer learning for more efficient training and improved generalization ability. The system is designed to be easily deployable and can be deployed on devices with limited computing resources, such as Raspberry Pi.

Keywords

dopředná neuronová síť, Human-in-the-loop, Sentence-Transformer, Transfer learning, Fine-tuning, klasifikace záměru, Raspberry Pi

Language used: Czech

Date on which the thesis was submitted / produced: 19. 5. 2023

Accessible from:: 31. 12. 2999

Thesis defence

• Supervisor: Ing. Martin Bulín, M.Sc.

University of West Bohemia

Faculty of Applied Sciences

Bachelor programme / field:
Cybernetics and Control Engineering / Artificial Intelligence and Automation