Analýza textu pomocí neuronových sítí

Marek Ulip

Master's thesis

Text Analysis Using Neural Networks

Abstract:

Tato diplomová práce se zabývá klasifikací textu a analýzou topiků v textech. Cílem bylo nejprve sepsat klasické a neuronové modely pro zmíněné disciplíny a tyto dvě skupiny metod experimentálně porovnat. Pro účely experimentů bylo získáno a popsáno celkem šest datových sad, z toho jedna byla v českém jazyce. Při experimentech s klasifikací bylo použito pět klasických modelů a sedm architektur neuronových sítí. V případě analýzy topiků byl porovnáván model LDA s experimentálním autoenkodérem, vytvořeným v rámci této práce, kde váhy naučeného autoenkodéru jsou použity jako model topiků. Výsledky ukazují, že v rámci klasifikace jsou klasické metody schopné dosahovat velmi dobré přesnosti, která se vyrovná neuronovým sítím, a to v mnohem kratším čase, avšak neuronové sítě jsou u většiny datových sad přesnější než klasické modely. V případě analýzy topiků vytvářel klasický model LDA kvalitnější topiky, avšak neuronový model byl v některých případech schopen lépe shlukovat analyzované dokumenty a kvalitou topiků nebyl na tolik vzdálen metodě LDA. Práce tedy představuje zajímavou alternativu ke klasickému modelu LDA.

Abstract:

This diploma thesis is concerning with text classification and text topic analysis. The aim was to first write and experimentally compare classic and neural models for mentioned disciplines. Total of six datasets were acquired for the purpose of experimentation. Five classical models and seven neural network architectures were used for the experiments. Model LDA and experimental autoencoder, created as part of this thesis which was using weights of learned autoencoder as topic model, were compared in case of topic analysis. The results show that in case of classification classical methods can achieve very good accuracy that can be compared to neural networks and with much less required time however neural networks are more accurate than classical models. In case of topic analysis, the classical model LDA was creating better topics however neural model was in some cases capable of better clustering of analyzed documents and its topic quality was not very distant from LDA method. This thesis introduces an interesting alternative to classical model LDA.

Keywords

strojové učení, hluboké učení, neuronové sítě, analýza textu, analýza topiků, topiky, autoenkodér, klasifikace textu

Keywords

machine learning, deep learning, neural networks, text analysis, topic analysis, topics, autoencoder, text classification

Language used: Czech

Date on which the thesis was submitted / produced: 30. 4. 2020

Thesis defence

• Date of defence: 24. 6. 2020
• Supervisor: Jan Platoš
• Reader: Petr Prokop

VSB – Technical University of Ostrava

Fakulta elektrotechniky a informatiky

Master programme / field:
Informační a komunikační technologie / Informatika a výpočetní technika