Zpracování textu pomocí hlubokých neuronových sítí – Petr Kožušník
Petr Kožušník
Master's thesis
Zpracování textu pomocí hlubokých neuronových sítí
Text Processing using Neural Networks
Abstract:
Tato práce se zabývá využitím hlubokých neuronových sítí, zejména modelů transformer, v oblasti zpracování přirozeného jazyka (NLP). Poskytuje obecný přehled fungování neuronových sítí, popisuje její základní principy, aplikace a motivace pro jejich použití v NLP. Model transformer je popsán přesněji s~cílem objasnit jeho inovativní architekturu, včetně mechanismu pozornosti, a~vysvětlit jeho výhody …moreAbstract:
This paper explores the use of deep neural networks, particularly transformer models, in the field of natural language processing (NLP). It provides a general overview of how neural networks work, describing its basic principles, applications and motivations for their use in NLP. The transformer model is described in more detail in order to explain its innovative architecture, including its attention …moreKeywords
strojové učení umělé neuronové sítě hluboké učení zpracování přirozeného jazyka klasifikace textu rozpoznávání pojmenovaných entit extraktivní odpovídání na~otázky model transformer mechanismus pozornosti velké jazykové modely vektory vložení distilBERT trénování modelů jemné ladění předzpracování dat hyperparametrizaceKeywords
machine learning artificial neural networks deep learning natural language processing text classification named entity recognition extractive question answering model transformer attention mechanism large language models embedding vectors distilBERT model training fine tuning data preprocessing hyperparametrization
Language used: Czech
Date on which the thesis was submitted / produced: 15. 7. 2024
Thesis defence
- Date of defence: 6. 8. 2024
- Supervisor: Jan Platoš
- Reader: Michal Vašinek, Michal Vašinek
Citation record
ISO 690-compliant citation record:
KOŽUŠNÍK, Petr. \textit{Zpracování textu pomocí hlubokých neuronových sítí}. Online. Master's thesis. Ostrava: VŠB - Technical University of Ostrava, Fakulta elektrotechniky a informatiky. 2024. Available from: https://theses.cz/id/4ti7o8/.
Full text of thesis
Accessibility: Plné texty vysokoškolských kvalifikačních prací obhájených na Vysoké škole báňské - Technické univerzitě Ostrava jsou uloženy v repozitáři DSpace. Přístup k plným textům mají všichni uživatelé bez omezení. Přístup je omezen pouze ve výjimečných případech, zpravidla z důvodu ochrany duševního vlastnictví. Nepřístupné práce jsou označeny jako closedAccess nebo embargoedAccess. Tištěné verze prácí jsou uloženy v Ústřední knihovně VŠB-TUO a jsou prezenčně přístupné ve studovně diplomových prací. Další nakládání s prací (kopírování, opisy, MVS)se řídí Knihovní a výpůjčním řádem Ústřední knihovny VŠB-TUO.
Contents of on-line thesis archive
Published in Theses:- autentizovaným zaměstnancům ze stejné školy/fakulty
Other ways of accessing the text
Institution archiving the thesis and making it accessible: VŠB – Technická univerzita OstravaVSB – Technical University of Ostrava
Fakulta elektrotechniky a informatikyMaster programme / field:
Informační a komunikační technologie / Informatika a výpočetní technika
Theses on a related topic
-
Rozpoznávání pojmenovaných entit ve zprávách z oblasti finančních trhů
Lucie Suchánková -
Rozpoznávání pojmenovaných entit pomocí neuronových sítí
Martin MATAS -
Rozpoznávání pojmenovaných entit
Michal KONKOL -
Využití algoritmů dataminingu pro rozpoznávání pojmenovaných entit
Vojtěch Houžvička -
Rozpoznávání pojmenovaných entit
Vojtěch Rylko -
Algoritmy pro rozpoznávání pojmenovaných entit
Luca Winter -
Hybridní systém pro detekci pojmenovaných entit v českém textu
Lubomír Sedlář -
Rozpoznání pojmenovaných entit v textu
Martin Süss