Srovnání a vyhodnocení modelů distribuční sémantiky

Bc. Lukáš Banič

Bachelor's thesis

Comparison and evaluation of models for distributional semantics

Anotácia:

Táto bakalárska práca popisuje širokú škálu modelov založených na myšlienkach distribučnej sémantiky. Vlastnosti a dôsledky týchto systémov sú diskutované v širokom kontexte. Práca kladie dôraz hlavne na mechanizmus pre automatické generovanie synonymických slovníkov používaný v systéme Sketch Engine a na populárny program Word2Vec založený na strojovom učení. Tieto dve techniky sú dôkladne vysvetlené and porovnané na veľkom teste jednoslovných analogických úsudkov. Značná časť práce je venovaná vzbudzovaniu pochybností ohľadom súčasných vyhodnocovacích techník. Ich nedostatky sú podrobne popísané a ilustrované na množstve názorných príkladov. Ďalej sú navrhnuté nasledujúce kroky v hľadaní významu v dátach.

Abstract:

This bachelor's thesis describes a wide variety of models based on ideas of distributional semantics. Properties and implications of these systems are discussed in a broad context. The main focus is laid on an automatic thesaurus generation tool used in Sketch Engine system and on a popular machine learning program Word2Vec. These two are thoroughly explained and compared on a large-scale word analogy task. A considerable part of the thesis is dedicated to raising skepticism about how these systems are evaluated nowadays. Drawbacks are described in detail and demonstrated on lots of examples. The next intermediate steps in the search for meaning in data are suggested.

Keywords

distributional semantics, word meaning, thesaurus, machine learning, analogical reasoning

Jazyk práce: English

Datum vytvoření / odevzdání či podání práce: 29. 5. 2017

Obhajoba závěrečné práce

• Obhajoba proběhla 13. 2. 2018
• Vedúci: Mgr. et Mgr. Vít Baisa, Ph.D.
• Oponent: doc. Mgr. Pavel Rychlý, Ph.D.

Masaryk University

Faculty of Informatics

Bachelor programme / odbor:
Informatics / Artificial Intelligence and Natural Language Processing