Vícejazyčná sémantická podobnost textů

Bc. Michal TUŠL

Diplomová práce

Cross-lingual semantic textual similarity

Anotace:

Tato práce se zabývá metodami strojového učení bez učitele pro měření sémantické podobnosti textů napříč různými jazyky. Pro monolinguální reprezentaci textu bylo natrénováno několik modelů na korpusu z~Wikipedie. Pro vytvoření jazykově nezávislé reprezentace významu jsou monolinguální sémantické prostory transformovány do společného prostoru pomocí lineární transformace. Práce zkoumá lineární transformace za pomocí metody nejmenších čtverců, kanonické korelační analýzy a ortogonální transformace. Kromě standardní transformace na slovech práce představuje dva nové přístupy, a to transformaci na větách a transformaci Paragraph2Vec modelu. Experimenty jsou provedeny na vícejazyčných datasetech SemEval-2017 a GoranGlavas a je měřena Pearsonova a Spearmanova korelace oproti člověku. Zkoumané metody dosahují slibných výsledků na těchto datasetech.

Abstract:

This master thesis is focused on unsupervised machine learning methods for cross-lingual semantic textual similarity. For monolingual representation, multiple models were trained on the Wikipedia corpus. For languageindependent representation of meaning, monolingual semantic spaces are transformed into a shared space by the linear transformation. We study several linear transformations including Least Square Transformation, Canonical Correlation Analysis and Orthogonal Transformation methods. Including standard word transformation, the thesis also introduces two new approaches, transformation on sentences and transformation of Paragraph2Vec models. Experiments were examined on cross-lingual datasets SemEval-2017 and GoranGlavas. We measure Pearson and Spearman correlation between our methods and human judgements. Presented methods show very promising results.

Klíčová slova

zpracování přirozeného jazyka, vícejazyčná sémantická podobnost textů, sémantika, transformace metodou nejmenších čtverců, kanonická korelační analýza, ortogonální transformace, GloVe, Word2Vec, FastText, Paragraph2Vec, Skip-thoughts, SemEval, GoranGlavas

Jazyk práce: čeština

Datum vytvoření / odevzdání či podání práce: 15. 5. 2019

Zveřejnit od: 31. 12. 2999

Obhajoba závěrečné práce

• Vedoucí: Ing. Tomáš Brychcín, Ph.D.

ZÁPADOČESKÁ UNIVERZITA V PLZNI

Fakulta aplikovaných věd

Magisterský studijní program / obor:
Inženýrská informatika / Softwarové inženýrství