Paraphrase and Textual Entailment Generation in Czech

RNDr. Zuzana Nevěřilová, Ph.D.

Doctoral thesis

Anotácia:

V přirozeném jazyce můžeme určitou informaci sdělit mnoha způsoby. Navíc, ona sdělená informace mívá řadu samozřejmých důsledků, které jsou tudíž málokdy zmíněné. Oba tyto jevy - parafráze a textové vyplývání - jsou v lidské komunikaci běžné, avšak jejich automatické generování je obtížné. Parafráze a textové vyplývání jsou užitečné v úkolech, které simulují porozumění přirozenému jazyku (např. odpovídání na otázky, automatická sumarizace, detekce plagiátorství). Tato práce představuje pravidlový přístup ke generování parafrází a textových vyplývání ze zadaného textu. Abychom získali mnoho různých parafrází, transformujeme slovník i strukturu vstupních vět. Transformace čerpají z různých jazykových zdrojů a znalostních bází. Přestože vstup i výstup je pouze v češtině, uvedený princip slovních a strukturních transformací je jazykově nezávislý. Protože pracujeme s nejistou informací, je každá výstupní věta ohodnocena na základě statistického jazykového modelu vypočítaného z korpusu. Rozhodnutí, zda výstupní věta vyplývá ze vstupního textu, je ponecháno na člověku. Pomocí anotační hry lidé anotují páry (vstupní text, generovaná věta) jako pravdivá či nepravdivá textová vyplývání, případně jako nesmysl. Výzkum ukázal, že abychom mohli generovat velké množství různých druhů parafrází a textových vyplývání, potřebujeme mnoho různých jazykových zdrojů. Jedním z výsledků práce je evaluační množina pro budoucí systém pro rozpoznávání textového vyplývání, která obsahuje více než 3000 anotovaných párů (text, věta, která z textu vyplývá). Výsledná aplikace je použitelná jako modul pro systémy porozumění přirozenému jazyku v češtině. Neanglické jazykové zdroje jsou často méně rozvinuté než zdroje pro angličtinu, tudíž náš výzkum může podpořit podobné výzkumy a aplikace pro textové vyplývání i pro jiné jazyky.

Abstract:

In natural languages, one particular piece of information can be conveyed in many different ways. Moreover, a conveyed piece of information implies many others that are obvious for humans and thus rarely mentioned. These phenomena - paraphrasing and textual entailment - occur naturally in all human communication but they are difficult to produce automatically. Paraphrasing and textual entailment are useful in tasks that simulate natural language understanding (e.g. question answering or automatic summarization or plagiarism detection). This work presents a rule-based approach that generates paraphrases and textual entailments from a given text. To achieve a large variety of new sentences, we transform the vocabulary and the structure of the input sentences. The transformations benefit from diverse language resources and knowledge bases. Although both input and output are in Czech, the principle (vocabulary and structure transformations) is language independent. Since we work with uncertain information, each generated sentence is scored according to a corpus-based language model. The decision whether or not the input text entails a particular sentence is left on humans: by playing an annotation game they annotate the pairs (input text, generated sentence) true, false or non-sense. The research has shown the need for language resources in order to produce a large variety of paraphrases and entailments. One of the results is an evaluation dataset for a future recognizing textual entailment system in Czech. The dataset contains over 3,000 annotated pairs. The application is suitable for the support of future natural language understanding applications in Czech. Since non-English language resources are less developed than English ones, the research is also encouraging for the development of textual entailment generation systems in other languages.

Keywords

textual entailment, Czech, textual entailment generation, paraphrase, paraphrase generation, knowledge representation, implicit knowledge, named entities, common sense reasoning, natural language generation, declension, verb valency frame, sentence, anaphora resolution, annotation game

Jazyk práce: English

Datum vytvoření / odevzdání či podání práce: 30. 6. 2014

Obhajoba závěrečné práce

• Obhajoba proběhla 28. 11. 2014
• Vedúci: prof. PhDr. Karel Pala, CSc.
• Oponent: prof. PhDr. Eva Hajičová, DrSc., Christiane D. Fellbaum, Ph.D., Dr. Maciej Piasecki

Masaryk University

Faculty of Informatics

Doctoral programme / odbor:
Informatics (4-years) / Informatics