Math Information Retrieval for Digital Libraries

RNDr. Michal Růžička, Ph.D.

Doctoral thesis

Anotácia:

Cílem mé disertační práce je vylepšení možností plnotextového vyhledávání v digitálních knihovnách odborných dokumentů. Dokumenty v oblasti STEM (science, technology, engineering and mathematics – věda, technologie, inženýrství a matematika) obvykle obsahují mnoho matematických formulí, které jsou podstatnou součástí hlavního sdělení těchto dokumentů. Současné plnotextové vyhledávače však nedisponují odpovídající funkcionalitou pro indexování matematických formulí ani vhodným uživatelským rozhraním pro jejich vyhledávání pro koncové uživatele. Náš matematiku zohledňující plnotextový vyhledávač MIaS (Math Indexer and Searcher) v základu využívá vyhledávacích schopností soudobých nejlepších „textových“ plnotextových vyhledávačů, ale obohacuje je o podporu indexování formulí. Při indexování jsou matematické formule zpracovávány v několika krocích: Formule jsou normalizovány, abychom odstranili syntaktické odlišnosti formulí se stejnou sémantikou; aby byly vyhledatelné, jsou odvozeny a jako samostatné prvky indexovány také podformule a zobecněné formy původních formulí; odvozené formule jsou doplněny číselnými váhami, jejichž hodnota zachycuje míru jejich modifikace oproti původní formuli; nakonec jsou formule převedeny do kompaktní textové podoby odznačované jako MTermy, které jsou již přímo indexovatelné „textovým“ vyhledávacím systémem. Obdobný postup je během vyhledávání aplikován na formule v dotazu – získané MTermy reprezentující formule v dotazu jsou pak přímo použitelné na vyhledávání v indexu. Váhy formulí z indexu jsou použity k seřazení výsledků dle relevance. Pro dotazy kombinující více textových klíčových slov a matematických formulí jsem vyvinul a vyhodnotil účinnost několika strategií relaxování dotazů, které zlepšují kvalitu výsledků. S cílem použití pro vylepšení hodnocení relevance výsledků matematiku zohledňujících vyhledávačů jsem otestoval několik reprezentací matematického obsahu v dokumentech a vyhodnotil jejich vhodnost pro modelování témat pomocí metod strojového učení. Díky použití nástroje pro normalizaci matematiky a strategií relaxace dotazů byl na evaluační konferenci NTCIR-11 MIaS nezávisle vyhodnocen jako systém poskytující nejlepší výsledky mezi sedmi dalšími matematiku zohledňujícími plnotextovými vyhledávači. MIaS je nyní integrován v Evropské digitální matematické knihovně (EuDML, European Digital Mathematics Library), která tak, jako první standardní digitální knihovna v oboru, poskytuje funkci matematiku zohledňujícího vyhledávání v databázi stovek tisíc matematických článků. V disertaci jsou vyhodnoceny efekty různých nastavení konfiguračních parametrů výše zmíněných technik a nástrojů pro reprezentaci a indexování matematického obsahu. Proces vyhodnocování je automatizován s použitím dat a hodnocení relevance dokumentů k dotazům z NTCIR konferencí. Metodika pro automatizovanou evaluaci s využitím existujícího hodnocení relevance dokumentů, která je popsána v této práci, může být použita také pro rigorózní vyhodnocování jiných systémů.

Abstract:

The aim of my thesis is to improve full-text search functionality in the digital libraries of scientific documents. Documents in STEM (science, technology, engineering and mathematics) fields usually contain a lot of mathematical formulae which are germane to the main message of the documents. However, current, common full-text search engines provide neither the proper functionality to index formulae nor the appropriate interfaces for end users to search them. In essence, our math-aware full-text search engine MIaS (Math Indexer and Searcher) exploits the search functionality of the state-of-the-art keyword-based full-text search engines, while adding a new and efficient way of indexing formulae. To index mathematical formulae, the formulae are processed in several steps: formulae are normalized to remove the syntactic differences between formulae which are semantically the same; subformulae and generalized forms of the formulae are derived to be represented (and searchable) as standalone entities in the index; weights are assigned to them based on the degree of the modification from the original formula; finally, formulae are converted to a compact text representation called MTerms that are directly indexable by the common text search engines. During the search, similar processing is applied to formulae in the query resulting in query MTerms usable for querying the index. Formulae weights in the index are used to assign proper ranks to the results. For queries combining multiple text keywords and mathematical formulae I developed and evaluated multiple query relaxation strategies that improve the quality of the results. The suitability of various math representations for topic modeling on math documents was evaluated so as to make further improvements to the ranking of results in the math-aware search engine. Using the math normalization tool and query relaxation strategies in concert resulted in MIaS being independently evaluated as the system providing the best results on an NTCIR-11 evaluation event from among seven other math-aware full-text systems. MIaS has now been integrated to the European Digital Mathematics Library (EuDML) to provide math-aware search functionality in hundreds of thousands math papers, as the first ever industry standard digital library. This thesis evaluates the effects of various configuration parameter setups of the above-mentioned techniques of math-specific contents (formulae) representation and indexing. The evaluation process is automated using datasets and ground truth data from the NTCIR evaluation events. The automated evaluation methodology, exploiting existing judgement data, described in the thesis can also be applied to the rigorous evaluation of other systems.

Keywords

math information retrieval, math-aware full-text search, similarity search, digital libraries, MIaS, WebMIaS, MathML canonicalization, MathML structural unification, query relaxation strategies, topic modeling, math representation, evaluation získávání matematických informací, matematiku zohledňující plnotextové vyhledávání, podobnostní vyhledávání, digitální knihovny, kanonizace MathML, strukturní unifikace MathML, strategie relaxace dotazů, modelování témat, reprezentace matematiky, vyhodnocování

Jazyk práce: English

Datum vytvoření / odevzdání či podání práce: 31. 10. 2017

Obhajoba závěrečné práce

• Obhajoba proběhla 29. 1. 2018
• Vedúci: doc. RNDr. Petr Sojka, Ph.D.
• Oponent: Assoc. Prof. Richard Zanibbi, PhD, Prof. Akiko Aizawa

Masaryk University

Faculty of Informatics

Doctoral programme / odbor:
Informatics (4-years) / Computer Systems and Technologies