Binary Sketches for Similarity Search

RNDr. Vladimír Míč

Doctoral thesis

Anotácia:

Efektivní zpracování velkého množství digitálních dat je jedním ze základních úkolů informační společnosti. Tato práce se zaměřuje na efektivní vyhledávání, které je často nezbytnou součástí zpracování dat. Vyhledáváním ve složitých doménách, například v multimédiích, se většinou rozumí vyhledávání na základě podvojné podobnosti objektů. Ta může být definována jako podobnost vizuální, tvarová, zvuková, či jiná. Vyhledávání na základě podobnosti objektů odpovídá požadavkům uživatelů lépe než vyhledávání identických objektů, ale je výpočetně mnohem náročnější. V této práci předpokládáme, že míra podobnosti objektů je modelována metrickým prostorem, který představuje jeden z nejběžnějších a nejobecnějších modelů podobnosti složitých objektů. Uvažujeme tedy doménu objektů a metrickou funkci, která měří míru nepodobnosti libovolné dvojice objektů. Podobnost složitých objektů, například multimédií, není dnes běžně počítána přímo na základě původních (raw) dat. Namísto toho jsou takzvanými deskriptory popsány charakteristické vlastnosti objektů. Tyto deskriptory jsou často vysoce dimenzionální vektory. Hlavní výzvy podobnostního vyhledávání na které se zaměřujeme, souvisí s velkým množstvím digitálních dat a dalšími aspekty tzv. big data. Ačkoliv prohledávaných dat je hodně, užitečné podobnostní vyhledávání musí být časově efektivní. V této práci uvažujeme transformaci každého deskriptoru na binární řetězec krátké délky, který nazýváme "skeč". Míra podobnosti dvou skečů je vyjádřena Hammingovou vzdáleností, tedy jako počet rozdílných bitů. Skeče porovnávané touto vzdáleností přibližně popisují podobnost deskriptorů vyjádřenou původní metrikou. Velikost skečů je však zpravidla o několik řádů menší než velikost původních deskriptorů, a Hammingova vzdálenost je zřejmě nejefektivnější podobnostní funkcí vůbec. Tyto transformace tak snížují paměťovou a výpočetní složitost vyhledávání, které tím zrychlují. Hlavními řešenými aspekty efektivního vyhledávání pomocí skečů jsou definice skečovací transformace včetně odhadu vhodné délky skečů, a návrh efektivního algoritmu, který využívá skeče deskriptorů k urychlení vyhledávání při malé ztrátě kvality vyhledávání. V práci také zohledňujeme možnosti efektivního vyhledávání podobných skečů pomocí jejich indexování, a navrhujeme heuristiku, která usnadňuje efektivní výběr vhodné skečovací techniky pro data na základě jejich statistických vlastností.

Abstract:

The rapid increase of digital data production strengthens the need for efficient data processing. We focus on data searching, which is one of the essential real-life tasks. Searching for data objects cannot be limited to exact matches in many applications, instead, searching based on a pairwise similarity of data objects is often necessary. This similarity search is challenging due to its computational complexity. In this thesis, we consider the similarity of data objects modelled by metric space, i.e. we assume the domain of objects and the metric function that measures the dissimilarity of any two objects. Complex data objects such as multimedia are usually not compared directly, but their characteristic features are extracted and represented typically by high dimensional vectors. The problems of similarity searching investigated in this thesis are related to the phenomenon of big data. The volume of processed data is large, and the time efficiency of similarity query executions is essential. This thesis investigates techniques that transform metric space to Hamming space to decrease the memory and computational complexity of the search and therefore speed-up executions of similarity queries. We assume the transformation of each object from the metric space to one binary string of a small length, a so-called "sketch". We address various challenges of the similarity search with sketches, including the definition of the sketching transformation, setting the suitable length of sketches for given data objects, and efficient search algorithms that exploit sketches to speed-up similarity searching. We also contribute to the indexing of Hamming space and propose a heuristic to facilitate the efficient selection of a suitable sketching technique for any given data.

Keywords

Similarity Search, Hamming Embedding, Binary Sketch, Metric Space, Hamming Space, Indexing

Jazyk práce: English

Datum vytvoření / odevzdání či podání práce: 20. 8. 2019

Obhajoba závěrečné práce

• Obhajoba proběhla 6. 2. 2020
• Vedúci: prof. Ing. Pavel Zezula, CSc.
• Oponent: prof. RNDr. Tomáš Skopal, Ph.D., Prof. Richard Connor

Masaryk University

Faculty of Informatics

Doctoral programme / odbor:
Informatics (4-years) / Informatics