Pattern Mining in Dynamic Graphs

RNDr. Karel Vaculík

Doctoral thesis

Abstract:

Tato práce se zabývá dolováním z dynamických grafů, což jsou grafy, které se mění v čase. V první části je prezentováno dolování častých vzorů z binárních stromů. Konkrétně je představena metoda, která umožňuje reprezentovat binární stromy pomocí množiny podgrafů, na nichž je možné použít metody pro klasifikaci a detekci anomálií. Tato metoda zároveň provádí generalizaci značek uzlů, čímž usnadňuje práci s příliš různorodými značkami. Metodu jsme ověřili na stromech rezolučních důkazů a objevili jsme pomocí ní neobvyklé důkazy, které předtím nebyly zachyceny nástrojem pro automatickou detekci chyb. Pro analýzu binárních stromů prezentujeme v této části práce také metodu založenou na dolování ze sekvenčních dat a shlukování. Pomocí této metody je možné shlukovat a analyzovat různé strategie řešení rezolučních důkazů. Existující algoritmy pro dolování vzorů z dynamických grafů jsou typicky omezeny na speciální druhy vzorů, které zachycují pouze určité změny v grafech. V další části práce prezentujeme DGRMiner, algoritmus vhodný pro dolování obecných častých vzorů. Tyto vzory jsou ve tvaru pravidel a umožňují zachytit nejrůznější změny v grafech, jako je přidávání a mazání uzlů a hran, nebo změna značek uzlů a hran. V návaznosti na dolování častých vzorů popisujeme také rozšíření tohoto algoritmu pro detekci anomálních vzorů. Anomální vzory jsou takové, které se odchylují od vzorů častých. Časté vzory poté slouží jako vysvětlení nalezených anomálních vzorů. Užitečnost algoritmu DGRMiner je demonstrována extrakcí častých a anomálních vzorů z emailové sítě ENRON a z rezolučních důkazů. V závěrečné části práce je představen algoritmus WalDis pro dolování diskriminativních vzorů z dynamických grafů. WalDis se odlišuje od ostatních algoritmů, u kterých jde většinou o odlišování celých statických grafů. WalDis naproti tomu odlišuje události na lokální úrovni grafů, tedy události spojené s jednotlivými uzly a hranami. Tento algoritmus používá techniku náhodných procházek, na kterou navazuje buď hladovým algoritmem, nebo genetickým algoritmem. Tyto techniky umožňují hledat i nepřesné výskyty vzorů, což pomáhá vypořádat se s vysokou variabilitou hodnot atributů a časových známek v grafech při hledání vzorů. Diskriminativní vzory jsou užitečné pro zkoumání rozdílů mezi dvěma skupinami událostí, respektive kontextů, za jakých tyto události vznikají. Ověření algoritmu WalDis proběhlo na grafech vytvořených z datových sad DBLP a ENRON, na kterých se povedlo rozlišit konference strojového učení, respektive typy emailových zpráv.

Abstract:

This thesis deals with mining in dynamic graphs where dynamic graphs are graphs changing in time. Frequent pattern mining in binary trees is presented first. We show a method that allows us to represent binary trees by a set of subgraphs and then apply classification or anomaly detection methods on them. This method performs a generalization that helps us deal with vertices with diverse labels. We applied this method to resolution proof trees and it found unusual proofs that were not detected by an automatic corrector. Another presented method for binary trees is based on sequence mining and clustering and it allows us to group and analyse different strategies for solving the resolution proofs. Most of the existing pattern mining algorithms so far has been restricted to specific classes of patterns expressing only specific types of changes in the graphs. We present DGRMiner, an algorithm which is able to mine more general frequent patterns than the other algorithms. The patterns are in the form of graph rules capturing various types of changes, i.e. addition and deletion of vertices and edges, and relabelling of vertices and edges. Furthermore, we show an extension of this algorithm that is able to mine anomalous patterns that deviate from the frequent ones. The frequent patterns then serve as an explanation for the anomaly patterns. Usefulness of DGRMiner is demonstrated by extraction of frequent and anomalous patterns from ENRON email network and resolution proof trees. Next, we present WalDis, an algorithm for discriminative pattern mining in dynamic graphs. It differs from other approaches, which typically discriminate whole static graphs. The algorithm is able to discriminate between different events on a local level of dynamic graphs, i.e. events related to vertices or edges. The algorithm uses random walks and either a greedy method or a genetic algorithm to find patterns through inexact matching. Inexact matching helps us deal with intrinsic variability of timestamps and attributes in graphs. Discovered patterns allow us to understand the context of one group of events in contrast to another group. We verified this property on real-world datasets DBLP and ENRON, in which we discriminated machine learning conferences and email messages, respectively.

Keywords

data mining, graph mining, dynamic graphs, frequent patterns, anomaly detection, anomaly explanation, discriminative patterns, sequence mining, clustering

Language used: English

Date on which the thesis was submitted / produced: 31. 10. 2018

Thesis defence

• Date of defence: 13. 3. 2019
• Supervisor: doc. RNDr. Lubomír Popelínský, Ph.D.
• Reader: doc. Ing. Jaroslav Zendulka, CSc., Prof. Pavel Brázdil, Ph.D.

Masaryk University

Faculty of Informatics

Doctoral programme / field:
Informatics (4-years) / Informatics