Stream Mining and Meta-learning

Bc. Petr Kosina, Ph.D.

Diplomová práce

Anotace:

Tato práce se zabývá dolováním z proudu dat v dynamických prostředích, ve kterých se může s časem měnit distribuce pozorovaných dat. Učící algoritmy pracující v těchto podmínkách musí být schopny reagovat na změnu. Existují různé metody schopné rozpoznat a reagovat na změnu konceptu, přičemž většina z nich zapomínání stávajícího modelu a učí se model nový. Nicméně opakování jevů známých z historie není výjimečný jev. V této práci představujeme metodu, která si zapamatuje model, kdykoliv je detekována změna konceptu. Systém využívá meta-učení k rozpoznání využitelnosti předchozích modelů a umožnuje jejich proaktivní znovupoužití u podobných kontextů. Výhodou tohoto přístupu je, že nepotřebuje znát hodnotu atributu třídy, tudíž je možno ji aplikovat i když existuje prodleva mezi obdržením příkladu a jeho třídy.

Abstract:

This work addresses data stream mining from dynamic environments where the distribution underlying the observations may change over time. In these contexts, learning algorithms must be equipped with change detection mechanisms. Several methods have been proposed that are able to detect and react to concept drift. When a drift is detected, most of the approaches use a forgetting mechanism, by releasing the current model, and start learning a new decision model. Nevertheless, it is not rare for the concepts from history to re-appear, for example seasonal changes. In this work we present method that memorizes learnt decision models whenever a concept drift is detected. The system uses meta-learning techniques that characterize the domain of applicability of previous learnt models. The meta-learner, also called referee, can detect re-occurrence of contexts and take pro-active actions by activating previous learnt models. The main benefit of this approach is that proposed meta-learner is capable of selecting similar historical concept, if there is one, without the knowledge of true classes of examples. We can exploit this feature when there is a delay between incoming examples and their labels.

Keywords

Data Streams, Concept Drift, Recurring Concepts

Jazyk práce: angličtina

Datum vytvoření / odevzdání či podání práce: 25. 5. 2009

Obhajoba závěrečné práce

• Obhajoba proběhla 29. 6. 2009
• Vedoucí: doc. RNDr. Lubomír Popelínský, Ph.D.
• Oponent: Joao Gama

Masarykova univerzita

Fakulta informatiky

Magisterský studijní program / obor:
Aplikovaná informatika / Aplikovaná informatika