Finding Optimal Decision Trees

Petr Máša

Doctoral thesis

Anotácia:

Rozhodovácí stromy jsou rozšířenou technikou pro popis dat. Používají se často teké pro predikace. Zajímavým problémemje, že konkrétní distribuce může být popsána jedním či více rozhodovacími stromy.Obvykle nás zajímá co nejjednodušší rozhodovací strom(který budeme nazývat též optimální rozhodovací strom).Tato práce navrhuje rozšíření prořezávácí fáze algoritmů pro rozhodovací stromytak, aby umožňovala více prořezávání. V práci byly zkoumány teoretické i praktické vlastnosti tohoto rozšířeného algoritmu. Jako hlavní teoretický výsledek bylo dokázano, že pro jistou třídu distribucí nalezne algoritmus optimální rozhodovací strom(tj.nejmenší rozhodovací strom, který reprezentuje danou distribuci). V praktických testech bylo zkoumáno, jak je schopen algoritmus rekonstruovat známý strom z dat. Zajímalo nás, zdali dosáhne naše rozšíření zlepšení v počtu správně rekonstruovaných stromů zejména v případě, že data jsou dodatečně velká ( z hlediska počtu záznamů). Tato doměnka byla potvrzena praktickými testy. Obdobný výsledek byl před několika lety prokázán pro Bayesovské sítě. Algoritmus navržený v této disertační práci je polynomiální v počtu listů stromu, který je výstupem hladového algoritmu pro růst stromů, což je vylepšení oproti jednoduchému algoritmu prohledávání všech možných stromů, který je exponenciální.

Kľúčové slová

rozhodovací stromy, optimalita, nejmenší rozhodovací strom, změna vnitřní struktury, algoritmus

Jazyk práce: English

Datum vytvoření / odevzdání či podání práce: 5. 9. 2006

Obhajoba závěrečné práce

• Obhajoba proběhla 18. 9. 2006
• Vedúci: Jiří Ivánek
• Oponent: Petr Berka, Radim Jiroušek

Vysoká škola ekonomická v Praze

Doctoral programme / odbor:
Aplikovaná informatika / Informatika