Jádrové odhady hustoty

Mgr. Martin Řezáč, Ph.D.

Doctoral thesis

Kernel density estimates

Abstract:

Jádrové odhady pravděpodobnostní hustoty patří mezi neparametrické odhady, tj. není třeba předem předpokládat jaký tvar má odhadovaná hustota. Jde o klouzavý vážený průměr, jehož kvalita závisí především na šířce vyhlazovacího okna. Tento parametr nejvíce ovlivňuje výsledný odhad a jeho volba je zásadním problémem vyhlazovacích metod. Mezi původní výsledky patří zobecnění metody referenční hustoty, které spočívá v použití obecného řádu jádra. Vedlejším výsledkem při odvozování vztahu pro odhad optimální šířky vyhlazovacího okna je důkaz zajímavé kombinatorické identity. Dalším původním výsledkem je upravená metoda maximálního vyhlazení. Princip metody byl zachován, změněn byl ale variační problém, který je v této metodě řešen. Přínosem této práce je i zmapování hlavních neparametrických metod odhadů pravděpodobnostní hustoty od jejich začátků v padesátých letech minulého století až po současnost. Dále jsou citovány výsledky týkající se obecných statistických vlastností jako je nestrannost a konzistence odhadu hustoty. V práci jsou definovány dvě důležité třídy jádrových funkcí, například třída optimálních jader. Vlastnosti těchto jader, jakožto i vlastnosti odhadů hustoty s využitím těchto jader, jsou zde podrobně popsány. Mezi nejdůležitější výsledky patří vztah pro asymptotickou střední integrální kvadratickou chybu a vztah pro šířku vyhlazovacího okna optimální vzhledem k této chybě, které jsou uvedeny včetně jejich odvození.

Abstract:

The kernel density estimates belong among non-parametric estimates, i.e. no assumption about shape of estimated density is needed. They are running weighted average, whose quality highly depends on smoothing bandwidth. The value of this parameter mostly affect consequent density estimate and its choice is the essential problem of smoothing methods. Original result have been achieved in reference density method. The generalization consists in general kernel order usage. The proof of interesting combinatorial identity is a by-product of derivation of estimate for smoothing bandwidth in this method. Modified maximal smoothing method is another author's result. The principle of method was kept, while the variation problem, which is solved in this method, was slightly changed. Further benefit of this work is overview of main non-parametric estimates of probabilistic density from its beginning about 1950's till present time. Results relating general statistical properties as unbiased and consistent estimates are stated too. Two important classes of the kernel functions are defined herein, for example class of optimal kernels. Properties of these kernel functions as well as properties of density estimates based on these kernels are described here. To the most important results belong form for the asymptotic mean integrated squared error and expresion for the smoothing bandwidth optimal with respect to this error. Both of these are stated including their derivation.

Keywords

non-parametric, kernel, density, estimates, smoothing, bandwidth, optimal

Language used: Czech

Date on which the thesis was submitted / produced: 21. 9. 2007

Thesis defence

• Date of defence: 21. 9. 2007
• Supervisor: prof. RNDr. Ivanka Horová, CSc.
• Reader: prof. RNDr. Lubomír Kubáček, DrSc., doc. Ing. František Vávra, CSc.

Masaryk University

Faculty of Science

Doctoral programme / field:
Mathematics / Probability and Mathematical Statistics