Volba vyhlazovacího parametru při jádrových odhadech hustoty

Bc. Jan Orava

Master's thesis

Choosing of the smoothing parameter for kernel density estimation

Abstract:

Jádrový odhad hustoty patří do skupiny neparametrických odhadů. Výhodou neparametrického odhadu je, že nepotřebujeme žádné apriorní informace o zkoumané hustotě. Samotná konstrukce jádrového odhadu je poměrně jednoduchá, ovšem výsledná kvalita jádrového odhadu závisí na několika významných faktorech, především je to volba jádrové funkce a vhodná volba vyhlazovacího parametru. V práci je popsána základní problematika jádrových odhadů hustoty, jsou definovány nástroje pro měření kvality odhadu jako MISE a AMISE pro obecnou jádrovou funkci. V práci je také uvedeno šest metod pro odhad vyhlazovacího parametru. Porovnání účinnosti těchto metod je v simulační studii. V závěru práce je stručný úvod k vícerozměrným jádrovým odhadům hustoty.

Abstract:

The kernel density estimation belongs to group of nonparamteric methods. The adventage of nonparametric estimation is, that we do not need any prior information about unknown density function. The construction of kernel density estimation is quite easy, but the quality of result depends on several important factors. All above it is choice of kernel function and right selection of smoothing parameter. In thesis, there are described basics questions with kernel estimation density, there are defined tools for measure quality like MISE and AMISE for general kernel function. In the thesis, there is also mentioned six methods for choosing of smoothing parameter. The comparison of these methods is in simulation study. In the end of the thesis, there is noted brief introduction to multivariete kernel denstity estimation.

Keywords

jádrový odhad hustoty, optimální jádro, střední integrální kvadratická chyba MISE, asymptotická střední integrální kvadratická chyba MISE, odhad hodnoty vyhlazovacího parametru, metoda referenční hustoty, metoda maximálního vyhlazení, metoda křížového ověřování maximální věrohodnosti, metoda křížového ověřování nejmenších čtverců, metoda dvou jader, iterační metoda, vícerozměrný jádrový odhad hustoty, kernel density estimation method, optimal kernel theory, mean integrated squared error MISE, asypmptotic mean integrated squared error MISE, choosing of smoothing parameter, maximal smoothing method, cross-validation method, cross-validation least squares method, double kernel method, iterate method, multivariete kernel density estimation

Language used: Czech

Date on which the thesis was submitted / produced: 13. 5. 2008

Thesis defence

• Date of defence: 18. 6. 2008
• Supervisor: doc. Mgr. Jan Koláček, Ph.D.
• Reader: prof. RNDr. Ivanka Horová, CSc.

Masaryk University

Faculty of Science

Master programme / field:
Applied Mathematics / Statistics and Data Analysis