Volba vyhlazovacích parametrů pro jádrové odhady hustot

Mgr. Kamila Vopatová, Ph.D.

Doctoral thesis

Bandwidth selection for kernel density estimates

Abstract:

Jádrové odhady hustoty patří do třídy neparametrických metod pro odhad hustoty pravděpodobnosti. Klíčovým prvkem jádrových odhadů je šířka vyhlazovacího okénka. Ve vícerozměrném případě vzrůstá počet vyhlazovacích parametrů, které mají vliv na hladkost i orientaci výsledné hustoty a které je potřeba odhadnout, čímž vzrůstá obtížnost těchto odhadů. Přirozeným rozšířením jádrových odhadů hustoty jsou jádrové odhady gradientu vícerozměrné hustoty. V této práci předkládáme novou metodu pro odhad vyhlazovacích parametrů jak pro jádrový odhad hustoty, tak i pro jádrový odhad gradientu hustoty. Tato metoda, nazvaná iterační, je založena na vyváženém vztahu mezi rozptylem a vychýlením odhadu hustoty, respektive jejího gradientu. Odhady s vyhlazovací maticí nalezenou podle iterační metody mají velmi dobré asymptotické vlastnosti. Simulační studie i analýza reálných dat ukazují možnosti iterační metody v široké škále situací.

Abstract:

Kernel density estimates belong to the class of nonparametric density estimates. A bandwidth selector plays a central role in kernel density estimates. In the multivariate case, one has to select a bandwidth matrix which controls the smoothness and the orientation of the estimate, so the selection is more difficult. Kernel gradient estimates are the natural generalisation of the kernel density estimates. In this thesis, we propose a new bandwidth matrix selector method. This method, called the iterative method, is based on the optimally balanced relation between the variance and the bias of the estimate. Kernel density and gradient estimates according to the iterative method possess good asymptotical properties. We employ a simulation study and a real data analysis to illustrate their finite sample properties in a wide range of situations.

Keywords

jádrový odhad, vyhlazovací matice, iterační metoda, hustota, gradient kernel smoothing, bandwidth matrix, iterative method, density, gradient

Language used: Czech

Date on which the thesis was submitted / produced: 20. 12. 2011

Thesis defence

• Date of defence: 10. 4. 2012
• Supervisor: prof. RNDr. Ivanka Horová, CSc.
• Reader: doc. Paedr. RNDr. Stanislav Katina, Ph. D., prof. RNDr. Jaromír Antoch, CSc.

Masaryk University

Faculty of Science

Doctoral programme / field:
Matematics (4-years) / Probability and Mathematical Statistics