Statistická analýza populací s negativně binomickým rozdělením

Mgr. Lucie Doudová, Ph.D.

Doctoral thesis

Statistical Analysis of Populations with the Negative Binomial Distribution

Anotácia:

Předložená disertační práce se zabývá různými aspekty statistické analýzy populací s negativně binomickým (NB) rozdělením. Práce je rozdělena do osmi kapitol a dodatku. V první kapitole jsou definovány základní pojmy a označení používané v dalším textu. Jsou specifikovány vybrané pojmy z teorie odhadu a testování statistických hypotéz s rušivými parametry a dále potřebné vlastnosti zobecněného lineárního modelu. V kapitole druhé je zavedeno NB rozdělení a jsou popsány jeho vlastnosti zejména s ohledem na analýzu biologických populací. Detailně jsou diskutovány různé způsoby parametrizace NB rozdělení s ohledem na jejich další použití. V závěru této kapitoly je uvedeno necentrální NB rozdělení. V první části třetí kapitoly jsou popsány momentové a maximálně věrohodné odhady parametrů a algoritmy pro jejich výpočet pro různé typy parametrizací. V další části této kapitoly je řešena otázka korekce vychýlení maximálně věrohodných odhadů a dále pro eliminaci problémů s numerickým hledáním odhadů je popsán a využit quasi-likelihood přístup. Konečně je navržen a popsán bayesovský přístup k nalezení odhadů, který dává dobré výsledky při libovolných hodnotách parametrů. Všechny uvedené odhady jsou na závěr porovnány, je provedeno praktické doporučení pro výběr metody odhadu pro daná data. Čtvrtá kapitola detailně pojednává o testech hypotéz rovnosti středních hodnot NB rozdělení za různých podmínek na rušivé parametry a dále obsahuje testy hypotéz o rovnosti parametrů kappa. Pro porovnání výběrů z NB rozdělení byly odvozeny explicitní tvary Waldovy statistiky, skórové statistiky a věrohodnostního poměru při různých volbách vektoru rušivých parametrů. V navazující páté kapitole jsou pak tyto testy doplněny dalšími testy, které při známé hodnotě parametru kappa, vycházejí z teorie zobecněných lineárních modelů. V následující šesté kapitole pak jsou pomocí simulací stanoveny síly dříve zkonstruovaných testů a jsou uvedeny aproximace pro výpočet sil uvedených testů při známém parametru kappa. Síly jednotlivých testů jsou graficky porovnány. V sedmé kapitole jsou uvedené techniky odhadu aplikovány na reálná data. V prvním případě se jedná o studii výskytu spárkaté zvěře v závislosti na typu porostu, v případě druhém je analyzován absolutní počet neutrofilů v závislosti na stupni sepse dětských pacientů Univerzitní nemocnice v Brně. Kapitola je doplněna úvahou o návrhu rozsahu datového souboru s ohledem na požadovanou hodnotu síly použitých testů. Programová implementace prakticky všech použitých metod realizovaných ve výpočetním systému MATLAB je obsahem závěrečné kapitoly. V dodatku jsou uvedeny výpočty týkající se korekce maximálně věrohodných odhadů na nestrannost. Výpočty uvedené v této práci byly provedeny pomocí k tomu účelu sepsaných programů v MATLABu. Tyto programy jsou k dispozici na přiloženém CD.

Abstract:

The submitted thesis is concerned with various aspects of statistical analysis of the populations with negative binomial distribution (NB). This thesis consists of eight chapters and an appendix. Chapter One contains the definition of basic terms and the notation used in the text as well as the specification of selected terms concerning the theory of estimation and testing of statistic hypothesis with nuisance parameters and necessary characteristics of generalized linear model. The NB distribution is introduced and its characteristics with respect to the biological population analysis are described in Chapter Two. Various manners of NB parameterization with respect to their possible use are discussed in detail. The noncentral NB distribution is given in the conclusion of the above chapter. Chapter Three deals with moment and maximum likelihood estimators of parameters and algorithms for the calculation of various parameterization types. In the next part of this chapter we solve the bias correction of maximum likelihood estimator and describe and use the quasi-likelihood approach to eliminate imperfections of estimators. Eventually we suggest and describe Bayes approach to finding estimators which approach produces good results under arbitrary parameters. Finally we compare all estimators and offer practical recommendations for selecting the estimation method for the given data. Chapter Four deals with the hypothesis testing of the equality of NB distribution mean values under various conditions for the nuisance parameters and it also contains kappa parameters equality hypothesis tests. To compare the selected data from the NB distribution, explicit values of Wald statistics, score statistics and likelihood ratio have been derived under various vectors of nuisance parameters. Other tests are added in the following chapter which derive from the generalized linear models theory if the kappa parameter is known. The powers of formerly constructed tests are determined by means of simulations and approximations for the calculation of power of the given tests if the kappa parameter is known are specified in Chapter Six. The powers of individual tests are compared graphically. We use the above estimation methods in practice in Chapter Seven. In the first case we carry out a study examining the dependence of the number of deer on the vegetation type. In the second case we analyze the absolute neutrophile count depending on the degree of sepsis in child patients in the Teaching Hospital in Brno. This chapter also suggests the experimental design with respect to the required power of tests used. Descriptions of procedures implemented in the MATLAB computing system are given in the final chapter. Calculations related to bias correction in MLE are given in the Appendix. Calculations presented in the dissertation were carried out using MATLAB programs, which are to be found on enclosed CD.

Kľúčové slová

negativně binomické rozdělení, maximálně věrohodné odhady, korekce odhadů na nestrannost, quasi-likelihood odhady, bayesovský odhad, testy s rušivými parametry, zobecněné lineární modely, síla testů negative binomial distribution, maximum likelihood estimators, bias-corrected estimators, quasi-likelihood estimators, bayes estimators, tests with nuisance parameters, generalized linear models, power of the test

Jazyk práce: Czech

Datum vytvoření / odevzdání či podání práce: 7. 1. 2010

Obhajoba závěrečné práce

• Obhajoba proběhla 16. 2. 2010
• Vedúci: doc. RNDr. Jaroslav Michálek, CSc.
• Oponent: doc. RNDr. Zdeněk Karpíšek, CSc., doc. RNDr. Hana Skalská, CSc.

Masaryk University

Faculty of Science

Doctoral programme / odbor:
Matematics (4-years) / Probability and Mathematical Statistics