Vybrané transformace náhodných veličin užívané v klasické lineární regresi
Loading...
Date
Authors
ORCID
Advisor
Referee
Mark
A
Journal Title
Journal ISSN
Volume Title
Publisher
Vysoké učení technické v Brně. Fakulta strojního inženýrství
Abstract
Klasická lineární regrese a z ní odvozené testy hypotéz jsou založeny na předpokladu normálního rozdělení a shodnosti rozptylu závislých proměnných. V případě že jsou předpoklady normality porušeny, obvykle se užívá transformací závisle proměnných. První část této práce se zabývá transformacemi stabilizujícími rozptyl. Značná pozornost je udělena náhodným veličinám s Poissonovým a negativně binomickým rozdělením, pro které jsou studovány zobecněné transformace stabilizující rozptyl obsahující parametry v argumentu navíc. Pro tyto parametry jsou stanoveny jejich optimální hodnoty. Cílem druhé části práce je provést srovnání transformací uvedených v první části a dalších často užívaných transformací. Srovnání je provedeno v rámci analýzy rozptylu testováním hypotézy shodnosti středních hodnot p nezávislých náhodných výběrů s pomocí F testu. V této části jsou nejprve studovány vlastnosti F testu za předpokladu shodných a neshodných rozptylů napříč výběry. Následně je provedeno srovnání silofunkcí F testu aplikovaného pro p výběrů z Poissonova rozdělení transformovanými odmocninovou, logaritmickou a Yeo Johnsnovou transformací a z negativně binomického rozdělení transformovaného argumentem hyperbolického sinu, logaritmickou a Yeo-Johnsnovou transformací.
Classical linear regression model and the respective tests are based on an assumption of normally distributed response variables and on an assumption of variance equality. If the normality assumption is not fulfilled, then the response variables are usually transformed. In the first part of this work variance stabilising transformations are discussed. Great deal of attention is given to random variables of Poisson and negative binomial distribution, for which generalised variance stabilising transformations with addition constants in their arguments are studied. Optimal values of the constants for the generalised transformations are determined. The second part aims to provide a comparison of the transformations introduced in the first part and some other commonly used transformations. The comparison is done within the ANOVA framework by testing the hypothesis of equality of expectations among p random samples via F test. The properties of the distribution of the F test under the assumptions of equal and unequal variances are studied. Finally a comparison of the power functions of the F test applied to p random samples from Poisson distribution transformed via square root, logarithmic and Yeo-Johnson transformation, and to p random sample of negative binomial distribution transformed via argument of hyperbolic sine, logarithmic and the Yeo-Johnson transformation is carried out theoretically and by simulations.
Classical linear regression model and the respective tests are based on an assumption of normally distributed response variables and on an assumption of variance equality. If the normality assumption is not fulfilled, then the response variables are usually transformed. In the first part of this work variance stabilising transformations are discussed. Great deal of attention is given to random variables of Poisson and negative binomial distribution, for which generalised variance stabilising transformations with addition constants in their arguments are studied. Optimal values of the constants for the generalised transformations are determined. The second part aims to provide a comparison of the transformations introduced in the first part and some other commonly used transformations. The comparison is done within the ANOVA framework by testing the hypothesis of equality of expectations among p random samples via F test. The properties of the distribution of the F test under the assumptions of equal and unequal variances are studied. Finally a comparison of the power functions of the F test applied to p random samples from Poisson distribution transformed via square root, logarithmic and Yeo-Johnson transformation, and to p random sample of negative binomial distribution transformed via argument of hyperbolic sine, logarithmic and the Yeo-Johnson transformation is carried out theoretically and by simulations.
Description
Keywords
Poissonovo rozdělení, negativně binomické rozdělení, transformace stabilizující rozptyl, odmocninová transformace, transformace argument hyperbolického sinu, logaritmická transformace, Yeo-Johnsnova transformace, Lineární regrese, ANOVA, F-test, silofunkce, Poisson distribution, negative binomial distribution, variance stabilising transformation, logarithmic transformation, square root transformation, argument of hyperbolic sine transformation, Yeo-Johnson transformation, Linear regression, ANOVA, F-test, power function
Citation
TEJKAL, M. Vybrané transformace náhodných veličin užívané v klasické lineární regresi [online]. Brno: Vysoké učení technické v Brně. Fakulta strojního inženýrství. 2017.
Document type
Document version
Date of access to the full text
Language of document
en
Study field
Matematické inženýrství
Comittee
prof. RNDr. Jan Chvalina, DrSc. (předseda)
prof. RNDr. Josef Šlapal, CSc. (místopředseda)
doc. RNDr. Libor Žák, Ph.D. (člen)
doc. RNDr. Libor Čermák, CSc. (člen)
doc. Ing. Luděk Nechvátal, Ph.D. (člen)
prof. Bruno Rubino, University of L'Aquila (člen)
Date of acceptance
2017-06-15
Defence
Student přednesl obhajobu DP (v angličtině).
Zodpověděl otázky oponenta.
Result of defence
práce byla úspěšně obhájena
Document licence
Standardní licenční smlouva - přístup k plnému textu bez omezení