zpět na výpis    domů » statistika » Zobecněná metoda nejmenších čtverců

Zobecněná metoda nejmenších čtverců

Publikováno: 18.12.2017

Zobecněná metoda nejmenších čtverců

V praxi se stává, že nejsou splněny předpoklady pro odhad klasického lineárního modelu metodou nejmenších čtverců (MNČ). Takový model nemá optimální vlastnosti a je v praxi víceméně nepoužitelný. Předpoklady klasického lineárního regresního modelu jsou:

  • P1: E(ε) = 0
  • P2: E(εεT) = σ2In
  • P3: E(XTε) = 0
  • P4: h(X) = k + 1 ≤ n

Předpoklad P1 představuje nulovou střední hodnotu náhodné složky. Pokud je porušen požadavek nulové střední hodnoty, nenulová střední hodnota se stává součástí odhadu úrovňové konstanty. Odhad úrovňové konstanty je vychýlený. Ostatní parametry jsou však nevychýlené.

Předpokladem P2 je konečný a konstantní rozptyl náhodné složky (=homoskedasticita) a sériová nezávislost náhodné složky. Porušení požadavku konstantního rozptylu se označuje jako heteroskedasticita. A porušení sériové nezávislosti se označuje jako autokorelace.

Předpoklad P3 vyjadřuje nezávislost matice X na náhodné složce. Matice X je nestochastická.

Předpoklad P4 říká, že matice X má plnou hodnost. To znamená, že sloupce pozorování matice X nejsou lineárně závislé. Porušení tohoto předpokladu se označuje jako multikolinearita.

Porušení předpokladu náhodné složky

Zobecněná metoda nejmenších čtverců (ZMNČ) řeší porušení předpokladu P2. To znamená, že náhodná složka nemá konstantní rozptyl (=heteroskedasticita) nebo vykazuje sériovou závislost (=autokorelace). Popřípadě vykazuje oba případy současně.

Odhady klasickou MNČ jsou v takovém případě sice nestranné a konzistentní, ale nejsou vydatné a asymptoticky vydatné. Jinými slovy nemají minimální rozptyl a nelze jej využít pro testování regresních parametrů modelu, konfidenční intervaly apod.

Zobecněná metoda nejmenších čtverců

Smyslem ZMNČ je transformace původního modelu takovým způsobem, aby náhodná složka splňovala klasické předpoklady kladené na náhodnou složku a model mohl být odhadnut klasickou MNČ s optimálními vlastnostmi.

Klasický lineární regresní model (KLMR) má v maticovém vyjádření tvar y = Xβ + ε, přičemž pro náhodnou složku platí již zmíněné předpoklady E(ε) = 0 a E(εεT) = σ2In.

ZMNČ pracuje místo E(εεT) = σ2In s obecněji formulovaným předpokladem E(εεT) = σ2V, kde σ2 je neznámý skalár a V je známa symetrická matice. Taková kovarianční matice náhodné složky může vykazovat sériovou závislost a nekonstantní rozptyl. Matici V lze vyjádřit jako inverzní matici dvou vzájemně transponovaných matic (TTT)-1. T je transformační matice, která se liší pro případ autokorelace a pro případ heteroskedasticity.

Není-li porušen předpoklad P2 pak platí σ2In = σ2V.

Transformace lineárního regresního modelu

Zmíněný klasický model lineární regrese ve tvaru y = Xβ + ε vynásobíme transformační maticí T, čímž získáme zobecněný model lineární regrese ve tvaru Ty = TXβ + Tε. Pomocí substituce můžeme model přepsat do přehlednějšího tvaru y* = X*β + ε*, přičemž platí y* = Ty, X* = TX a ε* = Tε. Na takto upravený model již můžeme aplikovat klasickou MNČ, neboť pro kovarianční matici náhodné složky již platí E(ε*ε*T) = σ2In.

E(ε*ε*T) = E[(Tε)(Tε)T)] = E(TεεTTT)
E(ε*ε*T) = TE(εεT)TT= Tσ2VTT
E(ε*ε*T) = σ2VV-1
E(ε*ε*T) = σ2In

Při znalosti bodové odhadové funkce MNČ můžeme pomocí transformovaného modelu odvodit odhadovou funkci ZMNČ.

Odhadová funkce ZMNČ

b* = (X*TX*)-1X*Ty*
b* = [(TX)T(TX)]-1(TX)TTy
b* = (XTTTXT)-1TTXTTy
b* = (XTV-1X)-1XTV-1y

Momentové charakteristiky odhadové funkce ZMNČ

V kapitole Vlastnosti odhadové funkce MNČ byly odvozeny momentové charakteristiky klasické odhadové funkce MNČ. Stejným způsobem lze odvodit střední hodnotu a kovarianční matici pro odhadovou funkci ZMNČ. Výchozím bodem odvození střední hodnoty E(b*) a kovarianční matice V(b*) je substituce transformovaného modelu y* do odhadové funkce ZMNČ b*.

b* = (X*TX*)-1X*T(X*β + ε*)
b* = β + (X*TX*)-1X*Tε*

Při odvození střední hodnoty E(b*) odhadové funkce ZMNČ vycházíme z upraveného předpokladu E(ε*) = 0.

E(b*) = E[β + (X*TX*)-1X*Tε*]
E(b*) = β + (X*TX*)-1X*TE(ε*)
E(b*) = β

S využitím upraveného předpokladu o kovarianční matici náhodné složky E(ε*ε*T) = σ2In můžeme odvodit kovarianční matici V(b*) odhadové funkce ZMNČ.

V(b*) = E([b* - E(b*)][b* - E(b*)]T)
V(b*) = E([b* - β][b* - β]T)
V(b*) = TE(εεT)TT(TTXTTX)-1
V(b*) = Tσ2VTT(TTXTTX)-1
V(b*) = σ2VV-1(XTV-1X)-1
V(b*) = σ2(XTV-1X)-1

Algoritmus aplikace ZMNČ

Postup řešení při identifikaci porušení předpokladu náhodné složky KLMR můžeme shrnout do přehlednější formy několika bodů:

  • odhad regresního modelu klasickou MNČ
  • test odhadu náhodné složky na přítomnost autorekolace a heteroskedasticity
  • identifikace vhodné transformační matice T
  • úprava původních proměnných modelu vhodnou transformační maticí T
  • odhad modelu klasickou MNČ s upravenými proměnnými

Líbí se vám článek a chcete vědět o každém dalším? Dejte Like Financím v praxi na sociálních sítích.

Google+

Sdílejte článek na sociálních sítích

Použité zdroje a literatura
  • CIPRA, T.: Finanční ekonometrie. EKOPRESS 2008, Praha. První vydání, 538 stran. ISBN 978-80-86929-43-9
  • HAMPEL, D., BLAŠKOVÁ, V., STŘELEC, L.: Ekonometrie 2. Mendelova univerzita v Brně 2011, Brno. První vydání, 147 stran. ISBN 978-80-7375-540-9
  • HUŠEK, R.: Ekonometrická analýza. EKOPRESS 1999, Praha. První vydání, 303 stran. ISBN 80-86119-19-X
  • LEJNAROVÁ, Š., RÁČKOVÁ, A., ZOUHAR, J.: Základy ekonometrie v příkladech. Vysoká škola ekonomická 2009, Praha. První vydání, 276 stran. ISBN 978-80-245-1564-9
Nahoru