zpět na výpis    domů » statistika » Klasický lineární regresní model

Klasický lineární regresní model

Publikováno: 1.6.2017

Klasický lineární regresní model

Regresní analýza je ekonometrický nástroj k modelování závislosti mezi proměnnými a tvorbě předpovědí. K modelování vztahů slouží elementární matematické funkce, které se označují jako regresní funkce. Regresní funkce obsahuje 2 skupiny proměnných - závisle proměnnou yi a množinu nezávisle proměnných x1, x2, ...., xk, pomocí kterých se snažíme vysvětlit variabilitu yi.

Klasický model lineární modelu

Klasický lineární regresní model lze vyjádřit jako stochastickou závislost mezi závisle proměnnou y, regresní funkcí základního souboru η a náhodné složky ε.

Regresní funkce základního souboru

Regresní funkce základního souboru

y ... závisle proměnná
η ... regresní funkce základního souboru
ε ... náhodná složka
β0, β1, ..., βk ... neznámé regresní parametry
x1, x2, ..., xk ... nezávisle proměnné

Regresní funkce základního souboru je pouze teoretický koncept, která obsahuje neznámé parametry β0, β1, ..., βk. Protože v praxi máme většinou k dispozici pouze výběr dat z určitého základního souboru, musíme se spokojit pouze s odhady b0, b1, ..., bk neznámých parametrů. Odhady neznámých parametrů pak můžeme na základě testování prohlásit za statisticky průkazné či neprůkazné.

Výběrová regresní funkce

Výběrová regresní funkce

y ... závisle proměnná
Y ... výběrová regresní funkce
e ... odhad náhodné složky
b0, b1, ..., bk ... odhad parametrů modelu
x1, x2, ..., xk ... nezávisle proměnné

Stejně tak se musíme spokojit s odhadem náhodné složky ε. Odhad náhodné složky se nazývá reziduum e, které lze vyjádřit jako rozdíl mezi skutečnou hodnotou závisle proměnné y a její vyrovnanou hodnotou Y.

Tvary regresních funkcí

Regresní modely nabývají tvary elementárních matematických funkcí. Následující regresní funkce mají jednu nezávisle proměnnou. Takové modely se označují jako jednoduché nebo jednofaktorové regresní modely - lineární, kvadratický, hyperbolický, odmocniný, mocninný, exponenciální a logaritmický.

Jednoduché modely regresních funkcí

Regresní funkce s více nezávisle proměnnými se označují jako vícefaktorové modely - polynomický 3. stupně, mocniný a exponenciální.

Vícefaktorové regresní modely

Průběh závislosti mezi 2 proměnnými lze identifikovat pomocí grafického diagramu (bodový graf). V případě vícenásobné regrese je identifikace složitější. Průběh závislosti mezi více proměnnými již nelze zobrazit graficky. Správná specifikace modelu se volí na základě statistických testů průkaznosti modelu.

Metoda nejmenších čtverců

Pro odhad parametrů klasického lineárního regresního modelu (KLRM) se používá metoda nejmenších čtverců (MNČ). MNČ je použitelná pouze pro modely s lineárními regresními parametry. Lze jí však použít i pro modely s nelineárními parametry, které je možné vhodnou transformací linearizovat (například logaritmická transformace).

Cílem MNČ je nalézt vhodnou aproximační funkci, která nejlépe vystihuje empirické hodnoty závisle proměnné. Nejlepší aproximační funkce je taková funkce, která nejlépe minimalizuje reziduální součet čtverců odchylek skutečných hodnot závisle proměnné y od teoretických η. V praxi je teoretická hodnota nahrazena vyrovnanou hodnotou Y odhadnutou pomocí výběrové regresní funkce.

Složkové vyjádření KLRM

Metoda nejmenších čtverců je založena na minimalizaci součtu čtverců odchylek. Minimalizační kritérium MNČ v bez maticovém vyjádření má následující složkovou podobu.

Minimalizační kritérium metody nejmenších čtverců

Parciálními derivacemi minimalizačního kritéria podle jednotlivých parametrů modelu β0, β1, ..., βk a položením rovnic rovno nule vznikne soustava normálních rovnic. Soustava obsahuje tolik rovnic, kolik je parametrů v modelu. V následujícím příkladě je demonstrováno odvození soustavy normálních rovnic pro výběrovou kvadratickou regresní funkci.

Odvození normálních rovnic kvadratické regrese

Úpravami získáme následující finální podobu soustavy normálních rovnic.

Soustava normálních rovnice kvadratické regrese

Bodové odhady bj parametrů βj lze získat řešením soustavy normálních rovnic pomocí Cramerova pravidla. Cramerovo pravidlo je jednou z metod výpočtu neznámých parametrů soustavy lineárních rovnic. Praktický výpočet parametrů regresní přímky najdete v článku Regresní přímka a Cramerovo pravidlo.

Maticové vyjádření KLRM

Pro složitější modely jsou Cramerovy vzorce nepřehledné. Proto doporučuji řešit soustavu normálních rovnic v maticové podobě. Maticové vyjádření klasického lineárního regresního modelu je přehlednější a prostorově úspornější.

Klasický lineární regresní model - maticový zápis

y ... sloupcový vektor n pozorování hodnot závisle proměnné
X ... matice n x (k + 1) pozorování hodnot vysvětlujících proměnných
β ... sloupcový vektor k + 1 neznámých parametrů
e ... sloupcový vektor n náhodných složek → e = y - Xβ

Derivací minimalizačního kritéria podle vektoru bT získáme soustavu normálních rovnic, ze které nakonec vyjádříme bodovou odhadovou funkci MNČ b = (XTX)-1XTy.

Odhadové funkce MNČ

Odhadová funkce MNČ

b ... sloupcový vektor bodových odhadů parametrů β
XT ... transponovaná matice (k + 1) x n nezávisle proměnných
(XTX)-1 ... inverzní čtvercová matice (k + 1) x (k + 1)
y ... sloupcový vektor závisle proměnné

Praktický výpočet parametrů regresní přímky v maticovém vyjádření najdete v článku Regresní přímka v maticovém vyjádření. Bodové odhady vektoru b parametrů β doporučuji ideálně provádět například pomocí ekonometrického softwaru Gretl nebo MS Excelu.

Líbí se vám článek a chcete vědět o každém dalším? Dejte Like Financím v praxi na sociálních sítích.

Google+

Sdílejte článek na sociálních sítích

Seznam použité literatury
  • CIPRA, T.: Finanční ekonometrie. EKOPRESS 2008, Praha. První vydání, 538 stran. ISBN 978-80-86929-43-9
  • DUFEK, J.: Ekonometrie. Mendelova zemědělská a lesnická univerzita v Brně 2003, Brno. První vydání, 136 stran. ISBN 80-7157-654-9
  • HAMPEL, D., BLAŠKOVÁ, V., STŘELEC, L.: Ekonometrie 2. Mendelova univerzita v Brně 2011, Brno. První vydání, 147 stran. ISBN 978-80-7375-540-9
  • HINDLS, R., HRONOVÁ, S., SEGER, J., FISCHER, J.: Statistika pro ekonomy. Profesional publishing 2007, Praha. Osmé vydání, 415 stran. ISBN 978-80-86946-43-6
  • HUŠEK, R.: Ekonometrická analýza. EKOPRESS 1999, Praha. První vydání, 303 stran. ISBN 80-86119-19-X
  • JAROŠOVÁ, E., PECÁKOVÁ, I.: Příklady k předmětu statistika B. Vysoká škola ekonomická v Praze 2003, Praha. První vydání, 222 stran. ISBN 80-245-0015-9
  • LEJNAROVÁ, Š., RÁČKOVÁ, A., ZOUHAR, J.: Základy ekonometrie v příkladech. Vysoká škola ekonomická 2009, Praha. První vydání, 276 stran. ISBN 978-80-245-1564-9
  • MINAŘÍK, B.: Statistika I. Popisná statistika - druhá část. Mendelova zemědělská a lesnická univerzita v Brně 2000, Brno. První vydání, 226 stran. ISBN 978-80-7375-152-4
  • Wikipedia. Metoda nejmenších čtverců [on-line] [cit. 2015-10-05]. Dostupné z WWW: https://cs.wikipedia.org/wiki/Metoda_nejmen%C5%A1%C3%ADch_%C4%8Dtverc%C5%AF
Nahoru