4. Das multiple lineare Regressionsmodell

Transkript

1 4. Das multiple lineare Regressionsmodell Bisher: 1 endogene Variable y wurde zurückgeführt auf 1 exogene Variable x (einfaches lineares Regressionsmodell) Jetzt: Endogenes y wird regressiert auf mehrere exogene Variablen x 1,..., x K (multiples lineares Regressionsmodell) Es zeigt sich: Viele Ergebnisse und Intuitionen der einfachen Regression übertragen sich auf das multiple Modell 130

2 Wichtige Hilfsmittel: Matrixalgebra Erwartungswertvektor Kovarianzmatrix multivariate Normalverteilung 131

3 Inhaltlicher Aufbau: Modellspezifikation (A-, B-, C-Annahmen) Punktschätzung (KQ-, ML-Schätzung, Bestimmtheitsmaß) Hypothesentests (t-test, F -Test) Prognose 132

4 4.1 Spezifikation Beispiel: (I) Schätzung einer Produktionsfunktion für Gerste Exogene Variablen (Düngemitteleinsätze): Phosphat p (in kg/ha) Stickstoff n (in kg/ha) Endogene Variable (Output): Gerste g (in 100kg/ha) 133

5 Beispiel: (II) Stichprobenumfang: 30 Beobachtungen (Parzellen) Ökonomisches Modell: g = f(p, n) (grundlegender Wirkungszusammenhang) Nächster Schritt: Funktionale Spezifikation 134

6 Erhobener Datensatz i p i n i g i i p i n i g i

7 1. Funktionale Form (A-Annahmen) Spezifikation in 3 Schritten: 1. Schritt: (I) Möglicher Wirkungszusammenhang: g = α + β 1 p + β 2 n (α, β 1, β 2 unbekannte Parameter) Nachteil: keine abnehmenden Grenzerträge 136

8 1. Schritt: (II) Realistischer: g = Ap β 1n β 2 mit Parametern A, β 1, β 2 (Cobb-Douglas-Produktionsfunktion) Nachteil: Zusammenhang ist nicht linear Ausweg: Logarithmieren Definiere ln(g) = ln(a) + β 1 ln(p) + β 2 ln(n) y ln(g), x 1 ln(p), x 2 ln(n), α ln(a) Lineares Modell y = α + β 1 x 1 + β 2 x 2 137

9 Logarithmierter Datensatz i x 1i x 2i y i i x 1i x 2i y i [ln(p i )] [ln(n i )] [ln(g i )] [ln(p i )] [ln(n i )] [ln(g i )]

10 2. und 3. Schritt: Das ökonometrische Modell lautet für i = 1,..., 30: y i = α + β 1 x 1i + β 2 x 2i + u i Jetzt: Allgemeine Formulierung des multiplen linearen Regressionsmodells mit K exogenen Variablen y i = α + β 1 x 1i + β 2 x 2i β K x Ki + u i für i = 1,..., N, bzw. ausgeschrieben y 1 = α + β 1 x 11 + β 2 x β K x K1 + u 1 y 2 =. α + β 1 x 12 + β 2 x β K x K2 + u 2 y N = α + β 1 x 1N + β 2 x 2N β K x KN + u N 139

11 Bemerkungen: Die (K + 1) Parameter α, β 1,..., β K heißen Regressionsparameter oder Regressionskoeffizienten Die Zufallsvariable u i ist eine Störgröße Jetzt: Formulierung der klassischen A-, B-, C-Annahmen für das multiple Regressionsmodell 140

12 1. Funktionale Form (A-Annahmen) Annahme A1: Im multiplen Regressionsmodell (Folie 139) fehlen keine relevanten exogenen Variablen und die benutzten exogenen Variablen x 1, x 2,..., x K sind nicht irrelevant Annahme A2: Der wahre Zusammenhang zwischen x 1i, x 2i,..., x Ki und y i ist linear Annahme A3: Die Parameter α, β 1,..., β K sind für alle N Beobachtungen (x 1i, x 2i,..., x Ki, y i ) konstant 141

13 Bemerkung: Die Annahmen A1 bis A3 postulieren, dass das ökonometrische Modell funktional nicht fehlspezifiziert ist 2. Störgrößenspezifikation (B-Annahmen) (I): Annahme B1: Die Störgröße u i hat für alle Beobachtungen i = 1,..., N einen Erwartungswert von Null, d.h. für i = 1,..., N E(u i ) = 0 142

14 2. Störgrößenspezifikation (B-Annahmen) (II): Annahme B2: (Homoskedastie) Die Störgröße u i hat für alle Beobachtungen i = 1,..., N eine konstante Varianz, d.h. für i = 1,..., N gilt V ar(u i ) = σ 2 Annahme B3: (Keine Autokorrelation) Die Störgröße u i ist nicht autokorreliert, d.h. für alle i = 1,..., N und j = 1,..., N mit i = j gilt Cov(u i, u j ) = 0 Annahme B4: Die Störgrößen u i sind normalverteilt, d.h. u i N(0, σ 2 ) 143

15 Bemerkung: B1 bis B4 besagen, dass die N Störgrößen u 1,..., u N die gleiche Wahrscheinlichkeitsverteilung besitzen (nämlich u i N(0, σ 2 )) und alle unabhängig voneinander sind 144

16 3. Variablenspezifikation (C-Annahmen) Annahme C1: Die exogenen Variablen x 1i,..., x Ki sind keine Zufallsvariablen, sondern können wie in einem Experiment kontrolliert werden Annahme C2: (Freiheit von perfekter Multikollinearität) Es existieren keine Parameterwerte γ 0, γ 1,..., γ K (wobei mindestens ein γ k = 0), so dass zwischen den exogenen Variablen x 1i,..., x Ki die lineare Beziehung für alle i = 1, 2,..., N gilt γ 0 + γ 1 x 1i γ K x Ki = 0 145

17 Bemerkung: (Perfekte Multikollinearität) Betrachte Zweifachregression y i = α + β 1 x 1i + β 2 x 2i + u i Wenn C2 verletzt ist, gibt es γ 0, γ 1, γ 2 mit und damit γ 0 + γ 1 x 1i + γ 2 x 2i = 0 x 2i = (γ 0 /γ 2 ) γ }{{} 1 /γ }{{ 2 } δ 0 δ 1 x 1i Es liegt keine Zweifachregression vor, denn y i = (α + β 2 δ 0 ) + (β 1 + β 2 δ 1 )x 1i + u i 146

18 Jetzt: Formulierung des multiplen linearen Regressionsmodells von Folie 139 in Matrixschreibweise Setze dazu: y = y 1 y 2. y N 1 x 11 x K1, X = 1 x 12 x K x 1N x KN, β = α β 1. β K, u = u 1 u 2. u N Matrixschreibweise: y = Xβ + u 147

19 Ausgeschrieben: y 1 y 2. y N = 1 x 11 x K1 1 x 12 x K x 1N x KN α β 1. β K + u 1 u 2. u N Jetzt: Formulierung der A-, B-, C-Annahmen in Matrixdarstellung 148

20 1. Funktionale Form (A-Annahmen) Annahme A1: Im multiplen Regressionsmodell fehlen keine relevanten exogenen Variablen und die benutzten exogenen Variablen (Spalten der X-Matrix) sind nicht irrelevant Annahme A2: Der wahre Zusammenhang zwischen X und y ist linear Annahme A3: Der Parametervektor β ist für alle N Beobachtungen (x i, y i ) konstant 149

21 2. Störgrößenspezifikation (B-Annahmen) (I) Annahme B1: E(u) = 0 N 1 Zwischenbemerkungen: (I) Betrachte die (N N)-Matrix uu mit Erwartungswert E(uu ) = E = u 1 u 1 u 1 u 2 u 1 u N u 2 u 1 u 2 u 2 u 2 u N... u N u 1 u N u 2 u N u N E(u 2 1 ) E(u 1u 2 ) E(u 1 u N ) E(u 2 u 1 ) E(u 2 2 ) E(u 2u N )... E(u N u 1 ) E(u N u 2 ) E(u 2 N ) 150

22 Zwischenbemerkungen: (II) Wegen B1 gilt E(u i ) = 0 bzw. E(u j ) = 0 und damit { E{[ui E(u E(u i u j ) = i )][u j E(u j )]} = Cov(u i, u j ), für i j E{[u i E(u i )][u i E(u i )]} = V ar(u i ), für i = j Hieraus folgt E(uu ) = V ar(u 1 ) Cov(u 1, u 2 ) Cov(u 1, u N ) Cov(u 2, u 1 ) V ar(u 2 ) Cov(u 2, u N )... Cov(u N, u 1 ) Cov(u N, u 2 ) V ar(u N ) = Cov(u) 151

23 Definition 4.1: (Varianz-Kovarianz-Matrix) Die Matrix E(uu ) = Cov(u), die sowohl die Varianzen sämtlicher Störgrößen als auch alle Kovarianzen zwischen den Störgrößen enthält, wird als Varianz-Kovarianz-Matrix des multiplen Regressionsmodells bezeichnet. Zwischenbemerkungen: (III) Gilt nun V ar(u i ) = σ 2 für alle i = 1,..., N (Annahme B2, vgl. Folie 143) sowie Cov(u i, u j ) = 0 für alle i = 1,..., N und j = 1,..., N mit i = j (Annahme B3, vgl. Folie 143), so folgt für die Varianz-Kovarianz-Matrix σ Cov(u) = 0 σ σ 2 = σ = σ2 I N 152

24 2. Störgrößenspezifikation (B-Annahmen) (II) Annahmen B2 und B3: Cov(u) = σ 2 I N Annahme B4: Der Störgrößenvektor u ist multivariat normalverteilt mit u N(0 N 1, σ 2 I N ) 153

25 3. Variablenspezifikation (C-Annahmen) (I) Annahme C1: Keines der Elemente der (N [K + 1])-Matrix X ist eine Zufallsvariable Zwischenbemerkungen: (I) Die X-Matrix lässt sich wie folgt zerlegen: X = [x 0 x 1 x K ] mit x , x 1 x 11 x 12. x 1N,, x K x K1 x K2. x KN 154

26 Zwischenbemerkungen: (II) Die Spaltenvektoren x 1,..., x K repräsentieren jeweils die N Beobachtungen der K exogenen Variablen Gilt rang(x) = K + 1, so sind die Spaltenvektoren x 0, x 1,..., x K linear unabhängig (vgl. Definitionen 2.7, 2.8 auf den Folien 32, 33) 3. Variablenspezifikation (C-Annahmen) (II) Annahme C2: (Freiheit von perfekter Multikollinearität) rang(x) = K

27 4.2 (Punkt)Schätzung Für die KQ-Schätzung im multiplen linearen Regressionsmodell: Ökonometrisches Modell: y = Xβ + u y i = α + β 1 x 1i + β 2 x 2i β K x Ki + u i Geschätztes Modell: Residuen: ŷ = X β ŷ i = ˆα + ˆβ 1 x 1i + ˆβ 2 x 2i ˆβ K x Ki û = y ŷ û i = y i ŷ i 156

28 Jetzt: Bestimmung des KQ-Schätzers β im multiplen Modell Herleitung: (I) Residualquadratsumme in Matrixschreibweise: Sûû = û û = N û 2 i i=1 157

29 Herleitung: (II) Wegen û = y X β û i = y i ˆα ˆβ 1 x 1i... ˆβ K x Ki folgt: Sûû = ( y X β ) ( y X β ) = N i=1 ( yi ˆα ˆβ 1 x 1i... ˆβ K x Ki ) 2 158

30 Herleitung: (IV) Minimierungsbedingungen lauten: Sûû β = (Normalengleichungen) Sûû / ˆα Sûû / ˆβ 1. Sûû / ˆβ K = 0 (K+1) 1 159

31 Herleitung: (VI) Berechung des Gradienten: (siehe Übung) Sûû β = β ( y X β ) ( y X β ) = β y y β 2y X β + β β X X β = 2X y + 2X X β Normalengleichungssystem: KQ-Schätzer: X X β = X y β = ( X X ) 1 X y 160

32 Ausführliche Schreibweise: X X = x 11. x 12.. x 1N. 1 x 11 x K1 1 x 12 x K2... x K1 x K2. x KN 1 x 1N x KN = N Ni=1 x 1i Ni=1 x Ni=1 1i x1i 2... Ni=1 x Ni=1 Ki x Ki x 1i. Ni=1 x Ki Ni=1 x 1i x Ki. Ni=1 x 2 Ki, X y = x 11. x 12.. x 1N. x K1 x K2. x KN y 1 y 2. y N = Ni=1 y i Ni=1 x 1i y i. Ni=1 x Ki y i 161

33 Illustration: (Düngemittelbeispiel) (I) Aus den N = 30 Daten von Folie 138 errechnet man: N = 30, 30 i=1 x 1i = 96.77, 30 i=1 x 2i = i=1 30 i=1 y i = , x 1i y i = , 30 i=1 x 2 1i = , 30 i=1 x 2 2i = , 30 i=1 x 1i x 2i = i=1 x 2i y i =

34 Illustration: (Düngemittelbeispiel) (II) Somit folgt: β = = = ˆα ˆβ 1 ˆβ 2 163

35 EViews-Output für die Düngemittelregression Dependent Variable: Y Method: Least Squares Date: 07/12/04 Time: 15:16 Sample: 1 30 Included observations: 30 Variable Coefficient Std. Error t-statistic Prob. C X X R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criterion Sum squared resid Schwarz criterion Log likelihood F-statistic Durbin-Watson stat Prob(F-statistic)

36 Jetzt: Bestimmtheitsmaß R 2 bei multipler Regression Weiterhin gilt: Streuungszerlegung S yy = Sŷŷ + Sûû (vgl. Satz 3.6, Folie 96) Definition des multiplen Bestimmtheitsmaßes: R 2 = S ŷŷ S yy = S yy Sûû S yy = 1 S ûû S yy (vgl. Def. 3.7, Folie 97) 165

37 Jetzt: Explizite Berechnung des multiplen Bestimmtheitsmaßes Satz 4.2: (Formel für das R 2 ) Für das multiple Bestimmtheitsmaß R 2 gilt: R 2 = S ŷŷ S yy = y X(X X) 1 X y Ny 2 y y Ny 2 = y X β Ny 2 y y Ny 2. Bemerkungen: Herleitung: Von Auer (2007) Vgl. auch Übung 166

38 Illustration: (Düngemittelbeispiel) (I) Aus den N = 30 Daten von Folie 138 errechnet man: N = 30, y = , y y = X y = i=1, β = y 2 i =

39 Illustration: (Düngemittelbeispiel) (II) Daraus folgt y X β = [ ] = und somit R 2 = =

40 Bemerkungen: Rundungsfehler Aufnahme zusätzlicher X-Variablen führt (fast) immer zur Erhöhung des R 2 Adjustiertes Bestimmtheitsmaß: Radj 2 = 1 (1 N 1 R2 ) N K 1 Jetzt: Eigenschaften des KQ-Schätzers β = (X X) 1 X y 169

41 Satz 4.3: (Erwartungstreue des KQ-Schätzers) Unter den A-, B-, C-Annahmen (ohne B4) ist der KQ-Schätzer β = (X X) 1 X y erwartungstreu für β, d.h. E ( β ) = β. Für die Varianz-Kovarianz-Matrix des KQ-Schätzers gilt: Cov ( β ) = σ 2 ( X X )

42 Bemerkungen: (I) Im Detail besagt die Erwartungstreue E(ˆα) = α, E(ˆβ 1 ) = β 1,... E(ˆβ K ) = β K Zur Herleitung der Erwartungstreue sowie der Kovarianzmatrix von β vgl. Übung Spezialfall der Einfachregression (K = 1): X = 1 x x N, X X = [ N Ni=1 x i Ni=1 x i Ni=1 x 2 i ] 171

43 Bemerkungen: (II) Inverse einer (2 2)-Matrix: A = [ a11 a 12 a 21 a 22 ], A 1 1 = a 11 a 22 a 12 a 21 [ a22 a 12 a 21 a 11 ] Berechnung von [ Cov( β) V ar(ˆα) Cov(ˆα, ˆβ) = Cov(ˆα, ˆβ) V ar(ˆβ) (vgl. Satz 4.3, Folie 170; Übung) ] = σ 2 (X X) 1 172

44 Satz 4.4: (Gauß-Markov-Theorem) Unter den A-, B-, C-Annahmen (ohne B4) ist der KQ-Schätzer β = (X X) 1 X y der beste lineare unverzerrte Schätzer für den Parametervektor β. (BLUE = Best Linear Unbiased Estimator) Bemerkungen: Bedeutung von BLUE im multiplen Fall? Es sei β ein anderer linearer E-treuer Schätzer für β Cov( β ) Cov( β) ist positiv semidefinit (vgl. Definition 2.13, Folie 47) 173

45 Verteilung von y: (I) Zunächst y = Xβ + u, d.h. y ist eine lineare Funktion von u Aufgrund der B-Annahmen gilt u N(0 N 1, σ 2 I N ) auch y ist multivariat normalverteilt 174

46 Verteilung von y: (II) Erwartungswertvektor von y: Kovarianzmatrix von y: E(y) = E(Xβ + u) = E(Xβ) + E(u) = Xβ Cov(y) = Cov(Xβ + u) = Cov(u) = σ 2 I N Also gilt: y N(Xβ, σ 2 I N ) 175

47 Verteilung von β: (I) Zunächst β = (X X) 1 X y, d.h. β ist eine lineare Funktion von y Verteilung von y y N(Xβ, σ 2 I N ) (vgl. Folie 175) auch β ist multivariat normalverteilt 176

48 Verteilung von β: (II) Erwartungswertvektor und Kovarianzmatrix von β sind E ( β ) = β, Cov ( β ) = σ 2 (X X) 1 (vgl. Satz 4.3, Folie 170) Also gilt: β N(β, σ 2 (X X) 1 ) Für die Einzelkomponenten von β gilt ˆα N(α, V ar(ˆα)) bzw. ˆβ k N(β k, V ar(ˆβ k )), mit V ar(ˆα) bzw. V ar(ˆβ k ) als den entsprechenden Diagonalelementen von σ 2 (X X) 1 177

49 Problem erneut: Störtermvarianz σ 2 ist unbekannt Cov( β) = σ 2 (X X) 1 kann nicht berechnet werden (vgl. Einfachregression, Folien 91 ff.) Satz 4.5: (E-treuer Schätzer für σ 2 ) Ein erwartungstreuer Schätzer für die unbekannte Störtermvarianz σ 2 ist gegeben durch ˆσ 2 = 1 N K 1 N i=1 û 2 i = û û N K

50 Bemerkungen: Man zeige die Erwartungstreue, d.h. E(ˆσ 2 ) = σ 2, mittels der Beziehung (vgl. Übung) û = y ŷ = y X β = y X(X X) 1 X y = [ I N X(X X) 1 X ] y Von besonderer Bedeutung: M I N X(X X) 1 X (Residuen-Erzeugungsmatrix) 179

51 EViews-Output für die Düngemittelregression Dependent Variable: Y Method: Least Squares Date: 07/12/04 Time: 15:16 Sample: 1 30 Included observations: 30 Variable Coefficient Std. Error t-statistic Prob. C X X R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criterion Sum squared resid Schwarz criterion Log likelihood F-statistic Durbin-Watson stat Prob(F-statistic)

52 Illustration: (Düngemittelbeispiel) (I) Sum squared resid = û û = = ˆσ 2 = û û N K 1 = = S.E. of regression = û û N K 1 = ˆσ 2 = ˆσ = ˆσ 2 = und Hauptdiagonalelemente von ˆσ 2 (X X) 1 liefern die geschätzten Varianzen V ar(ˆα), V ar(ˆβ 1 ), V ar(ˆβ 2 ) 181

53 Illustration: (Düngemittelbeispiel) (II) ˆσ = und die Wurzeln der Hauptdiagonalelemente von ˆσ 2 (X X) 1 liefern die Standardfehler der KQ-Schätzer SE(ˆα) = SE(ˆβ 1 ) = SE(ˆβ 2 ) =

54 4.3 Hypothesentests 2 Arten von Hypothesentests: t-tests (Tests basierend auf der t-verteilung) F -Tests (Tests basierend auf der F -Verteilung) 183

55 Zunächst: Testen einer Linearkombination von Parametern In der Einfachregression hatten wir H 0 : β = q gegen H 1 : β q Im multiplen Modell betrachten wir H 0 : r 0 α + r 1 β r K β K = q H 1 : r 0 α + r 1 β r K β K q bzw. mit r = [ ] r 0 r 1 r K H 0 : H 1 : r β = q r β q 184

56 Illustration: (Düngemittelbeispiel) Test auf konstante Skalenerträge: also β = α β 1 β 2, r = zum Signifikanzniveau a = 5% 0 1 1, q = 1 H 0 : r β = β 1 + β 2 = 1 H 1 : r β = β 1 + β 2 = 1 185

57 Geeignete Teststatistik: (I) T = r β q SE(r β) Form des Standardfehlers SE(r β): V ar(r β) = r Cov( β)r = σ 2 r (X X) 1 r = SE(r β) = V ar(r β) = ˆσ 2 r (X X) 1 r mit ˆσ 2 = û û N K 1 = 1 N K 1 N û 2 i i=1 186

58 Geeignete Teststatistik: (II) Verteilung von T unter Gültigkeit von H 0 : r β = q: T (unter H 0) t N K 1 (t Verteilung mit N K 1 Freiheitsgraden) Kritischer Bereich: (, t N K 1;1 a/2 ] [t N K 1;1 a/2, + ) d.h. lehne H 0 ab, falls T t N K 1;1 a/2 187

59 EViews-Output für die Düngemittelregression Dependent Variable: Y Method: Least Squares Date: 07/12/04 Time: 15:16 Sample: 1 30 Included observations: 30 Variable Coefficient Std. Error t-statistic Prob. C X X R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criterion Sum squared resid Schwarz criterion Log likelihood F-statistic Durbin-Watson stat Prob(F-statistic)

60 Berechnung der Teststatistik: r β = [ ] ˆα ˆβ 1 ˆβ 2 = ˆβ 1 + ˆβ 2 = = Standardfehler der Teststatistik: SE(r β) = SE(ˆβ 1 + ˆβ 2 ) = = V ar(ˆβ 1 ) + V ar(ˆβ 2 ) + 2Ĉov(ˆβ 1, ˆβ 2 ) ( ) 2 + ( ) = =

61 T = r β q = SE(r β) = Testentscheidung: T = < = t 27;0.975 H 0 kann nicht abgelehnt werden (konstante Skalenerträge sind mit den Daten vereinbar) 190

62 Spezialfälle des allgemeinen t-tests: (I) Betrachte die K + 1 Vektoren 1 0 r 0 = 0., r 1 = ,..., r K = , q = 0 Testprobleme H 0 : α = 0 gegen H 1 : α = 0 H 0 : β 1 = 0 gegen H 1 : β 1 0. H 0 : β K = 0 gegen H 1 : β K = 0 191

63 Spezialfälle des allgemeinen t-tests: (II) Teststatistiken: T α = r 0 β SE(r 0 β) = ˆα SE(ˆα) T β1 =. T βk = r 1 β SE(r 1 β) = ˆβ 1 SE(ˆβ 1 ) r K β SE(r K β) = ˆβ K SE(ˆβ K ) 192

64 EViews-Output für die Düngemittelregression Dependent Variable: Y Method: Least Squares Date: 07/12/04 Time: 15:16 Sample: 1 30 Included observations: 30 Variable Coefficient Std. Error t-statistic Prob. C X X R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criterion Sum squared resid Schwarz criterion Log likelihood F-statistic Durbin-Watson stat Prob(F-statistic)

65 EViews-Output: t-statistic = Koeffizientenschätzung Standardfehler des Koeffizientenschätzers Prob. = p-wert des t-tests (Kleinstes Signifikanzniveau zur Ablehnung von H 0 ) Einseitiger (linksseitiger) t-test: H 0 : r β q gegen H 1 : r β < q Teststatistik T = r β q SE(r β) Lehne H 0 zum Niveau a ab, falls T < t N K 1;1 a 194

66 Jetzt: Simultanes Testen mehrerer Parameterbeziehungen (F -Test) Lineares multiples Regressionsmodell: y = X β + u (N 1) (N [K+1]) ([K+1] 1) (N 1) Null- und Alternativhypothese: H 0 : H 1 : Rβ = q Rβ = q mit R einer (L [K + 1])-Matrix und q einem (L 1)-Vektor 195

67 Beispiele: (I) H 0 : β 1 = β 2 =... = β K = 0 R = , q = = 0 L H 0 : β β K = 1 und gleichzeitig β 1 = 2β 2 [ ] [ R =, q = ] 196

68 Beispiele: (II) H 0 : β 1 = 5 und gleichzeitig β 2 =... = β K = 0 R = , q =

69 Grundidee des F -Tests: (I) Vergleiche Residualquadratsumme des Regressionsmodells Sûû = û û = N ûi 2 i=1 mit Residualquadratsumme des Nullhypothesenmodells Sû0û 0 = (û 0 ) û 0 = N (û 0 i )2 i=1 (û 0 ist der Residualvektor, der sich bei der KQ-Schätzung unter Berücksichtigung von H 0 ergibt) 198

70 Grundidee des F -Tests: (II) Es muss immer gelten Sû0û 0 Sûû Die Nullhypothese ist vermutlich falsch, falls Sû0û 0 >> Sûû 199

71 Durchführung des Tests: (I) Geeignete Teststatistik: ( ) Sû0û 0 Sûû /L F = = Sûû /(N K 1) [ R β q ] [ R(X X) 1 R ] 1 [ R β q ] û û/(n K 1) Verteilung von F unter Gültigkeit von H 0 : Rβ = q: F (unter H 0) F L,N K 1 (F Verteilung mit L und N K 1 Freiheitsgraden) 200

72 Durchführung des Tests: (II) Kritischer Bereich zum Signifikanzniveau a: [F L,N K 1;1 a, + ) d.h. lehne H 0 zum Niveau a ab, falls F F L,N K 1;1 a [(1 a)-quantil der F L,N K 1 -Verteilung] 201

73 EViews-Output für die Düngemittelregression Dependent Variable: Y Method: Least Squares Date: 07/12/04 Time: 15:16 Sample: 1 30 Included observations: 30 Variable Coefficient Std. Error t-statistic Prob. C X X R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criterion Sum squared resid Schwarz criterion Log likelihood F-statistic Durbin-Watson stat Prob(F-statistic)

74 EViews-Output: F-statistic = F -Test für das Testproblem H 0 : β 1 = β 2 =... = β K = 0 Prob(F-statistic) = p-wert des F -Tests (Kleinstes Signifikanzniveau zur Ablehnung von H 0 ) 203

75 4.4 Prognose Ziel: Bedingte Prognose des endogenen Wertes y 0 bei gegebenen Werten der K exogenen Variablen x 10, x 20,..., x K0 (vgl. Prognose der Einfachregression, Abschnitt 3.4) 204

76 Dafür: (I) Es seien x 0 = [ 1 x 10 x 20 x K0 ] der Vektor der exogenen Variablen und β = (X X) 1 X y der KQ-Schätzer des multiplen Regressionsmodells Bedingte Punktprognose: ŷ 0 = x 0 β Prognosefehler: ŷ 0 y 0 = x 0 β x 0 β u 0 = x 0 ( β β ) u 0 205

77 Dafür: (II) Varianz des Prognosefehlers: V ar(ŷ 0 y 0 ) = σ 2 ( 1 + x 0 (X X) 1 x 0 ) Geschätzte Varianz des Prognosefehlers: V ar(ŷ 0 y 0 ) = ˆσ 2 ( 1 + x 0 (X X) 1 ) x 0 mit ˆσ 2 = û û/(n K 1) Standardfehler des Prognosefehlers: SE(ŷ 0 y 0 ) = V ar(ŷ 0 y 0 ) 206

78 Jetzt: Konstruktion eines (1 a)-prognoseintervalls über die Standardisierung des Prognosefehlers (vgl. Folie 125) Man kann zeigen, dass =0 T = (ŷ {}}{ 0 y 0 ) E (ŷ 0 y 0 ) SE(ŷ 0 y 0 ) T t N K 1 (t-verteilung mit N K 1 Freiheitsgraden) (1 a)-prognoseintervall: [ŷ 0 t N K 1;1 a/2 SE(ŷ 0 y 0 ), ŷ 0 +t N k 1;1 a/2 SE(ŷ 0 y 0 )] 207