Beispiel: Multiples Modell/Omitted Variable Bias I

Transkript

1 4 Multiple lineare Regression Konfidenzintervalle und Tests 4.3 Beispiel: Multiples Modell/Omitted Variable Bias I Beispieldatensatz mit Daten zur Lohnhöhe (y i ), zu den Ausbildungsjahren über den Hauptschulabschluss hinaus (x 1i ) sowie zum Alter in Jahren (x 2i ) von n = 20 Mitarbeitern eines Betriebs: i Lohnhöhe y i Ausbildung x 1i Alter x 2i i Lohnhöhe y i Ausbildung x 1i Alter x 2i (vgl. von Auer, Ludwig: Ökonometrie Eine Einführung, 6. Aufl., Tabelle 13.1) Es soll nun angenommen werden, dass das multiple lineare Regressionsmodell y i = β 0 + β 1 x 1i + β 2 x 2i + u i, u i iid N(0, σ 2 ), i {1,..., 20}, mit den üblichen Annahmen korrekt spezifiziert ist. Ökonometrie (SS 2018) Folie 205

2 4 Multiple lineare Regression Konfidenzintervalle und Tests 4.3 Beispiel: Multiples Modell/Omitted Variable Bias II Zunächst wird (fälschlicherweise!) die Variable Alter (x 2i ) weggelassen und die Lohnhöhe (y i ) nur mit der Variable Ausbildung (x 1i ) erklärt: Call: lm(formula = Lohnhöhe ~ Ausbildung) Residuals: Min 1Q Median 3Q Max Coefficients: Estimate Std. Error t value Pr(> t ) (Intercept) e-11 *** Ausbildung *** --- Signif. codes: 0 '***' '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1 Residual standard error: on 18 degrees of freedom Multiple R-squared: , Adjusted R-squared: F-statistic: on 1 and 18 DF, p-value: Ökonometrie (SS 2018) Folie 206

3 4 Multiple lineare Regression Konfidenzintervalle und Tests 4.3 Beispiel: Multiples Modell/Omitted Variable Bias III Danach wird das korrekte, vollständige Modell geschätzt: Call: lm(formula = Lohnhöhe ~ Ausbildung + Alter) Residuals: Min 1Q Median 3Q Max Coefficients: Estimate Std. Error t value Pr(> t ) (Intercept) e-06 *** Ausbildung ** Alter * --- Signif. codes: 0 '***' '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1 Residual standard error: on 17 degrees of freedom Multiple R-squared: , Adjusted R-squared: F-statistic: on 2 and 17 DF, p-value: Ökonometrie (SS 2018) Folie 207

4 4 Multiple lineare Regression Konfidenzintervalle und Tests 4.3 Beispiel: Multiples Modell/Omitted Variable Bias IV Geschätzte Regressionsebene mit Residuen Lohnhöhe y i Alter x 2i Ausbildung x 1i Ökonometrie (SS 2018) Folie 208

5 4 Multiple lineare Regression Konfidenzintervalle und Tests 4.3 Beispiel: Multiples Modell/Omitted Variable Bias V Gegenüberstellung der Schätzergebnisse: falsches Modell korrektes Modell Absolutglied β σ β Ausbildung β σ β Alter β σ β û û SER R R Ökonometrie (SS 2018) Folie 209

6 4 Multiple lineare Regression Konfidenzintervalle und Tests 4.3 Beispiel: Multiples Modell/Omitted Variable Bias VI Die Regressoren x 1i (Ausbildungsjahre) und x 2i (Alter) sind positiv korreliert, es gilt (mit den Bezeichnungen von Folie 191) genauer s 12 = bzw. s = = s11 s Außerdem hat der Regressor Alter (neben dem Regressor Ausbildung ) im korrekten Modell einen signifikanten Regressionskoeffizienten. Im Modell mit ausgelassener Variablen x 2i (Alter) spiegelt der geschätzte Koeffizient zum Regressor Ausbildung damit nicht den isolierten Effekt der Ausbildung wider, sondern einen kombinierten Effekt. Wie man zeigen (und im Beispiel leicht nachrechnen) kann, erhält man (analog zum Resultat von Folie 184) durch β 1 + s 12 β2 = = s aus den Schätzergebnissen des korrekten Modells den Punktschätzer für β 1 im falschen Modell mit ausgelassenem Regressor. Ökonometrie (SS 2018) Folie 210

7 4 Multiple lineare Regression Konfidenzintervalle und Tests 4.3 Beispiel: Multiples Modell/Omitted Variable Bias VII Auch die Punkt- und Intervallschätzung von β 0 sowie Hypothesentests für die Regressionsparameter unterliegen im Modell mit ausgelassener Variablen vergleichbaren Verzerrungen. Geht man fälschlicherweise davon aus, die Annahmen des linearen Regressionsmodell im Modell mit ausgelassenem Regressor erfüllt und mit der Modellschätzung den isolierten Effekt des Regressors Ausbildung gemessen zu haben, so führt dies zu verzerrten Punktschätzern, verschobenen und in der Breite verzerrten Konfidenzintervallen sowie wertlosen Hypothesentests für den isolierten Effekt (da man tatsächlich einen kombinierten Effekt gemessen hat). Ökonometrie (SS 2018) Folie 211

8 4 Multiple lineare Regression Punkt- und Intervallprognosen 4.4 Punkt- und Intervallprognosen I Wie im einfachen linearen Regressionsmodell: Erweiterung der Modellannahme y i = β 0 + β 1 x 1i β K x Ki + u i, u i iid N(0, σ 2 ), i {1,..., n} auf (zumindest) einen weiteren Datenpunkt (y 0, x 10,..., x K0 ), bei dem jedoch y 0 nicht beobachtet wird, sondern lediglich die Werte der Regressoren x 10,..., x K0 bekannt sind. Ziel ist wiederum die Prognose von y 0 = β 0 + β 1 x β K x K0 + u 0 bzw. E(y 0 ) = β 0 + β 1 x β K x K0 auf Grundlage von x 10,..., x K0. Hierzu definiert man wie im einfachen linearen Modell mit ŷ 0 := β 0 + β 1 x β K x K0 bzw. Ê(y 0 ) := β 0 + β 1 x β K x K0 die (bedingte) Punktprognose ŷ 0 für y 0 gegeben x 10,..., x K0 bzw. die (bedingte) Punktprognose Ê(y 0) für E(y 0 ) gegeben x 10,..., x K0. Ökonometrie (SS 2018) Folie 212

9 4 Multiple lineare Regression Punkt- und Intervallprognosen 4.4 Punkt- und Intervallprognosen II Die Untersuchung der Eigenschaften der bedingten Punktprognosen vereinfacht sich durch die Definition des Vektors x 0 = [ 1 x 10 x K0, der (transponiert) analog zu einer Zeile der Regressormatrix X aufgebaut ist. Für die (bedingte) Punktprognose für y 0 bzw. E(y 0 ) gegeben x 0 erhält man so die kompakte Darstellung ŷ 0 = x 0 β bzw. Ê(y0 ) = x 0 β. Die Erwartungstreue der (bedingten) Punktprognosen ergibt sich damit unmittelbar aus der Erwartungstreue von β für β und E(u 0 ) = 0: E(x 0 β) = x0 E( β) = x 0 β = E(y 0 ) [ = E(E(y 0 )) Ökonometrie (SS 2018) Folie 213

10 4 Multiple lineare Regression Punkt- und Intervallprognosen 4.4 Punkt- und Intervallprognosen III Wie im einfachen linearen Modell resultiert der Prognosefehler e E := Ê(y 0) E(y 0 ) = x 0 β x0 β = x 0 ( β β) nur aus dem Fehler bei der Schätzung von β durch β, während e 0 := ŷ 0 y 0 = x 0 β (x0 β + u 0 ) = x 0 ( β β) u 0 zusätzlich die zufällige Schwankung von u 0 N(0, σ 2 ) enthält. Für die Varianz des Prognosefehlers e E erhält man (da E(Ê(y 0) E(y 0 )) = 0) σ 2 e E := Var(e E ) = Var(Ê(y 0) E(y 0 )) = E [[x 0 ( β β) 2 [ (!) = E (x 0 ( β β))(x 0 ( β β)) = E [x 0 ( β β)( β β) x 0 = x 0 V( β)x 0 = σ 2 x 0 (X X) 1 x 0. Ökonometrie (SS 2018) Folie 214

11 4 Multiple lineare Regression Punkt- und Intervallprognosen 4.4 Punkt- und Intervallprognosen IV Für die Varianz des Prognosefehlers e 0 erhält man (wegen E(ŷ 0 y 0 ) = 0, E( β β) = 0 und E(u 0 ) = 0) σe 2 0 := Var(e 0 ) = Var(ŷ 0 y 0 ) = E [[x 0 ( β β) u 0 2 [ = E [x 0 ( β β) 2 2x 0 ( β β)u 0 + u0 2 = E [[x 0 ( β β) 2 2x 0 E [( β β)u 0 } {{ } } {{ } =σ 2 x 0 (X X) 1 x 0 = σ 2 [ 1 + x 0 (X X) 1 x 0. =Cov( β β,u 0)=0 + E(u 2 0) }{{} =σ 2 Ökonometrie (SS 2018) Folie 215

12 4 Multiple lineare Regression Punkt- und Intervallprognosen 4.4 Punkt- und Intervallprognosen V Wegen der Linearität von ŷ 0 bzw. Ê(y 0) in β überträgt sich die Normalverteilungseigenschaft von β auf ŷ 0 bzw. Ê(y 0), es gilt also ŷ 0 N ( y 0, σ 2 e 0 ) bzw. Ê(y 0 ) N ( E(y 0 ), σ 2 e E ). Wie im einfachen linearen Regressionsmodell muss das unbekannte σ 2 durch σ 2 geschätzt werden, mit σ 2 e 0 := σ 2 [ 1 + x 0 (X X) 1 x 0 bzw. σ2 ee := σ 2 x 0 (X X) 1 x 0 erhält man mit σ e0 := σ2 e0 und σ ee := σ2 ee die Verteilungsaussagen ŷ 0 y 0 σ e0 t(n (K + 1)) bzw. Ê(y 0 ) E(y 0 ) σ ee t(n (K + 1)), aus denen sich Prognoseintervalle für y 0 und E(y 0 ) konstruieren lassen. Ökonometrie (SS 2018) Folie 216

13 4 Multiple lineare Regression Punkt- und Intervallprognosen 4.4 Punkt- und Intervallprognosen VI Intervallprognosen für y 0 zur Vertrauenswahrscheinlichkeit 1 α erhält man also in der Form [ ŷ 0 t n (K+1);1 α 2 σ e 0, ŷ 0 + t n (K+1);1 α 2 σ e 0 = [ x 0 β tn (K+1);1 α 2 σ 1+x 0 (X X) 1 x 0, x 0 β+tn (K+1);1 α 2 σ 1+x 0 (X X) 1 x 0 Intervallprognosen für E(y 0 ) zur Vertrauenswahrscheinlichkeit 1 α (auch interpretierbar als Konfidenzintervalle zum Konfidenzniveau 1 α für E(y 0 )) erhält man entsprechend in der Form [Ê(y0 ) t n (K+1);1 α 2 σ e E, Ê(y 0) + t n (K+1);1 α 2 σ e E = [ x 0 β tn (K+1);1 α 2 σ x 0 (X X) 1 x 0, x 0 β+tn (K+1);1 α 2 σ x 0 (X X) 1 x 0.. Ökonometrie (SS 2018) Folie 217

14 4 Multiple lineare Regression Punkt- und Intervallprognosen 4.4 Punkt- und Intervallprognosen VII Eine Punktprognose für die (erwartete) Lohnhöhe eines 38-jährigen Mitarbeiters, der nach dem Hauptschulabschluss weitere 4 Ausbildungsjahre absolviert hat, erhält man im geschätzten Modell aus Folie 207 mit x 0 = [ als ŷ 0 = Ê(y [ 0) = x 0 β = = Im Beispiel aus Folie 207 gilt weiterhin (X X) 1 = und σ = Ökonometrie (SS 2018) Folie 218

15 4 Multiple lineare Regression Punkt- und Intervallprognosen 4.4 Punkt- und Intervallprognosen VIII Mit x 0 (X X) 1 x 0 = [ = erhält man weiter σ e0 = σ 1 + x 0 (X X) 1 x 0 = = und σ ee = σ x 0 (X X) 1 x 0 = = Ökonometrie (SS 2018) Folie 219

16 4 Multiple lineare Regression Punkt- und Intervallprognosen 4.4 Punkt- und Intervallprognosen IX Insgesamt erhält man für α = 0.05 schließlich das Prognoseintervall [ ŷ 0 t 20 (2+1); σ e0, ŷ t 20 (2+1); σ e0 2 = [ŷ 0 t 17;0.975 σ e0, ŷ 0 + t 17;0.975 σ e0 = [ , = [ , zur Vertrauenswahrscheinlichkeit 1 α = 0.95 für y 0 gegeben x 10 = 4 und x 20 = 38. Entsprechend erhält man für α = 0.05 das Prognoseintervall σ ee [Ê(y0 ) t 20 (2+1); σ ee, Ê(y 0) + t 20 (2+1); = [ , = [ , zur Vertrauenswahrscheinlichkeit 1 α = 0.95 für E(y 0 ) gegeben x 10 = 4 und x 20 = 38. Ökonometrie (SS 2018) Folie 220

17 4 Multiple lineare Regression Tests einzelner linearer Hypothesen 4.5 Tests einzelner linearer Hypothesen I Neben Tests für einzelne Regressionsparameter sind auch Tests (und Konfidenzintervalle) für Linearkombinationen von Regressionsparametern problemlos möglich. Bei Vorliegen der Normalverteilungseigenschaft u i iid N(0, σ 2 ) bzw. u N(0, σ 2 I n ) gilt bekanntlich β N ( β, σ 2 (X X) 1), und auch ohne Normalverteilungsannahme an die u i ist die approximative Verwendung einer (mehrdimensionalen) Normalverteilung für β oft sinnvoll. Damit gilt allerdings nicht nur β k N(β k, σ 2 ) bzw. β k N(βk, σ 2 ) für k {0,..., K}, sondern darüberhinaus, dass jede beliebige Linearkombination der Koeffizientenschätzer β 0, β 1,..., β K (näherungsweise) normalverteilt ist. Ökonometrie (SS 2018) Folie 221

18 4 Multiple lineare Regression Tests einzelner linearer Hypothesen 4.5 Tests einzelner linearer Hypothesen II Tests über einzelne Linearkombinationen von Regressionsparametern lassen sich mit Hilfe von K + 1 Koeffizienten a 0, a 1,..., a K R für die Parameter β 0, β 1,..., β K sowie einem Skalar c R in den Varianten H 0 : H 1 : K a k β k = c H 0 : k=0 K a k β k c H 0 : k=0 K a k β k c vs. vs. vs. K a k β k c K H 1 : a k β k > c K H 1 : a k β k < c k=0 k=0 bzw. in vektorieller Schreibweise mit a := [ a 0 a 1 a K als H 0 : a β = c H 0 : a β c H 0 : a β c k=0 k=0 vs. vs. vs. H 1 : a β c H 1 : a β > c H 1 : a β < c formulieren. Ökonometrie (SS 2018) Folie 222

19 4 Multiple lineare Regression Tests einzelner linearer Hypothesen 4.5 Tests einzelner linearer Hypothesen III Mit den bekannten Rechenregeln für die Momente von Linearkombinationen eines Zufallsvektors (vgl. Folie 50) erhält man zunächst a β N ( a β, σ 2 a (X X) 1 a ) bzw. a β N ( a β, σ 2 a (X X) 1 a ). Ersetzt man die unbekannte Störgrößenvarianz σ 2 wie üblich durch den (erwartungstreuen) Schätzer σ 2, so erhält man die Verteilungsaussage a β a β σ a (X X) 1 a t(n (K + 1)) bzw. a β a β σ t(n (K +1)), a (X X) 1 a woraus sich in gewohnter Weise Konfidenzintervalle und Tests konstruieren lassen. Ökonometrie (SS 2018) Folie 223

20 4 Multiple lineare Regression Tests einzelner linearer Hypothesen 4.5 Zusammenfassung: t-test für einzelne lineare Hypothesen im multiplen linearen Regressionsmodell Anwendungs- exakt: y = Xβ + u mit u N(0, σ 2 I n), voraussetzungen approx.: y = Xβ + u mit E(u) = 0, V(u) = σ 2 I n, σ 2 unbekannt, X deterministisch mit vollem Spaltenrang K + 1, Realisation y = (y 1,..., y n) beobachtet Nullhypothese H 0 : a β = c H 0 : a β c H 0 : a β c Gegenhypothese H 1 : a β c H 1 : a β > c H 1 : a β < c Teststatistik a β c t = σ a (X X) 1 a Verteilung (H 0) t für a β = c (näherungsweise) t(n (K + 1))-verteilt Benötigte Größen β = (X X) 1 X y, σ 2 = û û, wobei û = y X β n (K + 1) Kritischer Bereich (, t n (K+1);1 α 2 ) (t n (K+1);1 α, ) (, t n (K+1);1 α ) zum Niveau α (t n (K+1);1 α 2, ) p-wert 2 (1 F t(n (K+1)) ( t )) 1 F t(n (K+1)) (t) F t(n (K+1)) (t) Ökonometrie (SS 2018) Folie 224