Kurs Empirische Wirtschaftsforschung

Transkript

1 Kurs Empirische Wirtschaftsforschung 5. Bivariates Regressionsmodell 1 Martin Halla Institut für Volkswirtschaftslehre Johannes Kepler Universität Linz 1 Lehrbuch: Bauer/Fertig/Schmidt (2009), Empirische Wirtschaftsforschung: Eine Einführung. Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

2 Das bivariate lineare Regressionsmodell I Annahmen: Es besteht ein linearer Zusammenhang zwischen den beobachtbaren Variablen X und Y. X wirkt auf Y und nicht umgekehrt. Dieser Zusammenhang sei nicht perfekt, d.h. es existieren noch weitere unbeobachtbare Einflussfaktoren, die keinen systematischen Einfluss auf Y haben. Diese Faktoren werden in der Zufallsvariable ε zusammengefasst. Ökonomisches Modell: Y = β 0 + β 1 X + ε (1) Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

3 Das bivariate lineare Regressionsmodell II Wir haben nun für alle Variablen N Beobachtungen aus einer Zufallsstichprobe. Ökonometrisches (stochastisches) Modell: Y i = β 0 + β 1 X i + ε i (i = 1,..., N). (2) X... erklärende oder exogene Variable Y... zu erklärende, abhängige oder auch endogene Variable ε: Störterm/Störgröße des linearen Regressionsmodells Die zu schätzenden Koeffizienten: β 0... Ordinatenabschnitt der Regressionsgerade β 1... Steigungsparameter der Regressionsgerade Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

4 Das bivariate lineare Regressionsmodell III Löst man (3) nach dem Störterm auf folgt: ε i = Y i (β 0 + β 1 X i ) (i = 1,..., N). (3) Y i eine Zufallsvariable ist, da ε i eine Zufallsvariablen ist. Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

5 Das bivariate lineare Regressionsmodell IV P (Y X) r Y Wahrscheinlichkeitsverteilung von Y gegen X α + β X Abbildung: Der Zusammenhang zwischen Y und X im bivariaten linearen Regressionsmodell X Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

6 Das lineare Regressionsmodell als Identifikationsstrategie Die kontrafaktische Frage, die dem (ökonomischen) Modell zugrunde liegt: Wie hoch wäre der Wert von Y i gewesen, wenn X i (ceteris paribus) einen anderen Wert angenommen hätte, d.h. zum Beispiel doppelt so hoch oder halb so hoch gewesen wäre? Da für jede Beobachtungseinheit i nur ein Beobachtungspaar (Y i, X i ) zur Verfügung steht, ist die durch die kontrafaktische Frage implizierte Situation nicht beobachtbar. Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

7 Identifikationsannahmen Im bivariaten Regressionsmodell werden folgende Identifikationsannahmen getroffen: Zwischen der erklärenden Variable X und der abhängigen Variable Y existiert ein linearer Zusammenhang, wobei X auf Y wirkt und nicht umgekehrt. Dieser Zusammenhang gilt nicht nur für alle Beobachtungspaare, sondern auch für Zellen, für die keine Beobachtungen vorliegen. Als Kontrollgruppe für ein Beobachtungspaar dienen alle anderen Beobachtungspaare. Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

8 Identifikationsannahmen Example (Golf-Handicap und Aktienkurs) Studie von Anlageexperten Graef Crystal: Zusammenhang zwischen Aktienkurs und Golfhandicap des jeweiligen Vorstands. Daten zu Handicaps aus Zeitschrift Golf Digest. Index für Aktien, Werte zwischen 100 (erfolgreichste Aktien) und 0 (am wenigsten erfolgreichste Aktie). Siehe Abbildung 5.2. Hypothese: Unternehmen von Managern mit einem sehr niedrigem Handicap (also gute Golfer) sind erfolgreicher. Für jeden Manager steht jedoch nur eine Beobachtungspaar zur Verfügung. Man kann Durchschnittswerte über alle Manager verwenden. Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

9 Zu schätzende Koeffizienten des Modells Die unbekannten Populationsparameter β 0 und β 1 sind unbekannt und werden geschätzt: Ordinatenabschnitt β 0 Gibt an, wie groß Y i wäre, wenn X i = 0 wäre. Steigungsparameter β 1 Gibt den Einfluss einer marginalen Veränderung der Variable X auf die Variable Y an, d.h. Y / X = β 1. Für die Schätzung der Parameter existieren mehrere Schätzmethoden, die sich durch ihre Optimierungsziele unterscheiden. Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

10 Methode der kleinsten Quadrate (Ordinary Least Squares) Optimierungsziel: Minimierung der Summe der quadrierten senkrechten Abstände ε i der Beobachtungspaare (Y i, X i ) von der Gerade. Diese Abstände nennt man Residuen: Optimierungskalkül: ˆε i = Y i Ŷ i = Y i ˆβ 0 ˆβ 1 X i (4) N ˆε 2 i = [Y i ( ˆβ 0 + ˆβ 1 X i )] 2 Min! (5) i=1 ˆβ 0 und ˆβ 1 : Schätzer (Stichprobenwerte) der tatsächlichen, aber unbekannten Parameter β 0 und β 1 ˆε i : Stichprobenwerte der unbekannten Störgröße ε Ŷ i : vorhergesagter (prognostizierter) Wert des Modells für Y i Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

11 Methode der kleinsten Quadrate I Y α + β X = Y β e e α X Abbildung: Das Optimierungsprinzip der Methode der kleinsten Quadrate Minimierung der quadrierten Residuen ˆε i Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

12 Methode der kleinsten Quadrate II Durch partielles Differenzieren und Nullsetzen der Ableitungen erhält man ein System von Normalgleichungen: N i=1 ˆε2 i ˆβ 0 N = 2 (Y i ˆβ 0 ˆβ 1 X i ) = 0 (6) i=1 N i=1 ˆε2 i ˆβ 1 N = 2 (Y i ˆβ 0 ˆβ 1 X i )X i = 0 (7) i=1 Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

13 Methode der kleinsten Quadrate III Durch Umformung der Normalgleichungen ergeben sich die Schätzformeln für ˆβ 0 und ˆβ 1 : ˆβ 0 = Y ˆβ 1 X (8) und mit ˆβ 1 = YX Y X X 2 X 2 (9) Y = 1 N N Y i, X = 1 N i=1 N X i, YX = 1 N i=1 N Y i X i, X 2 = 1 N i=1 N i=1 X 2 i. Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

14 Methode der kleinsten Quadrate IV Für ˆβ 1 gibt es verschiedene alternative Möglichkeiten der Darstellung, z B.: ˆβ 1 = N i=1 (Y i Y )(X i X ) N i=1 (X i X ) 2 (10) und ˆβ 1 = ˆσ XY ˆσ 2 X (11) ˆβ 1 kann nur berechnet werden, wenn die erklärende Variable X eine Variation aufweist: N i=1 (X i X ) 2 = ˆσ 2 X 0. Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

15 Methode der kleinsten Quadrate V Example (Golf-Handicap und Aktienkurs, Fortsetzung) Aktienkurs S, Handicap H Es ergeben sich folgende Mittelwerte: S = 52, 47, H = 15, 38, S H = 800, 59 und H 2 = 272, 32 Die Schätzgleichung lautet S = β 0 + β 1 H + ε Die OLS-Schätzer für die Parameter β 0 und β 1 ergeben sich dann als: ˆβ 1 = S H S H 800, 59 52, 47 15, 38 H 2 H 2 = 272, 32 15, 38 2 = 0, 179 ˆβ 0 = S ˆβ 1 H = 52, , , 38 = 55, 22 Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

16 Methode der kleinsten Quadrate VI Example (Umkehrung der Kausalrichtung) Bivariates linearen Regressionsmodell: Y = β 0 + β 1 X + ε Umgedrehte Kausalrichtung: X = γ 0 + γ 1 Y + η. Die resultierenden Schätzer ˆβ 1 und ˆγ 1 lauten: ˆβ 1 = ˆσ XY ˆσ 2 X und ˆγ 1 = ˆσ XY ˆσ 2 Y Unterschied ist jeweilige Normierung der geschätzten Kovarianz. Der Korrelationskoeffizient ˆσ X Y ˆσ Y ˆσ X ist vollkommen unabhängig von einer Annahme über die Kausalrichtung. Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

17 Klassische Annahmen Da ε eine Zufallsvariable ist und jede (lineare) Funktion einer Zufallsvariablen ebenfalls eine Zufallsvariable ist, ist Y also auch eine Zufallsvariable, da Y eine lineare Funktion von ε ist. Da ˆβ 0 und ˆβ 1 lineare Funktionen von Y sind, sind dann auch ˆβ 0 und ˆβ 1 Zufallsvariabeln, mit einem Erwartungswert und einer Varianz. Wir klären nun die Annahmen die nötig sind um diese beiden Größen von Intersse ableiten zu können. Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

18 Klassische Annahmen 1 Die Beziehung zwischen X und Y ist linear, wobei X auf Y wirkt und nicht umgekehrt. 2 Die X i sind nicht stochastisch. 3 Der Erwartungswert des Störterms ε ist Null, d.h. E(ε i ) = 0 i. (Nicht restriktiv; könnte auch E(ε i ) = k lauten) 4 Homoskedastizitätsannahme: Der Störterm ε i hat eine konstante Varianz für alle Beobachtungen, d.h. Var(ε i ) = σ 2 i. 5 Die Störterme sind unkorreliert, d.h. Cov(ε i, ε j ) = 0 i j. 6 Die Störterme sind i.i.d. normalverteilt. (Für statistische Tests notwendig.) Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

19 Klassische Annahmen Y α+ β X X Abbildung: Heteroskedastizität - Die Varianz des Störterms steigt mit X i Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

20 Konsequenzen für das Regressionsmodell Aufgrund von den Annahmen (2) und (3) ist X i nicht stochastisch und ε i hat einen Erwartungswert von Null. Daraus folgte der Erwartungswert von Y E(Y i ) = E(β 0 + β 1 X i + ε i ) = β 0 + β 1 X i, (12) Annahme (4) überträgt sich auf die Varianz der abhängigen Variable: Var(Y i ) = E [(Y i E(Y i )) 2] [ = E (β 0 + β 1 X i + ε i β 0 β 1 X i ) 2] (13) = E(ε 2 i ) = σ 2 σ 2 benötigen wir um die Varianz der Schätzer zu ermittlen Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

21 Eigenschaften der Schätzer: Die Varianz der Schätzer um diese Erwartungswerte herum, also ihre Varianz, ist durch ( σ Var( ˆβ 2 ) N i=1 0 ) = X i 2 N N i=1 (X (14) i X ) 2 und ( ) Var( ˆβ σ 2 1 ) = N i=1 (X. (15) i X ) 2 gegeben. σ 2 ist jedoch unbekannt Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

22 Eigenschaften der Schätzer Es kann gezeigt werden, dass ˆσ 2 = N i=1 e2 i N 2 (16) einen unverzerrten Schätzer für σ 2 darstellt. Damit kann der sogenannte Standardfehler der Schätzer anhand der Gleichungen ˆσ ˆβ 0 = ( ˆσ 2 N i=1 X 2 i N N i=1 (X i X ) 2 ) 1 2 (17) und ˆσ ˆβ1 = ( ) ˆσ N i=1 (X i X ) 2 (18) berechnet werden. Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

23 Eigenschaften der Schätzer Unter den Annahmen (1) bis (3) sind die OLS-Schätzer ˆβ 0 und ˆβ 1 erwartungstreu, d.h. E( ˆβ 0 ) = β 0 und E( ˆβ 1 ) = β 1. Bei Gültigkeit der Annahmen (1) bis (5) ist der OLS-Schätzer der effizienteste Schätzer aus der Klasse der unverzerrten linearen Schätzer. Dies ist das sogenannte Gauss-Markov-Theorem. Der OLS-Schätzer weißt die sogenannte BLUE-Eigenschaft auf. BLUE steht für Best Linear Unbiased Estimator. Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

24 Eigenschaften der Schätzer Wegen gemäß Annahme (6) gilt, dass ε i N(0, σ 2 ), dann folgt Y i N(µ, σ 2 ) mit µ = β 0 + β 1 X i, (19) da und jede lineare Funktion einer normalverteilten Zufallsvariable wiederum normalverteilt ist. ˆβ 1 ist ein linearer Schätzer, da er eine lineare Funktion (ein gewichtetes Mittel) von Y i darstellt. Wenn gemäß Annahme (6) ε i und deshalb auch Y i normalverteilt ist, dann ist folglich auch ˆβ 1 normalverteilt, da ˆβ 1 eine lineare Funktion von Y i darstellt. Es gilt ˆβ 1 N(β 1, σ 2 / N (X i X ) 2 ). (20) i=1 Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

25 Test auf statistische Signifikanz Kernbotschaften Beim zweiseitigen t-test wird die Nullhypothese H 0 : β = z gegen die Alternativhypothese H 1 : β z getestet. Dabei geht man wie folgt vor: 1 Man berechnet die t-statistik: t = ˆβ z 2 Man gibt sich eine Irrtumswahrscheinlichkeit vor (üblich sind 5% und 1%) und bestimmt aus geeigneten Tabellen den kritischen t-wert t mit N (K + 1) Freiheitsgraden. 3 Die Nullhypothese kann abgelehnt werden, wenn t > t. In diesem Fall bezeichnet man den Koeffizienten ˆβ als statistisch signifikant (von Null verschieden). ˆσ ˆβ Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

26 Die Güte des Regressionsmodells I Bestimmtheitsmaß oder R 2 : Anteil der durch das Modell erklärten Variation an der gesamten Variation in Y. Dekomposition: (Y i Y ) = (Y i Ŷ i ) + (Ŷ i Y ) (21) Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

27 Die Güte des Regressionsmodells II Quadriert man die in Gleichung (21) enthaltenen Terme und summiert man über alle Beobachtungen auf ergibt sich: N (Y i Y ) 2 = i=1 } {{ } TSS N N (Y i Ŷ i ) 2 + (Ŷ i Y ) 2 i=1 } {{ } ESS i=1 } {{ } RSS (22) TSS (total sum of squares): Die gesamte Variation in der abhängigen Variable Y. RSS (regression sum of squares): Die vom Modell erklärte Variation in Y. ESS (error sum of squares): Die verbleibende, nicht vom Modell erklärte, Variationin Y. Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

28 Die Güte des Regressionsmodells III Aus Gleichung (25) ergibt sich Das Bestimmtheitsmaß R 2 ist definiert als 1 = ESS TSS + RSS TSS. (23) R 2 = RSS TSS = 1 ESS TSS. (24) Das Bestimmtheitsmaß ist der Anteil der vom Modell erklärten Variation an der gesamten Variation in Y Da RSS TSS gilt folgt 0 R 2 1. Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

29 Die Güte des Regressionsmodells IV. reg wage school Source SS df MS Number of obs = F( 1, 9025) = Model Prob > F = Residual R-squared = Adj R-squared = Total Root MSE = wage Coef. Std. Err. t P> t [95% Conf. Interval] school _cons R 2 = RSS TSS = = R 2 = 1 ESS TSS = = Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30

30 Die Güte des Regressionsmodells VI Probleme: Unterschiedliche Höhe des R 2 in Zeitreihen und Querschnittsstudien. Die Hinzunahme eines weiteren Regressors führt nie dazu, dass R 2 sinkt. RSS kann dadurch nicht kleiner werden. Jedoch kann ESS zumindest geringfügig sinken. Martin Halla (JKU) KS Empirische Wirtschaftsforschung / 30