Panelregression (und Mehrebenenanwendungen)

Transkript

1 Panelregression (und Mehrebenenanwendungen) Henning Lohmann Universität zu Köln Lehrstuhl für Empirische Sozial- und Wirtschaftsforschung 2007, Universität Duisburg-Essen, 11. Oktober 2007

2 Überblick 1. Einführung - Datenstruktur, Vorteile/Probleme, mögliche Vorgehensweisen 2. Analyse von Paneldaten - OLS-Regression mit robusten Standardfehlern, random effects Modelle, fixed effects Modelle 3. Ausblick 4. Einführung in die Übungsaufgaben

3 1. Einführung

4 Paneldaten / Mehrebenendaten? Paneldaten weisen wie Mehrebenendaten eine hierarchische Datenstruktur auf z.b. mehrere Beobachtungen einer Person z.b. mehrere Personen eines Landes daher werden (teilweise) dieselben Analyseverfahren verwendet hier soll es aber allein um die Analyse von Paneldaten gehen

5 Paneldaten: hierarchische Datenstruktur Person 1 Person 2 Person i b 1 b 2 b 3 b 4 b 5 b t b 1 b 2 b 3 b 4 b 5 b t b 1 b 2 b 3 b 4 b 5 b t i*t Beobachtungen

6 Paneldaten / Mehrebenendaten Paneldaten Mehrebenendaten 1. Ebene z.b. Personen z.b. Länder 2. Ebene i Personen mit Beobachtungen an t Zeitpunkten (N=i*t) i.d.r. i>t j Länder mit Beobachtungen von i Personen (N=j*i) i.d.r. j<i

7 Datenmatrix (long-format) Personen persnr jahr geschlecht eink maennlich maennlich maennlich maennlich maennlich weiblich weiblich weiblich weiblich maennlich maennlich maennlich maennlich maennlich 3328 konstant variabel Beobachtungen

8 Vorteile/Probleme von Paneldaten bessere Möglichkeiten zur Kausalanalyse Analyse von Veränderungen auf individueller Ebene möglich Analyse von Zugängen und Abgängen auf Aggregatebene Kontrolle unbeobachteter Heterogenität aber: Beobachtungen einer Person voneinander abhängig erfordert Verwendung geeigneter Analyseverfahren weitere Probleme: Panelmortalität, fehlende Daten, Lerneffekte, Wandel der Erhebungsinstrumente, Wandel der Grundgesamtheit

9 Mögliche Vorgehensweisen herkömmliche Regressionsmodelle mit robusten Standardfehlern random effects models (unterschiedliche Bezeichunungen mit unterschiedlicher Schwerpunktsetzung: mixed models, variance components models, hierarchical linear model, multilevel model) fixed effects models

10 2. Analyse von Paneldaten

11 Modellierung y it =β 0 + β 1 x 1it +β 2 x 2it +...+β k x kit +v it mit: v it =a i + u it [a i : konstanter personenspezifischer Fehlerterm, wegen a i ergibt sich corr(v it, v is ) 0 Autokorrelation] aber: Unter der Annahme, dass corr(a i,x it )=0 sind OLS-Schätzer unverzerrt.

12 a) OLS-Regression mit robusten Standardfehlern

13 Beispiel 1: Körpergröße Männer/Frauen Befragung von 100 an 3 Zeitpunkten abhängige Variable: Körpergröße (zeitlich invariant) unabhängige Variable: Geschlecht (zeitlich invariant) zunächst werden nur Daten der ersten Welle betrachtet Frage: Welchen Einfluss hat Geschlecht auf Körpergröße?

14 Beispiel 1: Mittelwerte use groesse.dta, clear sum groesse1 if frau==1 sum groesse1 if frau==0 Variable Obs Mean Std. Dev. Min Max groesse sum groesse1 if frau==0 Variable Obs Mean Std. Dev. Min Max groesse

15 Beispiel 1: OLS-Regression/Querschnitt reg groesse1 frau Source SS df MS Number of obs = F( 1, 98) = 1.74 Model Prob > F = Residual R-squared = Adj R-squared = Total Root MSE = groesse1 Coef. Std. Err. t P> t [95% Conf. Interval] frau _cons

16 Beispiel 1: Umwandlung in Paneldaten use groesse.dta, clear gen groesse2=groesse1 gen groesse3=groesse2 corr groesse1 groesse2 groesse3 groesse1 groesse2 groesse groesse groesse groesse

17 Beispiel 1: Umwandlung in Paneldaten reshape long groesse, i(persnr) j(welle) (note: j = 1 2 3) Data wide -> long Number of obs > 300 Number of variables 5 -> 4 j variable (3 values) -> welle xij variables: groesse1 groesse2 groesse3 -> groesse

18 Beispiel 1: OLS-Regression/Panel reg groesse frau Source SS df MS Number of obs = F( 1, 298) = 5.30 Model Prob > F = Residual R-squared = Adj R-squared = Total Root MSE = groesse Coef. Std. Err. t P> t [95% Conf. Interval] frau _cons Die OLS-Regression auf Basis gepoolter Panelwellen ergibt ein signifikantes Ergebnis. Vergrößerung der Fallzahl, aber keine Erhöhung der Varianz, da nur zeitlich invariante Merkmale. Massive Unterschätzung des Standardfehlers!

19 Robuste Standardfehler auch bekannt als Huber-White Standardfehler (Huber 1967, White 1980) berücksichtigen bei der Berechnung Abhängigkeit von Beobachtungen innerhalb von Personen Koeffizienten bleiben unverändert, d.h. keine Korrektur für mögliche Verzerrung

20 Beispiel 1:OLS-Regression (robust)/panel reg groesse frau, cluster(persnr) Linear regression Number of obs = 300 F( 1, 99) = 1.76 Prob > F = R-squared = Root MSE = (Std. Err. adjusted for 100 clusters in persnr) Robust groesse Coef. Std. Err. t P> t [95% Conf. Interval] frau _cons

21 Beispiel 1:Vergleich Ergebnisse ols ols3 ols3_r b/se b/se b/se frau -4,500-4,500 * -4,500 3,407 1,954 3,395 _cons 178,340 *** 178,340 *** 178,340 *** 2,409 1,382 2,467 N *) <0,05, **) <0,01, ***) <0,001

22 Beispiel 2: Gewinn bei Glücksspielen Befragung von 100 Personen, die regelmäßig an Glücksspielen teilnehmen, an 3 Zeitpunkten abhängige Variable: Höhe des Gewinns unabhängige Variable: Art des Glücksspiels (Roulette vs. andere) Frage: Welchen Einfluss hat Art des Spiels auf Höhe des Gewinns?

23 Beispiel 2: OLS-Regression/Querschnitt use spieler.dta, clear reg gewinn1 roulette1 Source SS df MS Number of obs = F( 1, 98) = 0.72 Model Prob > F = Residual R-squared = Adj R-squared = Total Root MSE = gewinn1 Coef. Std. Err. t P> t [95% Conf. Interval] roulette _cons

24 Beispiel 2: Korrelationen corr gewinn1 gewinn2 gewinn3 (obs=100) gewinn1 gewinn2 gewinn gewinn gewinn gewinn

25 Beispiel 2: Umwandlung in long-format reshape long roulette gewinn, i(persnr) j(welle) (note: j = 1 2 3) Data wide -> long Number of obs > 300 Number of variables 7 -> 4 j variable (3 values) -> welle xij variables: roulette1 roulette2 roulette3 -> roulette gewinn1 gewinn2 gewinn3 -> gewinn

26 Beispiel 2: OLS-Regression/Panel reg gewinn roulette Source SS df MS Number of obs = F( 1, 298) = 1.88 Model Prob > F = Residual R-squared = Adj R-squared = Total Root MSE = gewinn Coef. Std. Err. t P> t [95% Conf. Interval] roulette _cons

27 Beispiel 2:OLS-Regression (robust)/panel. reg gewinn roulette, cluster(persnr) Linear regression Number of obs = 300 F( 1, 99) = 2.25 Prob > F = R-squared = Root MSE = (Std. Err. adjusted for 100 clusters in persnr) Robust gewinn Coef. Std. Err. t P> t [95% Conf. Interval] roulette _cons

28 Beispiel 2:Vergleich Ergebnisse ols ols3 ols3_r b/se b/se b/se roulette -32,652-31,992-31,992 38,594 23,324 21,345 _cons 92,673 *** 90,729 *** 90,729 *** 26,739 16,819 17,833 N *) <0,05, **) <0,01, ***) <0,001

29 b) random effects models

30 Random effects model Ansatzpunkt: Autokorrelation ist bekannt und schätzbar Mit diesem Vorwissen kann man OLS Schätzung verallgemeinern (generalised least squares, GLS) durch geeignete Transformation der Daten lässt sich (bekannte) Autokorrelation eliminieren (vgl. Wooldridge 2003: 469ff) Transformation erzeugt quasi-demeaned data Es gilt aber weiterhin: Schätzer nur unverzerrt wenn corr(a i,x it )=0

31 Beispiel Datenstruktur 1 persnr welle eink keine Varianz zwischen Personen

32 Beispiel Datenstruktur 2 persnr welle eink keine Varianz über die Zeit

33 Beispiel Datenstruktur 3 persnr welle eink realistischere Datenstruktur

34 Random effects model Im random effects model ist die Unterscheidung zwischen Varianz zwischen Personen und über die Zeit zentral (daher auch Varianzkomponentenmodell genannt). Bestimmung des Anteils der Varianz auf Personenebene: Schätzung eines leeren Modells rho: Verhältnis der Varianz von a i gegenüber der Gesamtvarianz (a i +u it ) wird als Anteil der Varianz auf Personenebene interpretiert

35 Beispiel 3: Höhe Stundenlöhne Befragung von 545 Personen in den USA an 8 Zeitpunkten ( ) abhängige Variable: Stundenlohn unabhängige Variablen: Bildung (in Jahren), Berufserfahrung, Familienstand, ethnische Zugehörigkeit Frage: Welche Faktoren determinieren die Lohnhöhe?

36 Beispiel 3:random effects model (M0) use wage, clear xtreg wage, i(nr) Random-effects GLS regression Number of obs = 4360 Group variable (i): nr Number of groups = 545 R-sq: within = Obs per group: min = 8 between = avg = 8.0 overall = max = 8 Random effects u_i ~ Gaussian Wald chi2(0) = 0.00 corr(u_i, X) = 0 (assumed) Prob > chi2 = wage Coef. Std. Err. z P> z [95% Conf. Interval] _cons sigma_u sigma_e rho (fraction of variance due to u_i)

37 Anmerkung Stata-Notation Die Notation in Stata weicht von der bisher verwendeten Notation ab. Die Zuordnung ist wie folgt: a i σ a σ u u_i sigma_u sigma_e

38 Beispiel 3:random effects model. xtreg wage educ exper married black, i(nr) Random-effects GLS regression Number of obs = 4360 Group variable (i): nr Number of groups = 545 R-sq: within = Obs per group: min = 8 between = avg = 8.0 overall = max = 8 Random effects u_i ~ Gaussian Wald chi2(4) = corr(u_i, X) = 0 (assumed) Prob > chi2 = wage Coef. Std. Err. z P> z [95% Conf. Interval] educ exper married black _cons sigma_u sigma_e rho (fraction of variance due to u_i)

39 Beispiel 3: OLS-Regression (robust) reg wage educ exper married black, cluster(nr) Linear regression Number of obs = 4360 F( 4, 544) = Prob > F = R-squared = Number of clusters (nr) = 545 Root MSE = Robust wage Coef. Std. Err. t P> t [95% Conf. Interval] educ exper married black _cons

40 c) fixed effects models

41 fixed effects model Ziel: Elimination der personenspezifischen Konstante a i Annahme, dass a i nicht mit x i korreliert ist, unproblematisch d.h. Schätzer auch bei Verletzung dieser Annahme unverzerrt (im Gegensatz zu OLS- Regression und random effects Modell)

42 Berechnung personenspezifischer Mittelwerte (2 Wellen) Modell y it =β 0 + β 1 x 1it +β 2 x 2i +u it + a i t=1 y i1 =β 0 + β 1 x 1i1 +β 2 x 2i +u i1 +a i t=2 y i2 =β 0 + β 1 x 1i2 +β 2 x 2i +u i2 +a i Mittel y i =β 0 + β 1 x 1i +β 2 x 2i +u i + a i x 1it : zeitlich variabel, x 2i : zeitlich invariant

43 Elimination von a i durch Bildung von Differenzen zum Mittelwert Mittel y i =β 0 + β 1 x 1i +β 2 x 2i +u i + a i t=1 y i1 =β 0 + β 1 x 1i1 +β 2 x 2i +u i1 +a i t=2 y i2 =β 0 + β 1 x 1i2 +β 2 x 2i +u i2 +a i t 1 -t y i1 -y i = β 1 (x 1i1 -x 1i ) +(u i1 -u i ) t 2 -t y i2 -y i = β 1 (x 1i2 -x 1i ) +(u i2 -u i ) y it = β 1 (x 1it ) +u it

44 Beispiel 3: fixed effects model. xtreg wage educ exper married black, i(nr) fe Fixed-effects (within) regression Number of obs = 4360 Group variable (i): nr Number of groups = 545 R-sq: within = Obs per group: min = 8 between = avg = 8.0 overall = max = 8 F(2,3813) = corr(u_i, Xb) = Prob > F = wage Coef. Std. Err. t P> t [95% Conf. Interval] educ (dropped) exper married black (dropped) _cons sigma_u sigma_e rho (fraction of variance due to u_i) F test that all u_i=0: F(544, 3813) = Prob > F =

45 Beispiel 3:Vergleich Ergebnisse ols_r re fe b/se b/se b/se educ *** *** (dropped) exper *** *** *** married *** *** ** black * * (dropped) _cons -3,383 *** -4,107 *** 3,541 *** N *) <0,05, **) <0,01, ***) <0,001

46 Abschließender Überblick OLS-Regression: Schätzer unverzerrt wenn a i nicht korreliert mit x ij, aber Standardfehler wegen Korrelation zwischen v it und v is (i ungleich s) zu niedrig OLS-Regression mit robusten Standardfehlern: Schätzer unverzerrt wenn a i nicht korreliert mit x ij, Standardfehler korrigiert (Schätzer aber im Vergleich zu RE ineffizient)

47 Abschließender Überblick Random effects model: Schätzer unverzerrt und effizient wenn a i nicht korreliert mit x ij, bessere Berücksichtigung der Datenstruktur als bei OLS-Regression Fixed effects model: Schätzer unverzerrt auch wenn a i korreliert mit x ij, betrachtet aber nur Variation innerhalb von Personen, zeitlich invariante Variablen können nicht berücksichtigt werden

48 Stata Befehle use use..., clear gen(erate) sum(marize) corr(elate) reshape long..., i(persnr) j(welle) tsset / xtset reg(ress) reg(ress)..., cluster(persnr) xtreg..., i(persnr) Öffnen eines Datensatzes... mit Löschung des Speichers Bildung neuer Variablen Mittelwerte Korrelationen Umwandlung in long-format Zuweisung IDs (Person, Welle) OLS-Regression... mit robusten Standardfehlern random effects model

49 Literatur Wooldridge, Jeffrey M. (2003): Introductory Econometrics. A Modern Approach, Mason: Thompson (insbesondere Kapitel 14) Snijders, Tom A. B./ Bosker, Roel J. (1999): Multilevel analysis. An introduction to basic and advanced multilevel modeling, London u.a.: Sage (insbesondere Kapitel 2 und 3)

50 3. Ausblick

51 Kategoriale abhängige Variablen z.b.: dichotom: Logit-Modell: xtlogit Probit-Modell: xtprobit Zählvariable: Poisson-Modell: xtpoisson Negatives Binomialmodell: xtnbreg

52 Berücksichtigung des Faktors Zeit komplexere Modellierung von Autokorrelation Berücksichtigung von lag-variablen Berücksichtigung von Periodeneffekten, z.b. Jahresdummies

53 Weitere Zufallskomponenten Zufallseffekte der Steigungskoeffizienten (random slopes) Berücksichtigung weiterer Ebenen (z.b. Beobachtungen von Personen in unterschiedlichen Ländern)

54 Modellvergleich Hybrid-Modell : Kombination von random effects und fixed effects Modell Test auf Unterschiede zwischen Modellen (Hausman-Test, Test einzelner Koeffizienten im Hybrid-Modell )

55 4. Übung

56 Beispiele in Aufgaben erfahrung.dta (für Beispiel aufbereiteter SOEP- Datensatz): Einfluss von Berufserfahrung auf Stundenlohn (bei jährigen) wage.dta (Beispiel 3): Einfluss von Gewerkschaftsmitgliedschaft auf Stundenlohn (USA) kp2004.dta (Klein/Pötschke 2004): Replikation von Analysen eines in der KZfSS veröffentlichten Artikels auf Basis von SOEP-Daten, Fragestellung: Verändern sich postmaterialistische Wertvorstellungen im Lebensverlauf? weitere Beispiele aus Vorlesung können auch gerechnet werden (groesse.dta, spieler.dta)

57 Inhalte in Aufgaben Aufgabe 1: Wiederholung der Stata-Syntax Umwandlung der Daten in long-format, alle Aufgaben: Schätzung der hier behandelten Modelle Interpretation der Ergebnisse