Analyse von Querschnittsdaten. Signifikanztests II Advanced Stuff

Transkript

1 Analyse von Querschnittsdaten Signifikanztests II Advanced Stuff

2 Warum geht es in den folgenden Sitzungen? Kontinuierliche Variablen Generalisierung kategoriale Variablen Datum Vorlesung Einführung Beispiele Daten Variablen Bivariate Regression Kontrolle von Drittvariablen Multiple Regression Statistische Inferenz Signifikanztests I Signifikanztests II Spezifikation der unabhängigen Variablen Spezifikation der Regressionsfunktion Heteroskedastizität Regression mit Dummy-Variablen Logistische Regression

3 Gliederung. Fortsetzung: Tests einzelner Regressionskoeffizienten. Test linearer Restriktionen. Interpretation von Testergebnissen 4. Preisfrage 5. Nachträge Formel für Standardfehler Freiheitsgrade

5 Beispiel : Bildungsrendite ln( wage ˆ ),84,9 educ,4 eper, tenure R,6, n 56 (wage.dta) Wenn die abhängige Variable logarithmiert ist, kann man die Koeffizienten als prozentuale Veränderungen interpretieren (s. spätere Vorlesungen). Ein Jahr mehr Ausbildung erhöht das Einkommen um 9, Prozent. Frühere Untersuchungen ergaben jedoch eine Bildungsrendite von 5 Prozent. Frage: Hat sich die Bildungsrendite vergrößert?

6 Einseitiger Test. Nullhypothese :5% Rendite ( Alternativhypothese: höhere Rendite (.Signifikanzniveau : z.b. α. kritischer Wert : c t 4. Teststatistik in der Stichprobe : t 5. Entscheidung t t > c c H H widerlegt -α, n-k- nicht widerlegt, 5,5) ( α verwenden) > ˆ j j se( ˆ ) j,5) ˆ j,5 se( ˆ ) Wert der Nullhypothese verwenden! j

7 Beispiel : Rendite von Colleges ln( wage ˆ ),47,667 jc,769 univ R,, n 6.76 (twoyear.dta),49 eper Ein Jahr Ausbildung an einem Junior College (jc) erhöht das Einkommen um 6,7 Prozent. Ein Jahr Ausbildung an einem Four-Year College (univ) erhöht das Einkommen um 7,7 Prozent. Frage: Ist das Studium an einem Junior College gleich rentabel wie das Studium an einem Four- Year College?

8 Zweiseitiger Test der Differenz. Nullhypothese : kein Unterschied ( Alternativhypothese: Unterschied eistiert (.Signifikanzniveau : z.b. α, 5. kritischer Wert : c t 4. Teststatistik in der Stichprobe : 5. Entscheidung t > c H t c H widerlegt -α /, n-k- nicht widerlegt ( α / verwenden) ) ) ( ˆ ˆ ) ( ) t se( ˆ ˆ ) ( ˆ ˆ ) se( ˆ ˆ )

9 Standardfehler der Differenz se( ˆ ˆ ) Var( ˆ ) Var( ˆ ) Cov( ˆ, ˆ ) zum Vergleich : se( ˆ ˆ ) ( ) Var Man benötigt Varianz - Kovarianz - Matri der Schätzer : jc univ eper _cons jc.47 univ.9e-6 5.e-6 eper -.7e-8.9e-8.5e-8 _cons e-6.444

10 Oder: Umformulierung des Modells Definiere neuen Parameter : θ H : θ versus H : θ Löse nach einem alten Parameter auf ln( wage) ( θ ) Umformen und neue Variable bilden : ln( wage) θ ln( wage) θ jc ( jc univ eper u jc univ) eper u jc totcoll eper u und setze ein : Regression auf jc, eper und die neue Variable totcoll (jcuniv) ergibt (s. Handout) eine Schätzung der Differenz (Effekt von jc) sowie Standardfehler der Differenz (Standardfehler von jc).

12 Nochmal: Hierarchische Modelle Zwei Modelle A und a sind hierarchisch (nested), wenn die Parameter des Modells a eine Teilmenge der Parameter des Modells A sind. Das (restringierte) Modell a ergibt sich aus dem (nicht restringierten) Modell A, indem man für die Parameter in A lineare Restriktionen formuliert. (nicht restringiertes) Modell A: zwei Restriktionen : ergibt (restringiertes) Modell a : y und y u u

13 Beispiel: Test des Modellfits Der in der letzten Sitzung besprochene F- Test für den Modellfit (bzw. für R-Quadrat) vergleicht das Modell mit allen unabhängigen Variablen und das Konstanten-Modell (nicht restringiertes) Modell A: drei Restriktionen : ergibt (restringiertes) Modell a : y y u u

14 Beispiel: Schrittweise Modellüberprüfung Liefern die Variablen und noch einen signifikanten Erklärungszuwachs, wenn bereits berücksichtigt ist? (nicht restringiertes) Modell A: zwei Restriktionen : ergibt (restringiertes) Modell a : y und y u u

15 Beispiel: Test eines Koeffizienten Hat die Variable keinen Einfluss, so dass sie weggelassen werden kann? u y a u y A : Modell ergibt (restringiertes) eine Restriktion : : Modell (nicht restringiertes)

16 Beispiel: Test eines Koeffizienten Hat die Variable einen bestimmten Einfluss, so dass ihr Effekt nicht mehr geschätzt werden muss? u y a u y A,5 : Modell ergibt (restringiertes),5 eine Restriktion : : Modell (nicht restringiertes)

17 Beispiel: Differenz der Koeffizienten Haben die Variablen und den gleichen Einfluss? Anders ausgedrückt: Ist die Differenz ihrer Effekte gleich Null? Im restringierten Modell sind eigentlich nur noch drei Parameter zu schätzen. u y a u y A : Modell ergibt (restringiertes) ) ( eine Restriktion : : Modell (nicht restringiertes)

18 F-Test für lineare Restriktionen f ( SSR SSR r ur SSR ( n k ur ) q ) mit f ~ F( q, n k ) q Anzahl der Restriktionen SSR SSR r ur Summe der quadrierten Abweichungen im restringierten Modell Summe der quadrierten Abweichungen im nicht restringierten Modell k Anzahl der Variablen im nicht restringierten Modell n Fallzahl

19 Spezialfall: Test des Modellfits f SSE k SSR ( n k ) ( SST SSR) k SSR ( n k ) wegen SST SSE SSR k q Anzahl der Restriktionen (keine Variable hat Effekt) SST SSRr SS restringiertes Modell (Konstantenmodell) SSR SSR SS nicht restringiertes Modell (alle Variablen) ur k Anzahl Variablen im nicht restringierten Modell n Fallzahl

20 Beispiel : Leistungsgerechte Bezahlung im Baseball Werden Baseball-Spieler nach sportlicher Leistung (bavg, hrunsyr, rbisyr) oder nach Seniorität (years) und Anwesenheit (gamesyr) bezahlt (vgl. WO 4ff.)? nicht restringiertes ln( salary) n bavg 5, restringiertes n 5, Modell : 4 Modell years gamesyr hrunsyr SSR 8,86, R SSR 98,, R rbisyr 5,678,597 u ln( salary) years gamesyr u

21 Beispiel : F-Test widerlegt H,78 47 :,,, Wert für kritischer,6 47 :,,5, Wert für kritischer 9,55 ) 5 (5 8,86 8,86) (98, ), ( ~ mit ) ( ) ( trifft nicht zu H : H versus : H 5 4 c df df c df df f k n q F f k n SSR q SSR SSR f ur ur r α α

23 Statistische Signifikanz und praktische Relevanz prate ˆ 8,9 (,78) 5,44 mrate (,5) n.54,69 age (,45) R,, totemp (,4) Eample 4.6 (WO 4f.): Teilnahmequote in Pensionskasse (prate), Zuzahlung der Firma (mrate), Laufzeit (age), Firmengröße (totemp) totemp ist hoch signifikant: t,/,4,5 Praktisch ist der Effekt aber sehr klein: Bei. zusätzlichen Beschäftigten erhöht sich die Teilnahmequote um, Prozentpunkte. Achtung große Fallzahlen: auch kleine Effekte sind häufig statistisch signifikant.

24 Richtig H widerlegt Die Hypothese, dass die Variable... keinen Einfluss hat, wurde mit einer Irrtumswahrscheinlichkeit von fünf Prozent widerlegt. kurz: Der Effekt der Variablen... ist signifikant (α,5). H nicht widerlegt Die Hypothese, dass die Variable... keinen Einfluss hat, konnte mit einer Irrtumswahrscheinlichkeit von fünf Prozent nicht widerlegt werden. kurz: Der Effekt der Variablen... ist nicht signifikant (α,5).

25 Falsch Testergebnis: H ( j ) nicht widerlegt Interpretation: Die Hypothese, dass die Variable... keinen Effekt hat, wurde mit einer Irrtumswahrscheinlichkeit von fünf Prozent bestätigt. Falsch, weil andere Nullhypothesen (in der Nähe von Null, z.b. j,) mit den gleichen Daten auch nicht widerlegt werden können. Die Hypothesen j und j, können nicht gleichzeitig richtig sein!

26 Falsch Testergebnis: H ( j ) widerlegt Interpretation: Die Hypothese, dass die Variable... keinen Effekt hat, konnte mit einer Sicherheit von 95 Prozent widerlegt werden. Klingt besser (sicherer), ist aber nicht das, was ein Hypothesentest macht. Er betrachtet die etremen Abweichungen von der Nullhypothese als Ablehnungen der H, obwohl sie selbst bei Geltung der H möglich sind, wenngleich mit sehr geringer Wahrscheinlichkeit. Ein Irrtum ist also möglich, daher Irrtumswahrscheinlichkeit.

27 Falsch Testergebnis: H ( j ) widerlegt, H ( j >) Interpretation: Die Alternativhypothese, dass die Variable... einen positiven Effekt hat, wurde mit einer Irrtumswahrscheinlichkeit von 5 Prozent bestätigt. Klingt besser (positive statt verneinende Aussage), ist aber nicht das, was ein Hypothesentest macht. Da die Alternativhypothese in der Regel nicht konkretisiert wird, dreht sich der ganze Test um die Nullhypothese (konkret lässt sich häufig eben nur das hinschreiben, was eigentlich nicht interessiert: j ). Annahme- und Ablehnungsbereich werden ausgehend von H konstruiert, von daher muss die Interpretation des Testergebnisses auch darauf Bezug nehmen.

29 Preisfrage Wie kann man Übung mit Regression lösen? Berechnen Sie ein 95%-Konfidenzintervall für das Durchschnittsalter aller Einwohner der Großstadt. Wie kann man Übung mit Regression lösen? An der Untersuchung nehmen 8 Studierende teil und es ergibt sich eine Durchschnittsmiete von 496, Euro. Formulieren Sie die unterschiedlichen Meinungen des Verwaltungsrates als Hypothesentest. Der Hypothesentest soll mit einer Irrtumswahrscheinlichkeit von Prozent entschieden werden.

31 Varianzformel plausibel? Var( ˆ ) j σ SST ( j R j ) mit SST j n i ( ij j ) Varianz ist abhängig von (WO 96, Theorem.): Varianz der Fehlerterme (und implizit der Fallzahl) Streuung der jeweiligen unabhängigen Variablen Korrelationder jeweiligen unabhängigen Variablen mit allen anderen unabhängigen Variablen (R j ist der Determinationskoeffizient der Regression von j auf alle anderen unabhängigen Variablen)

32 Definition: Freiheitsgrade Die Anzahl der Freiheitsgrade entspricht der Anzahl der Daten abzüglich der Anzahl der geschätzten Parameter des jeweiligen Modells. Anwendbar auf: Standardabweichung, Chi-Quadrat-Test, Varianzanalyse, Regression und vieles mehr

33 Beispiel: Standardfehler der Regression { } ˆ ˆ ) ( ) )( ( ˆ gelten muss : wobei ) ˆ ( ) ˆ ( ) ˆ ( ˆ ˆ, 8 6,,, : mit Beispiel ) ˆ ( ˆ ˆ Allgemeine Formel: y y y y y y y n k n y y u k n i i i i i i i i n i i i n i i σ σ Wieviele y-werte kann man frei wählen, wenn gleichzeitig eine Regressionskonstante von und ein Regressionskoeffizient von gegeben sein soll?

34 Zum Schluss

35 Zusammenfassung Tests einzelner Koeffizienten Tests linearer Restriktionen Interpretation Freiheitsgrade Koeffizient ist Null Koeffizient hat einen bestimmten Wert Differenz von Koeffizienten hierarchische Modelle restringiertes, nicht restringiertes Modell Restriktion lineare Gleichung mit mindestens einem Parameter eine oder mehrere Restriktion gleichzeitig testbar F-Test (der Veränderung der Summe der quadrierten Abweichungen durch Restriktion(en)) praktische versus statistische Signifikanz falsch: Bestätigung der Nullhypothese falsch: Sicherheit von 95 Prozent falsch: Bestätigung der Alternativhypothese Anzahl Daten minus Anzahl geschätzter Parameter

36 Wichtige Fachausdrücke Deutsch Englisch Deutsch Englisch hierarchisches Modell hierarchical (nested) model Varianz-Kovarianz- Matri der Schätzer variancecovariance-matri of estimators Restriktion restriction Freiheitsgrade degrees of freedom restringiertes Modell restricted model nicht restringiertes Modell unrestricted model

37 Weiterführende Literatur Wooldridge behandelt in Kapitel 4 (WO 6-65) Schätz- und Testverfahren. Lesen Sie zur heutigen Sitzung noch einmal die Abschnitte 4.4 und 4.5 (WO 9-54). Abschnitt 4.6 (WO 54-56) zeigt, wie man die Ergebnisse einer Regressionsanalyse (inkl. der inferenzstatistischen Ergebnisse) darstellen sollte. Ausführliche Hinweise zur Durchführung eines empirischen Projektes (inkl. Ergebnispräsentation) enthält Kapitel 9 (WO ).

38 Stata-Befehle Nach der Eingabe des Regressionskommandos reg kann man mit weiteren Befehlen zusätzliche (Test-)Ergebnisse abrufen vce test eper test (educ) (eper) test educ eper test educ.5 test jcuniv Ausgabe der Varianz-Kovarianz-Matri der Schätzer Test linearer Restriktion: Effekt von eper gleichzeitiger Test mehrerer Restriktionen Kurzform des vorherigen Tests Test auf bestimmte Werte Test auf gleiche Effekte