Statistik II. IV. Hypothesentests. Martin Huber

Transkript

1 Statistik II IV. Hypothesentests Martin Huber 1 / 41

2 Übersicht Struktur eines Hypothesentests Stichprobenverteilung t-test: Einzelner-Parameter-Test F-Test: Multiple lineare Restriktionen 2 / 41

3 Struktur eines Hypothesentests 1 Formuliere die Forschungshypothese und bestimme die zu testenden Parameter. Basierend hierauf kann die Nullhypothese H 0 bestimmt werden. 2 Art der Verteilung (z.b. t-verteilung, Normalverteilung) 3 Auswahl der Teststatistik 4 Bestimme das Signifikanzniveau (= Irrtumswahrscheinlichkeit, mit der eine korrekte Nullhypothese irrtümlicherweise abgelehnt wird) 5 Einseitiger oder zweiseitiger Test 6 Verwerfe die Nullhypothese (falls Testergebnis signifikant) oder behalte sie bei (falls insignifikant) 3 / 41

4 Stichprobenverteilung Annahme MLR.6: Normalität u N(0, σ 2 ) Der Fehlerterm ist unabhängig von den Kontrollvariablen und ist normalverteilt mit Mittelwert 0 und Varianz σ 2. Annahme MLR.6 impliziert die Annahmen MLR.3 und MLR.5. Zusammenfassung der Annahmen MLR.1-MLR.6 (= Annahmen des klassischen linearen Modells) y (x 1, x 2,..., x k ) N(β 0 + β 1 x 1 + β 2 x β k x k, σ 2 ) 4 / 41

5 Annahme MLR.6: Normalität Zugrundeliegende Annahmen: u N(0, σ 2 ) Normalverteilung des Fehlerterms ist nicht unproblematisch, weil viele Faktoren keiner Normalverteilung folgen (z.b. Löhne sind nicht normalverteilt logarithmische Transformation). Weitere (potenziell problematische) Annahme: Unbeobachtete Faktoren im Fehlerterm beeinflussen y in additiver Form. Nicht-normal verteilte Fehlerterme sind unproblematisch, wenn die Stichprobe gross genug ist, weil dann der Zentrale Grenzwertsatz anwendbar ist. Zentraler Grenzwertsatz: Die Summe/der Mittelwert einer grossen Zahl von unabhängigen Zufallsvariablen mit endlicher und positiver Varianz ist asymptotisch annähernd normalverteilt (sogar wenn die Variable selbst nicht normalverteilt ist!). 5 / 41

6 6 / 41

7 Konsequenz aus MLR.6: ˆβ j N ( ) β j, var( ˆβ j ) Standardisierung führt zu folgendem Ergebnis: ˆβ j β j sd( ˆβ j ) N (0, 1) (Asymptotisch, d.h. in sehr grossen Stichproben wird MLR.6 aufgrund des Zentralen Grenzwertsatzes allerdings nicht benötigt!) 7 / 41

8 t-test: Einzelner-Parameter-Test 1 Populationsmodell: y = β 0 + β 1 x 1 + β 2 x β k x k + u 2 Nullhypothese: H 0 : β j = 0 3 t-verteilung für standardisierter Schätzer: ˆβ j β j se( ˆβ j ) t N k 1 wobei N = Stichprobengrösse und k + 1 = Anzahl Parameter 4 Test Statistik = t-statistik: t ˆβ j ˆβ j /se( ˆβ j ) Beachte: t ˆβj hat dasselbe Vorzeichen wie ˆβ j gegeben se( ˆβ j ), t ˆβ j steigt mit ˆβ j Interpretation: t ˆβj kann interpretiert werden als wieviele Standardabweichungen liegt ˆβ j von null enfernt 8 / 41

9 Einseitiger Hypothesentest: 1 Nullhypothese: H 0 : β j 0 Alternativhypothese: H 1 : β j > 0 2 Signifikanzniveau: α = 5% (alternativ α = 1%; 10%) 3 Verwerfungsregel: t ˆβj > c, wobei c dem 95sten Perzentil der t-verteilung mit N k 1 Freiheitsgraden entspricht, auch kritischer Wert genannt Intuition: Verwerfe wenn t ˆβ j gross genug ist, d.h. wenn t ˆβ j nicht im 95sten Perzentil der t-verteilung liegt. 9 / 41

10 10 / 41

11 11 / 41

12 Beispiel 12 / 41

13 Einseitiger Hypothesentest: 1 Nullhypothese: H 0 : β j 0 Alternativhypothese: H 1 : β j < 0 2 Signifikanzniveau: α = 5% (alternativ α = 1%; 10%) 3 Verwerfungsregel: t ˆβj < c, wobei c dem 95sten Perzentil der t-verteilung mit N k 1 Freiheitsgraden entspricht, auch kritischer Wert genannt 13 / 41

14 Beispiel: df = 18 (z.b. N = 20, k = 1) 14 / 41

15 Beispiel 15 / 41

16 Zweiseitiger Hypothesentest: 1 Nullhypothese: H 0 : β j = 0 Alternativhypothese: H 1 : β j 0 2 Signifikanzniveau: α = 5% (alternativ α = 1%; 10%) 3 Verwerfungsregel: t ˆβj > c, wobei c dem (100% α 2 Perzentil der t-verteilung mit N k 1 Freiheitsgraden entspricht t ˆβ j > c: ˆβ j ist statistisch signifikant bei einem Signifikanzniveau von α t ˆβ j < c: ˆβ j ist statistisch insignifikant 16 / 41

17 17 / 41

18 18 / 41

19 Beispiel 19 / 41

20 Weitere Hypothesen: H 0 : β j = θ j Zweiseitiger Hypothesentest H 0 : β j = θ j, H 1 : β j θ j Test-Statistik: t ˆβj = ˆβ j θ j se( ˆβ j ) Signifikanzniveau: α = 5% Kritischer Wert: c = 1.96 (vorausgesetzt N ist gross genug) 20 / 41

21 Beispiel 21 / 41

22 22 / 41

23 p-wert/p-value Der p-wert entspricht dem niedrigsten Signifikanzniveau bei welchem wir H 0 für eine gegebene t-statistik verwerfen würden. Signifikanzniveau der Test-Statistik p-wert/p-value = P( T > t ) 23 / 41

24 24 / 41

25 Beispiel 25 / 41

26 Konfidenzintervall Das Konfidenzintervall: β j = ˆβ j c se( ˆβ j ), β j = ˆβ j + c se( ˆβ j )CI = [β j ; β j ] Angenommen man würde eine sehr (unendlich) grosse Anzahl an Stichproben aus der Population ziehen und in jeder β j und β j berechnen, dann würde der wahre Wert β j mit einer Häufigkeit von 1 α (bezogen auf die Anzahl der gezogenen Stichproben) innerhalb von [β j ; β j ] liegen. (α gibt wiederum das Signifikanzniveau an.) Anders formuliert: Das Konfidenzintervall ist jenes Intervall, das bei unendlicher Wiederholung des Stichprobenziehung mit einer Häufigkeit von 1 α den wahren Wert β j inkludiert. Für α = 0.05 ist der wahre Wert von β j in 95% der Stichproben inkludiert (in 5% allerdings nicht). 26 / 41

27 Illustration Quelle: Wikipedia 27 / 41

28 Illustration 28 / 41

29 t-test: Einzelner-Parameter-Kombination 1 Lineares Modell: y = β 0 + β 1 x 1 + β 2 x β k x k + u 2 Nullhypothese: H 0 : β 1 = β 2 oder H 0 : β 1 β 2 = 0 3 Test-Statistik: t = ˆβ 1 ˆβ 2 se( ˆβ 1 ˆβ 2 ) Ab hier gehen wir vor wie zuvor: Wähle das Signifikanzniveau und bestimme den entsprechenden kritischen Wert, oder berechne die t-statistik und bestimme den entsprechenden p-wert. Achtung: se( ˆβ 1 ˆβ 2 ) = var( ˆβ 1 ˆβ 2 ) = var( ˆβ 1 ) + var( ˆβ 2 ) 2cov( ˆβ 1, ˆβ 2 ) 29 / 41

30 Beispiel 30 / 41

31 F-Test: Multiple lineare Restriktionen Nicht restringiertes Modell: y = β 0 + β 1 x 1 + β 2 x β k x k + u Nullhypothese: H 0 : β k q+1 = 0,..., β k 1 = 0, β k = 0 Testen von Ausschlussrestriktionen (exclusion restrictions) Achtung: t-test ist ungeeignet, da dieser die Parameter einzeln, unabhängig voneinander testet. Wir wollen die Parameter jedoch gemeinsam testen: Gemeinsamer Signifikanztest ( joint significance test ) Restringiertes Modell: y = β 0 + β 1 x 1 + β 2 x β k q x k q + u 31 / 41

32 F-Statistik: F = (SSR r SSR ur )/q SSR ur /(N k 1) SSR r =Summe der quadrierten Residuen (sum of squared residuals: SSR) der restringierten Schätzung SSRur =SSR der nicht restringierten Schätzung q = Freiheitsgrade des Zählers = dfr df ur N k 1 = Freiheitsgrade des Nenners Intuition: F-Statistik entspricht dem prozentualen Anstieg des unerklärten Teils, gewichtet mit den Freiheitsgraden Verwerfen: F > c (wobei c abhängt von q, N k 1 und α, mindestens ein Koeffizient ist statistisch signifikant) Nicht verwerfen: F c (Koeffizienten sind gemeinsam insignifikant) 32 / 41

33 33 / 41

34 34 / 41

35 F-Statistik: F = (SSR r SSR ur )/q SSR ur /(N k 1) Gegeben, dass SSR r = SST (1 R 2 r ) und SSR ur = SST (1 R 2 ur ) können wir die F-Statistik folgendermassen ausdrücken: F = (R 2 ur R 2 r )/q (1 R 2 ur )/(N k 1) Intuition: Die F-Statistik entspricht dem gewichteten Anstieg in R 2 wenn wir mehr Variablen mit ins Modell nehmen. 35 / 41

36 Beispiel (1) 36 / 41

37 Beispiel (2) 37 / 41

38 Beispiel (3) 38 / 41

39 F-Test: Test auf irgendwelche signifikanten Effekte ( overall significance test ) Besondere Form des Tests auf gemeinsame Signifikanz: Nullhypothese: H 0 : β 1 = 0, β 2 = 0,..., β k = 0 Nicht restringiertes Modell: y = β 0 + β 1 x 1 + β 2 x β k x k + u Restringiertes Modell: y = β 0 + u Achtung: R 2 r = 0 Test-Statistik: F = R 2 /k (1 R 2 )/(N k 1) 39 / 41

40 F-Test: Allgemeine lineare Restriktionen Nicht restringiertes Modell: y = β 0 + β 1 x 1 + β 2 x 2 + β 3 x 3 + β 4 x 4 + u Nullhypothese: H 0 : β 1 = 1, β 2 = 0, β 3 = 0, β 4 = 0 Restringiertes Modell: y x 1 = β 0 + u Test-Statistik: F = (SSR r SSR ur )/4 SSR ur /(N 4 1) 40 / 41

41 F-Test: p-werte p-value = P(F > F ) Niedrigstes Signifikanzniveau, bei welchem wir H 0 für eine gegebene Statistik verwerfen würden: Signifikanzniveau der Test-Statistik Zusammenhang zwischen F- und t-statistiken: y = β 0 + β 1 x 1 + β 2 x 2 + β 3 x 3 + β 4 x 4 + u H 0 : β 1 = 0; q = 1 Achtung: tn k 1 2 = F 1,N k 1 41 / 41