Einführung in die Induktive Statistik: Testen von Hypothesen

Transkript

1 Einführung in die Induktive Statistik: Testen von Hypothesen Jan Gertheiss LMU München Sommersemester 2011 Vielen Dank an Christian Heumann für das Überlassen von TEX-Code!

2 Testen: Einführung und Konzepte Einführung: Gauß-, Student- und Binomialtest Prinzipien des Testens von Hypothesen Ziele des Kapitels: Exemplarische Einführung in das Testen von Hypothesen, Beschreibung der generellen Konzepte.

3 Gauß-Test, Student-Test und Binomialtest Gauß- und (Student) t-test: bekannteste Tests zum Prüfen von Hypothesen über µ = E(X ). Allgemeine Form der Hypothesen über µ = E(X ): (a) H 0 : µ = µ 0, H 1 : µ µ 0 zweiseitige Alternative H 1 (b) H 0 : µ = µ 0, H 1 : µ < µ 0 einseitige Alternative H 1 (c) H 0 : µ = µ 0, H 1 : µ > µ 0 einseitige Alternative H 1 Bemerkungen: Verschiedene Tests unterscheiden sich durch Annahmen über X. Binomialtest: Testen von analogen Hypothesen über π = P(X = 1) bei Bernoulli-Variable.

4 (Exakter) Gauß-Test Annahmen: X N(µ, σ 2 ) mit bekannter Varianz σ 2, Stichprobenvariablen X 1,..., X n i.i.d. wie X. Hypothesen über µ = E(X ): (a), (b), (c) wie angegeben. Idee für Test: Falls H 0 richtig ist: E(X ) = µ 0. Bilde arithmetisches Mittel x zu den Stichprobenwerten x 1,..., x n. Lehne H 0 ab, falls Abweichung zwischen µ 0 und x zu groß. Frage: Wie groß sind die kritischen Werte für diese Abweichung zu wählen?

5 (Exakter) Gauß-Test Diskussion für Hypothesenpaar (c) H 0 : µ = µ 0, H 1 : µ > µ 0 Übergang von X zu standardisierter Teststatistik Z = X µ 0 n σ Unter H 0 gilt: X N(µ 0, σ2 n ) Z N(0, 1) Testvorschrift für Z: H 0 ablehnen Z > k

6 (Exakter) Gauß-Test Frage: Wie ist der kritische Wert k zu wählen? Prinzip: Die Wahrscheinlichkeit für den Fehler 1. Art: H 0 wird abgelehnt, obwohl H 0 richtig ist soll (höchstens) gleich einem (kleinen) vorgegebenen Signifikanzniveau α sein (z.b. α = 0.1, 0.05, 0.01). D.h. P(H 0 ablehnen H 0 richtig) = α

7 (Exakter) Gauß-Test Beim exakten Gauß-Test ist dies äquivalent zu P(Z > k µ = µ 0 ) = α k = z 1 α (mit z 1 α = (1 α)-quantil der Standardnormalverteilung) Testvorschrift: H 0 ablehnen, falls Z > z 1 α

8 (Exakter) Gauß-Test Bemerkungen: Neben dem Fehler 1. Art gibt es den Fehler 2. Art: H 0 wird nicht abgelehnt, obwohl H 1 richtig ist. Es gilt (vergleiche Gütefunktion, später): Je kleiner (größer) das Signifikanzniveau α gewählt wird, desto größer (kleiner) wird die Wahrscheinlichkeit für einen Fehler 2. Art. Falls H 0 : µ µ 0 gilt, also auch µ < µ 0 als Nullhypothese möglich ist, folgt P(Fehler 1. Art) = P(Z > z 1 α µ µ 0 ) α

9 (Exakter) Gauß-Test Hypothesenpaar (b) H 0 : µ = µ 0, µ < µ 0 symmetrisch zu (c). Testvorschrift: H 0 ablehnen, falls Z < z 1 α Hypothesenpaar (a) H 0 : µ = µ 0, H 1 : µ µ 0 Unter H 0 : Z N(0, 1) Testvorschrift: H 0 ablehnen, falls Z > z 1 α 2

10 (Exakter) Gauß-Test Alternative Formulierungen der Testentscheidungen: (1) Direkt über X statt Z (2) Mit Hilfe von Konfidenzintervallen (3) Mit p -Werten ( Überschreitungswahrscheinlichkeiten )

11 (Exakter) Gauß-Test (1) Für (a) H 0 : µ = µ 0, H 1 : µ µ 0 : H 0 ablehnen, falls Z > z 1 α, Z = X µ 0 2 σ H 0 ablehnen, falls X µ 0 > z 1 α 2 H 0 ablehnen, falls X < µ 0 z 1 α 2 σ n n σ n oder X > µ 0 + z 1 α 2 σ n (2) Testentscheidung oben offensichtlich äquivalent zu H 0 ablehnen, falls µ 0 / KI für µ, d.h. [ ] µ 0 / X z 1 α σ 2 n, X + z 1 α σ 2 n Bemerkung: (1) und (2) lassen sich auch für einseitige Problemstellungen (b) und (c) formulieren.

12 (Exakter) Gauß-Test (3) Testentscheidungen mit Überschreitungswahrscheinlichkeiten Der p -Wert (p -value) ist definiert als die Wahrscheinlichkeit, unter H 0 den beobachteten Prüfgrößenwert oder einen in Richtung der Alternative extremeren Wert zu erhalten. Ist der p -Wert kleiner (oder gleich) dem vorgegebenen Signifikanzniveau α, wird H 0 verworfen. Ansonsten behält man H 0 bei.

13 (Exakter) Gauß-Test Bemerkungen: Statistische Programmpakete geben in der Regel p -Werte für zweiseitige Tests aus. Dann: H 0 ablehnen p -value < α, α vorgegebenes Signigikanzniveau. Vorsicht bei einseitigen Tests zu (b) und (c)! p -Werte müssen für Testentscheidung ggf. modifiziert werden.

14 Approximativer Gauß-Test Annahmen: X beliebig verteilt mit E(X ) = µ; Var(X ) = σ 2 bekannt. X 1,..., X n i.i.d. wie X ; Faustregel: n 30. Wegen zentralem Grenzwertsatz: Unter µ = µ 0 gilt ) X a N (µ 0, σ2 bzw. Z a N(0, 1) n Testvorschrift wie beim exakten Gauß-Test. Aber: P(Fehler 1. Art) a α

15 (Student) t-test Annahmen: Wie beim (exakten) Gauß-Test, aber: σ 2 unbekannt. Hypothesen: (a), (b), (c) wie bisher. Idee: Ersetze σ (beim Gauß-Test) durch S = 1 n (X i X ) n 1 2, i=1 d.h. Teststatistik Z = X µ 0 n σ wird erstetzt durch Teststatistik T = X µ 0 n S

16 (Student) t-test Man kann zeigen: X N(µ 0, σ 2 ) T t(n 1) (Student) t-verteilt mit n 1 Freiheitsgraden. Herleitung der Testvorschriften wie beim Gauß-Test; ersetze Z durch T und die Dichte φ von Z durch Dichte der t(n 1)-Verteilung. Ersetze in Testvorschriften Z durch T und z-quantile durch t(n 1)-Quantile. Für n 30 : t(n 1)-Quantile z-quantile, und T näherungsweise normalverteilt, auch wenn X nicht normalverteilt.

17 Binomial-Test Annahmen: X B(1, π), d.h. P(X = 1) = π; X 1,..., X n i.i.d. wie X ; für approximativen Binomial-Test: n 30. Hypothesen: (a) H 0 : π = π 0, H 1 : π π 0 (b) H 0 : π π 0, H 1 : π < π 0 (c) H 0 : π π 0, H 1 : π > π 0

18 Binomial-Test Teststatistik: X = X X n absolute Häufigkeit von Einsen; unter π = π 0 : X B(n, π 0 ) Alternativ: Standardisierte Teststatistik: Z = X nπ 0 nπ0 (1 π 0 ) = ˆπ π 0 π 0(1 π 0) n n < 30: exakter Binomial-Test nötig, verwende X. n 30: approximativer Binomial-Test unter Verwendung von Z; für π = π 0 : Z a N(0, 1) (zentraler Grenzwertsatz). gleiche Testvorschriften wie beim approximativen Gauß-Test.

19 Prinzipien des Testens von Hypothesen Parameter-Tests Generelle Problemstellung X F (x θ), θ Θ Beispiel: Gauß-Test X N(µ, σ 2 ), σ 2 bekannt θ unbekannter Parameter/Kennwert θ = µ = E(X ) Θ zulässiger Bereich für θ Θ = R Nullhypothese H 0 : θ Θ 0 (a) Θ 0 = {µ 0 }, Θ 1 = R\{µ 0 } Alternativhypothese H 1 : θ Θ 1 (c) Θ 0 = (, µ 0 ], Θ 1 = (µ 0, ) Θ 0 Θ 1 = X 1,..., X n i.i.d. wie X X 1,..., X n i.i.d. N(µ, σ 2 ) T = t(x 1,..., X n ) Teststatistik T = Z = ( X µ 0) σ n

20 Prinzipien des Testens von Hypothesen Nichtparametrische Tests H 0 : X normalverteilt, H 0 : X, Y unabhängig, usw. ( später) H 1 : X nicht normalverteilt H 1 : X, Y abhängig

21 Prinzipien des Testens von Hypothesen Struktur von Tests 1. Inhaltliches Problem als Testproblem formulieren, Annahmen über X, Y,... festlegen. H 0 und H 1 bilden. 2. Signifikanzniveau α festlegen. 3. Prüfgröße/Teststatistik T festlegen T muss für sensibel für das Testproblem sein. Verteilung von T unter H0 muss (approximativ) bekannt sein. 4. Ablehnbereich festlegen. 5. Daten aus Stichprobe erheben und Wert der Prüfgröße T berechnen. 6. Testentscheidung: H 0 ablehnen, falls T in kritischen Bereich fällt.

22 Prinzipien des Testens von Hypothesen Fehlentscheidungen: H 0 ablehnen H 0 richtig Fehler 1. Art H 1 richtig H 0 nicht ablehnen Fehler 2. Art Alle Signifikanztests garantieren: P(Fehler 1. Art) α Aber: P(Fehler 2. Art) = P(H 0 nicht ablehnen H 1 richtig) =?

23 Prinzipien des Testens von Hypothesen Fehlentscheidungen: H 0 ablehnen H 0 richtig Fehler 1. Art H 1 richtig H 0 nicht ablehnen Fehler 2. Art Alle Signifikanztests garantieren: P(Fehler 1. Art) α Aber: P(Fehler 2. Art) = P(H 0 nicht ablehnen H 1 richtig) =? Gütefunktion: Die Gütefunktion g(θ), θ Θ, fasst P(Fehler 1. Art) und P(Fehler 2. Art) in einer Funktion zusammen: g(θ) := P(H 0 ablehnen θ)