Einführung in die statistische Testtheorie

Transkript

1 1 Seminar Simulation und Bildanalyse mit Java von Benjamin Burr und Philipp Orth

2 2 Inhalt 1. Ein erstes Beispiel Die Gütefunktion 4. Gleichmäßig beste Tests (UMP-Tests)

3 1 Einführendes Beispiel 3 1 Einführendes Beispiel Problem: Supermarkt kauft n = 1000 Tomaten beim Großhändler Zwei verschiedene Handelsklassen, die sich im Durchschnittsgewicht und im Preis unterscheiden Filialleiter möchte prüfen, ob die gelieferten Tomaten der bezahlten Handelsklasse entsprechen

4 1 Einführendes Beispiel 4 Intuitives Vorgehen: Filialleiter bestimmt das Durchschnittsgewicht, indem er das Gesamtgewicht der Tomaten durch ihre Anzahl teilt (arithmetisches Mittel) Bei signifikantem Abweichen vom Durchschnittsgewicht der Handelsklasse, wird er die Lieferung reklamieren

5 1 Einführendes Beispiel 5 Formalisierung: Gewicht einer Tomate wird aufgefasst als Realisierung einer Zufallsvariablen X Annahme: Gewicht einer Tomate ist normalverteilt Erwartungswert µ 0, µ 1 entspricht dem bekannten Durchschnittsgewicht der entsprechenden Handelsklasse Standardabweichung σ 0, σ 1 entspricht der durchschnittlichen Abweichung vom Mittelwert Gewichte sind unabhängig voneinander

6 2 Einführung in die statische Testtheorie 6 2 Einführung in die statische Testtheorie 2.1 Die statistische Hypothese 2.2 Fehlerwahrscheinlichkeiten 2.3 Beispiel: Alternativtest

7 2 Einführung in die statische Testtheorie Die statistische Hypothese Definition (Statistische Hypothese): Eine statistische Hypothese ist eine Annahme über die Verteilung einer Zufallsvariablen: Annahme: F ϑ D 0 = {F ϑ : ϑ Θ 0 } Die Hypothese heißt einfach, falls Θ 0 = {ϑ 0 }, ϑ 0 Θ, ansonsten heißt sie zusammengesetzt. Die Annahme ϑ Θ 0 heißt Nullhypothese und ϑ Θ 1 Alternativhypothese: H 0 : ϑ Θ 0 vs. H 1 : ϑ Θ 1

8 2 Einführung in die statische Testtheorie 8 Bezug zum Beispiel D = {N(µ, σ 2 ) : µ, σ > 0} ϑ = (µ, σ 2 ) Θ = {(µ o, σ 2 0), (µ 1, σ 2 1)} F ϑ = Verteilungsfunktion von X in Abhängigkeit von ϑ = (µ, σ 2 ) Θ i = {(µ i, σ 2 i )} einfache Hypothesen, i = 0, 1

9 2 Einführung in die statische Testtheorie 9 Bei einem Test wird ein kritischer Bereich K X (= X n (Ω) festgelegt mit folgender Entscheidungsvorschrift: n ) x K H 0 ablehnen aufgrund des Tests: Entscheidung d 1 x steht im Widerspruch zu H 0 x X \K H 0 nicht verwerfen aufgrund des Tests: Entscheidung d 0 x steht nicht im Widerspruch zu H 0

10 2 Einführung in die statische Testtheorie Fehlerwahrscheinlichkeiten H 0 H 1 d 0 richtig Fehler 2.Art β(ϑ) d 1 Fehler 1.Art α(ϑ) richtig

11 2 Einführung in die statische Testtheorie 11 Ziel: Durch geeignete Wahl von K sollen die Wahrscheinlichkeiten für Fehlentscheidungen minimiert werden: α(ϑ) = P ϑ (X K), ϑ Θ 0 Wahrscheinlichkeit für Fehler 1.Art β(ϑ) = P ϑ (X / K), ϑ Θ 1 Wahrscheinlichkeit für Fehler 2.Art Stets soll gelten: α(ϑ) α ϑ Θ 0

12

13

14 2 Einführung in die statische Testtheorie 12 Vorgehen: 1. Gemäß einer Vermutung über den Wert von ϑ wird eine Nullhypothese H 0 und eine Alternativhypothese H 1 formuliert. 2. Ein Signifikanzniveau α wird festgelegt (übliche Werte sind: α = 0, 1; α = 0, 05; α = 0, 01). 3. Eine Teststatistik T und ein Ablehnungsbereich K werden gewählt, so dass α(ϑ) α ϑ Θ Daten werden erhoben und analysiert 5. H 0 wird zugunsten von H 1 verworfen, falls T (x) K, sonst nicht.

15 2 Einführung in die statische Testtheorie 13 Bemerkung: Es besteht eine Asymmetrie in den Hypothesen H 0, H 1 : Das Risiko einer Entscheidung d 1 wird kontrolliert. Das Risiko einer Entscheidung d 0 wird i.a. nicht kontrolliert, oft gilt: sup β(ϑ) = 1 α ϑ Θ 1

16 2 Einführung in die statische Testtheorie 14 Definition (Test): 1. Ein (randomisierter) Test ist eine meßbare Abbildung ϕ : X [0, 1], wobei ϕ(x) die Wahrscheinlichkeit für die Entscheidung d 1 (Ablehnung von H 0 ) angibt. 2. Im Falle ϕ(x ) = {0, 1} heißt der Test deterministisch und K = ϕ 1 (1) Ablehnungsbereich oder kritischer Bereich. 3. ϕ heißt Test der Nullhypothese H 0 : ϑ Θ 0 gegen H 1 : ϑ Θ 1 zum Niveau α, α (0, 1), falls gilt Bezeichnung: ϕ Φ α E ϑ ϕ(x) α ϑ Θ 0

17 2 Einführung in die statische Testtheorie 15 Bemerkung: Für deterministische Tests gilt: E ϑ ϕ(x) = 1 P ϑ (X K) + 0 P ϑ (X / K) = P ϑ (X K) α ϑ Θ 0 Randomisierte Test haben häufig die Gestalt: ϕ(x) = 1 für T (x) > c γ für T (x) = c 0 für T (x) < c

18 2 Einführung in die statische Testtheorie Beispiel: Alternativtest Sei X = (X 1,..., X n ) eine einfache Stichprobe zu X N(µ, σ 2 ) (n = 1000 Tomaten als Stichprobe) Parameterbereich: Θ = {µ 0, µ 1 } ϑ = µ ϑ 0 = µ 0 ϑ 1 = µ 1 µ 0, µ 1, µ0 < µ1 0 < σ 2 0, σ 2 1 < bekannt Θ 0 = {µ 0 } Θ 1 = Θ\Θ 0 = {µ 1 } Teststatistik: T (X) = T (X 1,..., X n ) = X = 1 n n ν=1 X ν H 0 : µ = µ 0 vs. H 1 : µ = µ 1

19 2 Einführung in die statische Testtheorie 17 Entscheidungsvorschrift: H 0 ablehnen, falls X > c (c = gesuchter kritischer Wert) Wahl von c: Der kritische Wert c wird nun so gewählt, dass die Wahrscheinlichkeit, die Nullhypothese H 0 fälschlicherweise zu verwerfen, maximal α sein kann. Man kann sich also mit 1 α Wahrscheinlichkeit sicher sein, dass bei Verwerfung von H 0 die Entscheidung richtig ist

20 2 Einführung in die statische Testtheorie 18 K = {x = (x 1,..., x n ) n : x > c} ϕ(x) = ϕ(x 1,..., x n ) = I {x K} Berechnung von c: P ϑ0 ( X > c) = P ϑ0 ( X µ 0 σ 0 n > c µ 0 σ 0 n) N(0,1) = 1 Φ( c µ 0 σ 0 n)! = α = z 1 α = c µ 0 σ 0 n = c = µ 0 + z 1 α σ 0 n

21 2 Einführung in die statische Testtheorie 19 Wahrscheinlichkeit für den Fehler zweiter Art: β(ϑ 1 ) = P ϑ1 (X / K) = P ϑ1 ( X c) = Φ( c µ 1 σ 1 n) Verhalten der Fehlerwahrscheinlichkeiten: α klein c, β(ϑ 1 ) groß n groß α(ϑ 0 ), β(ϑ 1 ) beide klein Wie ändert sich die Dichte von X bei wachsendem n?

22

23

24 3 Die Gütefunktion 20 3 Die Gütefunktion 3.1 Definition 3.2 Beispiel: Gaußtest

25 3 Die Gütefunktion Definition Definition (Gütefunktion): 1. Die Funktion G ϕ : Θ [0, 1], G ϕ (ϑ) = E ϑ ϕ(x) heißt Gütefunktion des Tests. Die Einschränkung auf Θ 1 heißt auch Macht (power) des Tests. 2. Ein Test ϕ Φ α heißt unverfälscht, falls inf G ϕ (ϑ) α ϑ Θ 1 3. Die Testfolge (ϕ n ) zum Niveau α heißt konsistent, falls lim G ϕ n (ϑ) = 1 ϑ Θ 1. n

26 3 Die Gütefunktion 22 Bemerkung: 1. G ϕ (ϑ) gibt die Wahrscheinlichkeit an, H 0 bei Vorliegen des Parameters ϑ Θ abzulehnen. 2. Ein Test ist unverfälscht, wenn die Wahrscheinlichkeit für d 1 (Entscheidung gegen H 0 ) bei vorliegendem ϑ Θ 1 immer mindestens so groß ist wie bei vorliegendem ϑ Θ Die Eigenschaft der Konsistenz ist eine Minimalanforderung an eine Testfolge: Die Wahrscheinlichkeit für den Fehler 2.Art konvergiert für jedes feste ϑ Θ 1 gegen 0. Mit wachsendem n soll die Entscheidung besser werden.

27 3 Die Gütefunktion Beispiel Gauß-Test Test des Erwartungswertes ; σ 2 = σ 2 0 bekannt Parameterbereich: Θ = ; ϑ = µ Θ Teststatistik: T (X) = T (X 1,..., X n ) = X Verschiedene Fälle: H 0 : µ = µ 0 vs. H 1 : µ µ 0 H 0 : µ µ 0 vs. H 1 : µ > µ 0 H 0 : µ µ 0 vs. H 1 : µ < µ 0

28 3 Die Gütefunktion 24 Vorstellung zu: Entscheidungsvorschrift: H 0 : µ = µ 0 vs. H 1 : µ µ 0 H 0 ablehnen, falls X µ 0 > c

29 3 Die Gütefunktion 25 α = P µ0 ( X µ 0 > c) = 1 P µ0 ( c X µ 0 c) = 1 P µ0 ( c X µ 0 c n n n) σ 0 σ 0 σ 0 N(0,1) = 1 [Φ( c c n) Φ( n)] σ 0 σ 0 = 1 [Φ( c σ 0 n) (1 Φ( c σ 0 n))] = 2(1 Φ( c σ 0 n))

30 3 Die Gütefunktion und somit bekommt man den kritischen Wert c: Φ( c α n) = 1 σ 0 2 = c = z 1 α 2 σ 0 n Für den kritischen Bereich K gilt: K = {x n : x µ 0 > c} Testfunktion: ϕ(x) = ϕ(x 1,..., x n ) = I {x K}

31 3 Die Gütefunktion 27 Gütefunktion: G ϕ (µ) Def = E µ ϕ(x) = E µ ϕ(x 1,..., X n ) det.test = 1 P µ (ϕ(x) = 1) + 0 P µ (ϕ(x) = 0) = P µ (X K) = 1 P µ ( c X µ 0 c) =... = 1 Φ(z 1 α + µ 0 µ 2 σ 0 n) + Φ( z1 α 2 + µ 0 µ σ 0 n)

32

33 3 Die Gütefunktion 28 Der Test ist unverfälscht: G ϕ (µ) α µ µ 0 Der Test ist außerdem konsistent, da für µ µ 0 gilt: G ϕ (µ) = 1 Φ(z 1 α + µ 0 µ 2 n 1 σ 0 n) + Φ( z1 α 2 + µ 0 µ σ 0 n)

34

35

36

37 4 Gleichmäßig beste Tests (UMP-Tests) 29 4 Gleichmäßig beste Tests (UMP-Tests) 4.1 Motivation 4.2 Das Lemma von Neyman und Pearson

38 4 Gleichmäßig beste Tests (UMP-Tests) Motivation Ziel: Unter allen Niveau-α-Tests ϕ Φ α suchen wir den gleichmäßig Mächtigsten. Definition (Gleichmäßig bester Test): Ein Test ϕ Φ α heißt gleichmäßig bester Test zum Niveau α, falls G ϕ (ϑ) G ϕ (ϑ) ϑ Θ 1, ϕ Φ α

39 4 Gleichmäßig beste Tests (UMP-Tests) 31 Annahmen: Einfache Hypothesen: Θ = {ϑ 0, ϑ 1 }, Θ 0 = {ϑ 0 }, Θ 1 = {ϑ 1 } Betrachtete Dichten: f 0 (x) = f 0 (x 1,..., x n ) = f ϑ0 (x 1,..., x n ) Dichte unter H 0 f 1 (x) = f 1 (x 1,..., x n ) = f ϑ1 (x 1,..., x n ) Dichte unter H 1 Ferner sei: f 0 (x) + f 1 (x) > 0 (x 1,..., x n ) X

40 4 Gleichmäßig beste Tests (UMP-Tests) 32 Definition (Neyman-Pearson-Test): Ein Test ϕ heißt Neyman-Pearson-Test (NP-Test), falls: ϕ (x) = 1, falls γ, falls 0, falls f 1 (x) f 0 (x) > c f 1 (x) f 0 (x) = c f 1 (x) f 0 (x) < c x X mit 0 c <, 0 γ 1. Im Fall f 0 (x) = 0 ist hier f 1(x) f 0 (x) = zu setzen.

41 4 Gleichmäßig beste Tests (UMP-Tests) Das Lemma von Neyman und Pearson Satz (Das Lemma von Neyman und Pearson): 1. Zu jedem α (0, 1) existiert ein NP-Test ϕ mit: α(ϕ ) := E ϑ0 ϕ (X) = α 2. Jeder NP-Test ϕ ist (gleichmäßig) bester Test zum Niveau α(ϕ ): G ϕ (ϑ 1 ) G ϕ (ϑ 1 ) ϕ Φ α(ϕ )

42

43 4 Gleichmäßig beste Tests (UMP-Tests) 34 Beweis (Teil 1): Bezeichnungen: q(x) = f 1(x) f 0 (x) A t = {q(x) > t} Dichtequotient Ablehnungsbereich in Abhängigkeit von t h(t) := P ϑ0 (A t ) = P ϑ0 (q(x) > t) W. für Fehler 1.Art

44 4 Gleichmäßig beste Tests (UMP-Tests) 35 Eigenschaften von h: h ist monoton nicht wachsend h ist rechtsseitig stetig Setze: c := inf{t 0 : h(t) α}, 0 c <

45

46 4 Gleichmäßig beste Tests (UMP-Tests) 36 Zwei Fälle sind zu unterscheiden: 1. h(c) = h(c ) = setze γ = 0 2. h(c) < h(c ) = setze γ = α h(c) h(c ) h(c) Dann gilt 0 γ 1 und α(γ) Def = E ϑ0 ϕ (X) = E ϑ ϕ (X 1,..., X n ) rand.test = 1 P ϑ0 (q(x) > c) + γ P ϑ0 (q(x) = c) = h(c) + γ(h(c ) h(c)) = α

47 4 Gleichmäßig beste Tests (UMP-Tests) 37 Beweis (Teil 2): Z.z.: G ϕ (ϑ 1 ) G ϕ (ϑ 1 ) ϕ Φ α (ϕ ) Sei dazu ϕ ein beliebiger Test zum Niveau α, d.h.: α(ϕ) α(ϕ ) Wir bilden eine Partition des Stichprobenraumes X : M = {(x 1,..., x n ) X : ϕ(x 1,.., x n ) > ϕ (x 1,.., x n )} M + = {(x 1,..., x n ) X : ϕ(x 1,.., x n ) < ϕ (x 1,.., x n )} M = = {(x 1,..., x n ) X : ϕ(x 1,.., x n ) = ϕ (x 1,.., x n )}

48 4 Gleichmäßig beste Tests (UMP-Tests) 38 Dann gilt: x M = ϕ (x) < 1 ϕ (x) 1 = f 1 (x) cf 0 (x) x M + = ϕ (x) > 0 ϕ (x) 0 = f 1 (x) cf 0 (x)

49 4 Gleichmäßig beste Tests (UMP-Tests) 39 Dann folgt: G ϕ (ϑ 1 ) G ϕ (ϑ 1 ) = E ϑ1 [ϕ (X) ϕ(x)] = [ϕ (x) ϕ(x)]f 1 (x)dµ(x) X = M M + M }{{ = } = 0 [ϕ (x) ϕ(x)]cf 0 (x)dµ(x) M + [ϕ (x) ϕ(x)]cf 0 (x)dµ(x) M + = ce ϑ0 [ϕ (X) ϕ(x)] = c[α(ϕ ) α(ϕ)] 0

50 4 Gleichmäßig beste Tests (UMP-Tests) 40 Literatur Bosch, K.: Grosses Lehrbuch der Statistik, Oldenbourg Verlag, Cassella G., Berger R.: Statistical Inference, Duxbury Press, Heiler: Statistische Schätz- und Testtheorie, Vorlesungsskript WS 2003/2004, Universität Konstanz. Jensen, U.: Skript zur Vorlesung Statistik I, Vorlesungsskript SS 2003, Universität Ulm. Pruscha, H.: Vorlesung über Mathematische Statistik, Teubner Verlag, 2000.