Kapitel IX - Neyman-Pearson-Tests

Transkript

1 Institut für Volkswirtschaftslehre (ECON) Lehrstuhl für Ökonometrie und Statistik Kapitel IX - Neyman-Pearson-Tests Induktive Statistik Prof. Dr. W.-D. Heller Hartwig Senska Carlo Siebenschuh

2 Ausgangssituation: Einfache Testsituation Γ = {γ 0, γ 1 }, Γ 0 = {γ 0 }, Γ 1 = {γ 1 }, γ 0 γ 1 Damit: H 0 : γ = γ 0, H 1 : γ = γ 1. Kapitel IX - Neyman-Pearson-Tests 2

3 Unterscheidung bei zwei verschiedenen radioaktiven Elementen: Anzahl der Zufallsprozesse im Zeitraum t: Poissonverteilt mit Parameter λ hängt zusammen mit der Halbwertzeit des Elements. Substanz A habe Parameter λ 0 = 1 Substanz B habe Parameter λ 1 = 2 Kapitel IX - Neyman-Pearson-Tests 3

4 5 Versuche: Anzahl der Zufallsprozesse: X 1, X 2, X 3, X 4, X 5 Zahlenbeispiel: x 1 = 0, x 2 = 2, x 3 = 1, x 4 = 0, x 5 = 1 Wahrscheinlichkeit für dieses Ergebnis beim Parameter λ: P λ (X = x) = n j=1 λ x j x j! e λ = Für λ 0 = 1 : = e 5 2 = Für λ 1 = 2 : = 24 e 10 2 λ x 1!x 2!x 3!x 4!x 5! j=1 x j e nλ = 8e 10 = Kapitel IX - Neyman-Pearson-Tests 4

5 Also P λ0 (X = x) > P λ1 (X = x) und damit ist Substanz A eine sinnvolle Entscheidung. Kapitel IX - Neyman-Pearson-Tests 5

6 Bei H 0 : λ = λ 0 gegen H 1 : λ = λ 1 entspricht diese Vorgehensweise der Entscheidungsfunktion: { d0 P δ(x) = λ0 (X = x) > P λ1 (X = x) sonst. d 1 Kapitel IX - Neyman-Pearson-Tests 6

7 Das Entscheidungskriterium für d 0 lässt sich umformen: x j x j P λ0 (X = x) > P λ1 (X = x) λ j=1 0 e nλ 0 x 1!x 2!x 3!x 4!x 5! > λ j=1 1 e nλ 1 x 1!x 2!x 3!x 4!x 5! x j x j j=1 1 e nλ 1 ( ) n x λ1 j j=1 λ 2 j=1 λ0 e nλ 0 > λ enλ 1 e nλ 0 > n(λ 1 λ 0 ) > j=1 x j (ln λ 1 ln λ 0 ) j=1 x j < n(λ 1 λ 0 ) ln λ 1 ln λ 0 Kapitel IX - Neyman-Pearson-Tests 7

8 x j < n(λ 1 λ 0 ) ln(λ 1 ) ln(λ 0 ) j=1 Konkret für n = 5, λ 0 = 1 und λ 1 = 2: P λ0 (X = x) > P λ1 (X = x) 5 j=1 x j < 5 ln(2) = 7.21 Kapitel IX - Neyman-Pearson-Tests 8

9 Damit lautet die Entscheidungsfunktion in anderer Formulierung: δ(x) = d 0 d 1 5 x j < 7.21 (bzw. 7) j=1 sonst Damit gilt für die Fehlerwahrscheinlichkeit 1. Art: P λ0 (δ(x ) = d 1 ) = P λ0 X j 7.21 (nλ 0 ) k = k! = k=8 j=1 5 k k! e 5 = 1 7 k=0 k=8 5 k k! e 5 = e nλ 0 Kapitel IX - Neyman-Pearson-Tests 9

10 Der Fehler 2. Art (H 0 wird fälschlicherweise angenommen, wenn bei λ 1 Entscheidung d 0 getroffen wird, also ist.) Damit gilt für die Fehlerwahrscheinlichkeit 2. Art: P λ1 (δ(x ) = d 0 ) = P λ1 ( = 7 k=0 X j < 7.21) = j=1 10 k k! e 10 = j=1 7 (5λ 1 ) k k=0 k! x j 7 e 5λ 1 Kapitel IX - Neyman-Pearson-Tests 10

11 Für die vier Konstellationen für Parameter und Entscheidung gilt also: P.( ) λ = λ 0 λ = λ 1 d = d d = d und d 1 Wahrscheinlichkeiten für die Entscheidungen d 0 Verkleinerung der Fehlerwahrscheinlichkeit 1. Art durch Lockerung des Kriteriums für d 0 : P λ0 (X = x) > P λ1 (X = x) Kapitel IX - Neyman-Pearson-Tests 11

12 Neues Kriterium für d 0 mit k > 0: k P λ0 (X = x) P λ1 (X = x) 0 < k < 1) oder (Lockerung für k > 1, Verschärfung für P λ1 (X =x) P λ0 (X =x) k Kapitel IX - Neyman-Pearson-Tests 12

13 D.h. Entscheidung d 1 wird nur getroffen, wenn die Wahrscheinlichkeit für x bei λ 1 um den Faktor k größer ist als die Wahrscheinlichkeit für x bei λ 0 : P λ1 (X = x) P λ0 (X = x) > k P λ 1 (X = x) > kp λ0 (X = x) Das Verhältnis P λ1 (X = x) P λ0 (X = x) wird als Wahrscheinlichkeitsquotient bezeichnet. Kapitel IX - Neyman-Pearson-Tests 13

14 Im Beispiel gilt: P λ1 (X = x) P λ0 (X = x) = Damit ist (λ 0 < λ 1 ): P λ1 (X = x) P λ0 (X = x) k ( λ1 λ 0 ) n j=1 x j e n(λ 1 λ 0 ) x i ln k + n(λ 1 λ 0 ) ln λ 1 ln λ 0 Kapitel IX - Neyman-Pearson-Tests 14

15 Bei n = 5, λ 0 = 1, λ 1 = 2:... x i ln k + 5 ln 2 Damit lautet die Entscheidungsfunktion: d 0 x i δ k (x 1,..., x n ) = d 1 x i > ln k+5 ln 2 ln k+5 ln 2 Kapitel IX - Neyman-Pearson-Tests 15

16 Da n x i ganzzahlig ist, sind nur ganzzahlige Schranken für x i interessant: δ c (x 1,..., x n ) = mit c = 0, 1, 2, 3,.... d 0 d 1 x i c x i > c Kapitel IX - Neyman-Pearson-Tests 16

17 Für δ c erhalten wir die Fehlerwahrscheinlichkeit: P I (δ c, λ 0 ) = P λ0 ( P II (δ c, λ 1 ) = P λ1 ( X i > c) = X i c) = j=c+1 (nλ 0 ) j j! c (nλ 1 ) j j=0 j! e nλ 0 e nλ 1 Bei n = 5, λ 0 = 1, λ 1 = 2 können wir diese Werte abhängig von c tabellieren:... Kapitel IX - Neyman-Pearson-Tests 17

18 ... c P I (δ c, λ 0 ) P II (δ c, λ 1 ) Kapitel IX - Neyman-Pearson-Tests 18

19 Zusammenfassung: Prinzip der Vorgehensweise Vergleich der Wahrscheinlichkeiten des eingetretenen Stichprobenergebnisses bei den beiden Parametern Entscheidung d 1 für die Gegenhypothese nur, wenn die Plausibilität hoch ist, d.h. die Wahrscheinlichkeit bei γ 1 um den Faktor k größer ist als bei γ 0 Der Faktor k ist unter Beurteilung der Fehlerwahrscheinlichkeiten 1. und 2. Art festzulegen Kapitel IX - Neyman-Pearson-Tests 19

20 Falls P γ0 (X = x) 0 ist, kann damit die Entscheidung in Abhängigkeit vom Wahrscheinlichkeitsquotienten Q(x) = P γ 1 (X = x) P γ0 (X = x) festgelegt werden (disketer Fall). Ergänzt wird diese Definition durch Q(x) = für P γ0 (X = x) = 0. Kapitel IX - Neyman-Pearson-Tests 20

21 Im stetigen Fall verwenden wir die Dichtefunktion zur Definition des Wahrscheinlichkeitsquotienten wobei wir ebenfalls ergänzen. Q(x) = f X,γ 1 (x) f X,γ0 (x), Q(x) = für f X,γ0 (x) = 0 Kapitel IX - Neyman-Pearson-Tests 21

22 Ein Test auf der Basis des Wahrscheinlichkeitsquotienten mit Schranke k lautet damit { d0 Q(x) k δ k (x 1,..., x n ) = Q(x) > k Ein solcher Test wird auch als Neyman-Pearson-Test bezeichnet. Zur Beurteilung dieses Tests und der Festlegung der Schranke k berechnen wir die Fehlerwahrscheinlichkeit 1. Art aus d 1 P I (δ k, γ 0 ) = P γ0 (Q(X ) > k) = 1 P γ0 (Q(X ) k) = 1 F Q(X ),γ0 (k). Kapitel IX - Neyman-Pearson-Tests 22

23 Dabei ist F Q(X ) die Verteilungsfunktion der Zufallsvariable Q(X ) beim Parameter γ 0. Soll also die Fehlerwahrscheinlichkeit eine Schranke α nicht überschreiten (Test zum Niveau α), so muss zunächst die Verteilungsfunktion der Zufallsvariable Q(X ) und damit das (1 α)-quantil unter Gültigkeit von Parameter γ 0 bestimmt werden. Kapitel IX - Neyman-Pearson-Tests 23

24 Beispiele: Wahrscheinlichkeitsquotient 1. Bernoulli-Verteilung P p (X = x) = p Q(x) = P p 1 (X = x) P p0 (X = x) x i x i (1 p) n n = p 1 (1 p 1 ) n = x i p0 (1 p 0 ) n ( ) n p1 p 0 x i x i x i x i ( 1 p1 1 p 0 ) n x i Der Wahrscheinlichkeitsquotient hängt also direkt ab vom Wert der suffizienten und vollständigen Statistik T (x) = x i. Kapitel IX - Neyman-Pearson-Tests 24

25 Zur Berechnung der Verteilungsfunktion F Q(X ) stellen wir zunächst fest Q(x) = ( ) n p1 ) n x i x i ( 1 p1 k p 0 1 p 0 ( ) ( ) p1 ( ) 1 p1 x i ln + n x i ln ln k p 0 1 p 0 ( ) ( )) ( ) p1 1 p1 1 p1 x i (ln ln ln k n ln p 0 1 p 0 1 p 0 Kapitel IX - Neyman-Pearson-Tests 25

26 Für p 0 < p 1 und damit ln p 1 > ln p 0 und ln(1 p 0 ) > ln(1 p 1 ) : Q(x) k x i ln k n ln(1 p 1) + n ln(1 p 0 ) ln p 1 ln p 0 + ln(1 p 0 ) ln(1 p 1 ) Für p 0 > p 1 und damit ln p 1 < ln p 0 und ln(1 p 0 ) < ln(1 p 1 ) : Q(x) k x i ln k n ln(1 p 1) + n ln(1 p 0 ) ln p 1 ln p 0 + ln(1 p 0 ) ln(1 p 1 ) Kapitel IX - Neyman-Pearson-Tests 26

27 Damit ist ( ) P(Q(X ) k) = P X i ln k n ln(1 p 1) + n ln(1 p 0 ) ln p 1 ln p 0 + ln(1 p 0 ) ln(1 p 1 ) ( ) bzw. P X i ln k n ln(1 p 1) + n ln(1 p 0 ) ln p 1 ln p 0 + ln(1 p 0 ) ln(1 p 1 ) Kapitel IX - Neyman-Pearson-Tests 27

28 X i ist binomialverteilt mit Parameter p 0 bzw. p 1, also diskret mit ganzzahligen Werten. Der Wert der Verteilungsfunktion ändert sich damit nur bei ganzzahligen Werten der rechten Seite der Ungleichungen. Die Entscheidungsfunktion { d0 Q(x) k δ k (x 1,..., x n ) = Q(x) > k kann folglich auch direkt in Abhängigkeit vom Auswertungsergebnis bei der suffizienten und vollständigen Statistik n d 1 x i geschrieben werden:... Kapitel IX - Neyman-Pearson-Tests 28

29 ... abhängig von n x i: δ c (x 1,..., x n ) = d 0 d 1 x i c x i > c bzw. δ c (x 1,..., x n ) = d 0 d 1 x i c x i < c Die unterschiedlichen Ungleichheitszeichen sind plausibel, da bei p 0 < p 1 große Werte von n p 0 > p 1 aber eher für p 0 naheliegend sind. x i für p 1 sprechen, bei Kapitel IX - Neyman-Pearson-Tests 29

30 Formal folgt dies daraus, dass bei p 0 < p 1 der Wahrscheinlichkeitsquotient monoton in n x i steigt, bei p 0 > p 1 monoton in n x i fällt. Die Fehlerwahrscheinlichkeit 1. bzw. 2. Art kann dann unmittelbar aus der Binomialverteilung in Abhängigkeit von c berechnet werden. Für den Test zum Niveau α suchen wir ein c mit P p0 ( X i > c) α für p 0 < p 1 bzw. P p0 ( X i < c) α für p 0 > p 1 Kapitel IX - Neyman-Pearson-Tests 30

31 Zahlenbeispiel: Gesucht ist ein Test zum Niveau α = 0.05 für H 0 : p 0 = 0.1 gegen H 1 : p 1 = 0.2 mit Stichprobenumfang n = 10. Der Test lautet damit (p 0 < p 1 ) d 0 x i c δ c (x 1,..., x n ) = d 1 x i > c Kapitel IX - Neyman-Pearson-Tests 31

32 Also ist die Fehlerwahrscheinlichkeit 1. Art: P 0.1 ( ) ( X i > c = 1 P 0.1 = 1 c k=0 = 1 c k=0 ( n k ) X i c ) p k (1 p) n k ( 10 ) k 0.1 k (1 0.1) 10 k Kapitel IX - Neyman-Pearson-Tests 32

33 Die Werte der Summe entnehmen wir einer Tabelle der kumulierten Binomialverteilung und bekommen: c P( X i c) P( X i > c) Kumulierte Binomialverteilung für n = 10 und p = 0.1 δ c ist ein Test zum Niveau α = 0.05, wenn c = 3 oder größer gewählt wird. Kapitel IX - Neyman-Pearson-Tests 33

34 Die Fehlerwahrscheinlichkeit 2. Art ist P 0.2 ( X i c) c P( X i c) Kumulierte Binomialverteilung für n = 10 und p = 0.2 Man wird c = 3 wählen, um diese möglichst klein zu halten. Kapitel IX - Neyman-Pearson-Tests 34

35 Beispiel: Exponentialverteilung f X,λ (x 1,..., x n ) = Q(x) = f X,λ 1 (x 1, x 2,..., x n ) f X,λ0 (x 1, x 2,..., x n ) = λn 1 e n λe λ x i für x 1,..., x n > 0 λ 1 x i ( λ1 = λ n 0 x i λ 2 0 e λ ) n e (λ 1 λ 0 ) n x i Kapitel IX - Neyman-Pearson-Tests 35

36 Folglich gilt e (λ 1 λ 0 ) Q(x) = (λ 1 λ 0 ) ( λ1 λ 0 x i k ( λ0 λ 1 ) n e (λ 1 λ 0 ) n ) n x i k x i ln k + n(ln λ 0 ln λ 1 ) für λ 1 > λ 0 : für λ 1 < λ 0 : x i ln k + n(ln λ 0 ln λ 1 ) λ 0 λ 1 x i ln k + n(ln λ 0 ln λ 1 ) λ 0 λ 1 Kapitel IX - Neyman-Pearson-Tests 36

37 Damit haben wir für λ 1 > λ 0 den Test d 0 x i c = ln(k )+n(ln(λ 0 ) ln(λ 1 ) λ 0 λ 1 ) δ c (x 1,..., x n ) = d 1 x i < c = (Große Werte von x i sprechen bei der Exponentialverteilung für kleine λ.) und für λ 1 < λ 0 den Test d 0 x i c δ c (x 1,..., x n ) = d 1 x i > c Kapitel IX - Neyman-Pearson-Tests 37

38 Im Unterschied zu Beispiel 1 sind für c auch nichtganzzahlige Werte sinnvoll. Damit ist die Fehlerwahrscheinlichkeit 1. Art für λ 0 < λ 1 : P I (δ c, λ 0 ) = P λ0 ( für λ 0 > λ 1 : P I (δ c, λ 0 ) = P λ0 ( X i < c) X i > c) Kapitel IX - Neyman-Pearson-Tests 38

39 Zahlenbeispiel: Gesucht ist ein Test zum Niveau α = 0.1 für H 0 : λ 0 = 0.10 gegen H 1 : λ 1 = 0.15 beim Stichprobenumfang n = 8. Xi ist Erlang-verteilt mit Stufenzahl 8 und Parameter λ. Kapitel IX - Neyman-Pearson-Tests 39

40 Die Forderung lautet ( ) P I (δ c, λ 0 ) = P λ0 X i < c 0.1 für λ 0 = 0.1 und n = 8. Gesucht ist also das 0.1-Quantil der Erlang-Verteilung mit Parameter 0.1 und Stufenzahl 8, bzw. der Gamma-Verteilung mit α = 8 und β = = 10. Diesen Wert erhalten wir mit Excel 7.0 und der Funktion GAMMAINV zu Kapitel IX - Neyman-Pearson-Tests 40

41 Test zum Niveau α = 0.1 für H 0 : λ = 0.1 gegen H 1 : λ = 0.15 ist δ c (x 1,..., x n ) = d 0 d 1 x i x i < Bemerkung: Den Wert für λ 1 benötigen wir nicht zur Bestimmung des Tests zum Niveau α = 0.1 auf der Basis des Wahrscheinlichkeitsquotienten. Er wird nur zur Berechnung der Fehlerwahrscheinlichkeit 2. Art benötigt. Kapitel IX - Neyman-Pearson-Tests 41

42 Auch diese Fehlerwahrscheinlichkeit 2. Art ) P II (δ c, λ 1 ) = P λ1 ( X i c = 1 P λ1 ( X i < c erhalten wir mit Excel (jetzt mit der Funktion GAMMAVERT) mit: = Dieser Wert ist hoch. Bessere Werte bei diesem Niveau (α = 0.1) sind durch eine Erhöhung des Stichprobenumfangs möglich. Bei n = 16 erhalten wir die Testschranke c = bei Beibehaltung des Niveaus α = 0.1. Die Fehlerwahrscheinlichkeit 2. Art ist Bei n = 100 ist die Testschranke und die Fehlerwahrscheinlichkeit 2. Art ist Kapitel IX - Neyman-Pearson-Tests 42 )

43 Liegen die beiden Parameterwerte γ 0 und γ 1 nicht so dicht zusammen, ist die Testsituation günstiger: Für λ 1 = 0.3 erhalten wir bei n = 8 den identisch aussehenden Test zum Niveau α = 0.1 für H 0 : λ = 0.1 gegen H 1 : λ = 0.3 d 0 x i δ c (x 1,..., x n ) = d 1 x i < Kapitel IX - Neyman-Pearson-Tests 43

44 Die Fehlerwahrscheinlichkeit 2. Art ist jetzt: P II (δ c, 0.3) = P 0.3 ( X i 46.56) = 1 P 0.3 ( = X i < 46.56) Kapitel IX - Neyman-Pearson-Tests 44

45 Zusammenfassung der Erkenntnisse aus den Beispielen: 1. Die Tests auf der Basis des Wahrscheinlichkeitsquotienten liefern plausible Ergebnisse, da die Entscheidung jeweils von einer suffizienten Statistik abhängt. 2. Die Ungleichheitszeichen bei den Tests mit der vollständigen und suffizienten Statistik als Testgröße hängen davon ab, ob der Wahrscheinlichkeitsquotient monoton steigend oder fallend in der Statistik ist. In den Beispielen hängt dies davon ab, ob γ 0 < γ 1 oder γ 0 > γ 1 ist. 3. Zur Berechnung der Testschranke bei der vollständigen und suffizienten Statistik ist die Kenntnis des Parameterwerts γ 1 nicht erforderlich. γ 1 wird nur zur Berechnung der Fehlerwahrscheinlichkeit 2. Art benötigt. Kapitel IX - Neyman-Pearson-Tests 45

46 Frage: Ist ein Test zum Niveau α auf der Basis des Wahrscheinlichkeitsquotienten wirklich das beste Entscheidungsverfahren, also der beste Test zum Niveau α? Zur Konkurrenz zugelassen sind also nur die Tests zum Niveau α. Kapitel IX - Neyman-Pearson-Tests 46

47 Sei δ k ein Test auf der Basis des Wahrscheinlichkeitsquotienten zum Niveau α im diskreten Fall: { d0 k P δ c (x 1,..., x n ) = γ0 (X = x) P γ1 (X = x) sonst d 1 Das Niveau wird eingehalten, falls P I (δ k, γ 0 ) α ist. Angenommen es gilt P I (δ k, γ 0 ) = α, d.h. k und α sind so gewählt, dass die Fehlerwahrscheinlichkeit 1. Art genau α ist. Kapitel IX - Neyman-Pearson-Tests 47

48 Bemerkung: Da bei diskreten Zufallsvariablen nicht jedes Niveau exakt eingestellt werden kann, wird man zu jedem Faktor k (Schranke für den Warscheinlichkeitsquotienten) die Fehlerwahrscheinlichkeit 1. Art bestimmen und kennt so die Kombinationen von k und zugehörigem exakt eingehaltenem Niveau. Wenn der Wahrscheinlichkeitsquotient Q(X ) eine stetige Zufallsvariable ist, gibt es zu jedem Niveau eine Schranke k für den Wahrscheinlichkeitsquotienten, so dass der Test genau dieses Niveau exakt einhält. Kapitel IX - Neyman-Pearson-Tests 48

49 Sei δ ein anderer Test zum Niveau α. Was ergibt ein Vergleich von δ k und δ? A δ A δk K δk K δ Der grüne Bereich in der Graphik, der zum kritischen Bereich von δ gehört, ist bei δ k dem Annahmebereich zugeteilt, der blaue Bereich des Annahmebereichs von δ wird bei δ k dem kritischen Bereich zugeordnet. Kapitel IX - Neyman-Pearson-Tests 49

50 A δ A δk K δk K δ Für einen Punkt x 1 des blauen Bereichs ist die Wahrscheinlichkeit bei γ 1 um den Faktor k höher als bei γ 0. Bei δ gehört x 1 zum Annahmebereich, trägt also viel zur Fehlerwahrscheinlichkeit 2. Art bei δ bei. Kapitel IX - Neyman-Pearson-Tests 50

51 A δ A δk K δk K δ Ändern wir δ im Punkt x 1 von der Entscheidung d 0 zur Entscheidung d 1, so reduziert sich die Fehlerwahrscheinlichkeit 2. Art. Im Gegenzug dazu wird die Wahrscheinlichkeit für d 0 auch bei γ 0 kleiner die Fehlerwahrscheinlichkeit 1. Art steigt um P γ0 (X = x 1 ). Kapitel IX - Neyman-Pearson-Tests 51

52 A δ A δk K δk K δ Dies kompensieren wir durch einen Punkt x 2 aus dem grünen Bereich mit P γ0 (X = x 2 ) = P γ0 (X = x 1 ), indem wir die Entscheidung von d 1 auf d 0 ändern. x 2 gehört zum Annahmebereich von δ k k P γ0 (X = x 2 ) P γ1 (X = x 2 ). Kapitel IX - Neyman-Pearson-Tests 52

53 Durch die Änderung der Entscheidung bei δ in x 1 und x 2 wird bewirkt: bei der Fehlerwahrscheinlichkeit 1. Art: P I (δ, γ 0 ) + P γ0 (X = x 1 ) P γ0 (X = x 2 ) = P I (δ, γ 0 ) bei der Fehlerwahrscheinlichkeit 2. Art: P II (δ, γ 1 ) P γ1 (X = x 1 ) + P γ1 (X = x 2 ) < P II (δ, γ 1 ) k P γ0 (X = x 1 ) + k P γ0 (X = x 2 ) = P II (δ, γ 1 ) Kapitel IX - Neyman-Pearson-Tests 53

54 Also: Der Wechsel der Entscheidung in x 1 und x 2 beim Test δ wirkt sich bei der Fehlerwahrscheinlichkeit 1. Art nicht aus, bringt aber eine Verbesserung bei der Fehlerwahrscheinlichkeit 2. Art. Möglicherweise wird man keine Punkte x 1 und x 2 mit übereinstimmender Wahrscheinlichkeit bei γ 0 finden. Dies ist aber auch nicht nötig, da es genügt, eine Kombination von Punkten zu finden, bei denen dies richtig ist. Kapitel IX - Neyman-Pearson-Tests 54

55 Satz von Neyman-Pearson: 1. Für ein einfaches Testproblem H 0 : γ = γ 0 gegen H 1 : γ = γ 1 ist der Neyman-Pearson-Test { d0 k P δ c (x 1,..., x n ) = γ0 (X = x) P γ1 (X = x) sonst d 1 für k R, k > 0 bester Test zum Niveau P I (δ k, γ 0 ) = P γ0 (δ k (X ) = d 1 ). Kapitel IX - Neyman-Pearson-Tests 55

56 Satz von Neyman-Pearson: 2. Jeder andere Test δ mit übereinstimmenden Fehlerwahrscheinlichkeiten 1. und 2. Art stimmt fast sicher mit δ k überein: P(δ(X ) = δ k (X )) = 1 Kapitel IX - Neyman-Pearson-Tests 56

57 Achtung: Bei diskreten Zufallsvariablen nimmt P I (δ k, γ 0 ) für Neyman-Pearson-Tests δ k nur diskrete Werte bei der Variation von k an. Es kann also nicht zu jedem vogegebenen Niveau α ein Neyman-Pearson-Test als bester Test zu diesem Niveau gefunden werden. Kapitel IX - Neyman-Pearson-Tests 57

58 Wahrscheinlichkeitsquotient bei Existenz einer suffizienten Statistik: Nach dem Faktorisierungstheorem gilt im diskretem Fall: g(t (x), γ) h(x) und im stetigen Fall: P γ (X = x) = f X,γ (x) = g(t (x), γ) h(x) Kapitel IX - Neyman-Pearson-Tests 58

59 Damit gilt für den Wahrscheinlichkeitsquotienten: Q(x) = P γ 1 (X = x) P γ0 (X = x) = g(t (x), γ 1) h(x) g(t (x), γ 0 ) h(x) = g(t (x), γ 1) g(t (x), γ 0 ) (diskret) bzw. Q(x) = f X,λ 1 (x) f X,λ0 (x) = g(t (x), λ 1)h(x) g(t (x), λ 0 )h(x) = g(t (x), λ 1) g(t (x), λ 0 ) stetig Kapitel IX - Neyman-Pearson-Tests 59

60 Folgerung: Der Wahrscheinlichkeitsquotient hängt nur vom Auswertungsergebnis T (x) der suffizienten Statistik ab, d.h. Seien x, x Stichprobenergebnisse: T (x) = T ( x) Q(x) = Q( x) Der Neyman-Pearson-Test ist also eine Entscheidungsfunktion auf der Basis jeder suffizienten Statistik. Kapitel IX - Neyman-Pearson-Tests 60

61 Der Wahrscheinlichkeitsquotient für einparametrige Exponentialfamilien: Y sei eine stetige Zufallsvariable mit einparametriger Exponentialfamilie, d.h. f Y,γ (y) = a(γ)h(y) e b(γ)τ(y) Dann gilt für die Stichprobe mit Zurücklegen: f X,γ (x 1,..., x n ) = n a(γ)h(x i ) e b(γ)τ(x i ) = a(γ) n ( n h(x i )) e b(γ)τ(x i ) Kapitel IX - Neyman-Pearson-Tests 61

62 und für den Wahrscheinlichkeitsquotienten Q(x) = f X,γ 1 (x 1,..., x n ) f X,γ0 (x 1,..., x n ) = = = a(γ 1 ) n ( n h(x i )) e a(γ 0 ) n ( n h(x i )) e ( ) a(γ1 ) n e a(γ 0 ) ( a(γ1 ) a(γ 0 ) b(γ 1 )τ(x i ) b(γ 0 )τ(x i ) b(γ 1 )τ(x i ) b(γ 0 )τ(x i ) e ) n e (b(γ 1) b(γ 0 )) n τ(x i ) Kapitel IX - Neyman-Pearson-Tests 62

63 Folgerungen: 1.Q(x) hängt nur von der Statistik T (x) = n τ(x i ) ab. 2. a) b(γ 1 ) b(γ 0 ) > 0: Q(x) steigt monoton in T (x), also Q(x) k T (x) = τ(x i ) c für zusammengehörende Werte von k und c. Analog im diskreten Fall. Kapitel IX - Neyman-Pearson-Tests 63

64 b) b(γ 1 ) b(γ 0 ) < 0: Q(x) fällt monoton in T (x), also Q(x) k T (x) = τ(x i ) c für zusammengehörende Werte von k und c. Analog im diskreten Fall. Kapitel IX - Neyman-Pearson-Tests 64

65 Anwendung: 1. Bernoulli-Verteilung P p (Y = y) = p y (1 p) 1 y = e y ln p (1 y) ln(1 p) e = e y(ln p ln(1 p)) e ln(1 p) b(p) = ln p ln(1 p) d 0, x i c p 0 < p 1 b(p 1 ) b(p 0 ) > 0 δ(x) = d 1, x i > c d 0, x i c p 0 > p 1 b(p 1 ) b(p 0 ) < 0 δ(x) = d 1, x i < c Kapitel IX - Neyman-Pearson-Tests 65

66 2. Binomialverteilung ( ) n P p (Y = k) = p k (1 p) n k = k ( n = k b(p) = ln p ln(1 p) ) e k(ln p ln(1 p)) e n ln(1 p) ( ) n e k ln p (n k) ln(1 p) e k Kapitel IX - Neyman-Pearson-Tests 66

67 3. Poisson-Verteilung P λ (Y = k) = λk k! e λ = 1 k! ek ln λ e λ b(λ) = ln λ Kapitel IX - Neyman-Pearson-Tests 67

68 4. Exponentialverteilung f Y,λ (y) = 1 [0, ) (y)λ e λy b(λ) = λ Kapitel IX - Neyman-Pearson-Tests 68

69 5. Normalverteilung a) σ 2 bekannt (Test bezüglich des Mittelwerts) b(µ) = µ, τ(y) = y, d.h. T (x) = σ2 µ 0 < µ 1 b(µ 1 ) b(µ 0 ) > 0 δ(x) = µ 0 > µ 1 b(µ 1 ) b(µ 0 ) < 0 δ(x) = d 0 d 1 d 0 d 1 x i x i c > c x i c < c Kapitel IX - Neyman-Pearson-Tests 69

70 5. Normalverteilung b) µ bekannt (Test bezüglich Varianz) b(σ 2 ) = 1 2σ 2, τ(y) = (y µ)2, d.h. T (x) = σ 0 < σ 1 b(σ 1 ) b(σ 0 ) > 0 δ(x) = σ 0 > σ 1 b(σ 1 ) b(σ 0 ) < 0 δ(x) = d 0 d 1 d 0 d 1 (x i µ) 2 (x i µ) 2 c (x i µ) 2 > c (x i µ) 2 c (x i µ) 2 < c Kapitel IX - Neyman-Pearson-Tests 70

71 Zusammenfassung: Neyman-Pearson-Tests Verteilung T (x) Parameter- Monotonie des Neymanbeziehung Wahrscheinlichkeits- Pearsonquotienten in T (x) Test Bernoulli- und xi p 0 < p 1 steigend (1) Binomialverteilung p 0 > p 1 fallend (2) Poisson-Verteilung xi λ 0 < λ 1 steigend (1) λ 0 > λ 1 fallend (2) Exponential- xi λ 0 < λ 1 fallend (2) verteilung λ 0 > λ 1 steigend (1) Normalverteilung xi µ 0 < µ 1 steigend (1) σ 2 bekannt µ 0 > µ 1 fallend (2) Normalverteilung (xi µ) 2 σ0 2 < σ1 2 steigend (1) µ bekannt σ0 2 > σ1 2 fallend (2) Kapitel IX - Neyman-Pearson-Tests 71

72 Zusammenfassung { d0 T (x) c δ c (x) = T (x) > c d 1 (1) { d0 T (x) c δ c (x) = T (x) < c d 1 Testschranke c steuert Fehlerwahrscheinlichkeit 1. Art, d.h. das Niveau. Bei vorgegebenem Niveau ist c geeignet zu bestimmen. (2) Kapitel IX - Neyman-Pearson-Tests 72