5 Statistische Testverfahren

Transkript

1 70 5 Statistische Testverfahren 5.1 Grundlegende Definitionen und Binomialtest Beispiel 5.1.1: (Fortsetzung von Beispiel ) Wir nehmen an, dass das Medikament als wenig bedenklich eingestuft werden kann, wenn es in höchstens 5% aller Fälle zu besagter Nebenwirkung führt, und wollen dies überprüfen. Dazu müssen wir uns zwischen den Hypothesen Das Medikament ist wenig bedenklich, d.h. π 0.05 (Nullhypothese), und Das Medikament ist bedenklich, d.h. π > 0.05 (Alternative), entscheiden. Die Entscheidung soll auf Grundlage der Beobachtungen x = (x 1,...,x n ) R n erfolgen, hier n = 20. Hierzu konstruieren wir eine Stichprobenfunktion ψ : R n {0,1} mit { 1 Entscheidung für Alternative ψ(x) = 0 Entscheidung für Nullhypothese. Wir werden uns für die Alternative entscheiden, wenn der Anteil von Fällen (hier Personen) mit Nebenwirkung in der Stichprobe groß ist, während wenige Fälle von Nebenwirkungen nicht gegen die Nullhypothese sprechen: { 1 falls x > c ψ(x) = für c [0,1] geeignet. 0 falls x c Definition 5.1.2: Sei (Ω,A,P) statistischer Raum und P 0 sowie P 1 disjunkte Teilmengen von P mit P = P 0 P 1. Sei P das tatsächlich vorliegende Wahrscheinlichkeitsmaß. Wir nennen die Aussagen H 0 : P P 0 H 1 : P P 1 Nullhypothese und Alternativhypothese oder kurz Alternative. Ist P 0 (bzw. P 1 ) einelementig, so heißt H 0 (bzw. H 1 ) einfach, andernfalls zusammengesetzt. Ist P = {P θ : θ Θ} eine Parametrisierung von P, so gibt es Θ 0,Θ 1 Θ mit Θ = Θ 0 Θ 1 und P θ P i θ Θ i, i = 0,1. Damit kann man H 0 und H 1 äquivalent schreiben als H 0 : θ Θ 0 und H 1 : θ Θ 1. Seien X 1,...,X n ZVn und X = (X 1,...,X n ). Eine Stichprobenfunktion ψmitψ(x) {0,1} x = (x 1,...,x n ) R n heißt(deterministische) Testfunktion, die Statistik Ψ = ψ(x) heißt (deterministischer) Test.

2 Definition 5.1.3: Sei Ψ = ψ(x) ein Test für H 0 : θ Θ 0 gegen H 1 : θ Θ 1. a) K 1 = {x R n : ψ(x) = 1} =: {Ψ = 1} heißt kritischer Bereich oder Ablehnungsbereich von Ψ. b) Ablehnen von H 0, d.h. ψ(x) = 1, obwohl H 0 richtig ist, d.h. θ Θ 0, heißt Fehler 1. Art. Nicht ablehnen von H 0, d.h. ψ(x) = 0, obwohl H 0 falsch ist, d.h. θ Θ 1, heißt Fehler 2. Art. c) β : Θ [0,1] mit β(θ) = E θ (Ψ) = P θ (Ψ = 1) = P X 1,...,X n θ (K 1 ) heißt Gütefunktion von Ψ. Für festes θ Θ heißt β(θ) die Güte von Ψ für / bei θ und gibt die Wahrscheinlichkeit H 0 abzulehnen an. Für θ Θ 1 istdiesdiewahrscheinlichkeiteinerrichtigenentscheidung, fürθ Θ 0 ist β(θ) die Wahrscheinlichkeit eines Fehlers 1. Art. d) Ψ heißt Test zum (Signifikanz-)Niveau α, falls θ Θ 0 : P X 1,...,X n θ (K 1 ) = P θ (Ψ = 1) = β(θ) α für ein vorgegebenes α (0, 1), d.h., wenn die Wahrscheinlichkeit eines Fehlers 1. Art durch α beschränkt ist. Bemerkung 5.1.4: BeistatistischenSignifikanztestswerdenH 0 undh 1 nichtgleichbehandelt. ManentscheidetsichnurfürH 1,wenndieDatenH 0 unplausibelerscheinen lassen. Statistische Signifikanztests kontrollieren hierbei nur die Fehlerwahrscheinlichkeit 1. Art, nicht aber die 2. Art: Es kann Werte θ Θ 1 geben, für die 1 β(θ) nahe 1 ist. Wenn wir nachweisen wollen, dass eine Hypothese (zum Signifikanzniveau, d.h. der Fehlerwahrscheinlichkeit, α) richtig ist, müssen wir sie somit als die Alternative unseres Testproblems formulieren. Sprechweisen: ψ(x) = 1: H 0 verwerfen, Entscheidung für H 1. ψ(x) = 0: H 0 nicht verwerfen, Entscheidung nicht gegen H 0. Vierfeldertafel: H 0 wahr ψ(x) = 0 richtige Entscheidung H 1 wahr Fehler 2. Art ψ(x) = 1 Fehler 1. Art richtige Entscheidung 71

3 72 Beispiel 5.1.5: (Fortsetzung von Beispiel 5.1.1) Wir wollen den Test so einstellen, dass er Test zum Niveau α = 10% wird, d.h. wir wählen c [0,1] so, dass π Θ 0 = (0,0.05] : P π (Ψ = 1) = P π ( X > c) 0.1. Nun ist P π ( X > c) für alle c 0 eine monoton wachsende Funktion von π. Mit X = n i=1 X i Bin(n,π) und j = nc gilt nämlich: β(π) = P π ( X > c) = P π (X > nc) = n i=j+1 ( n i ) π i (1 π) n i P π( X > c) π n 1 ( ) n {iπ = i 1 (1 π) n i (n i)π i (1 π) n i 1} +nπ n 1 i = = i=j+1 n! (j +1)!(n j 1)! (j +1)πj (1 π) n j 1 n! (j +1)!(n j 1)! (n j 1)πj+1 (1 π) n j 2 n! + (j +2)!(n j 2)! (j +2)πj+1 (1 π) n j 2 n! (j +2)!(n j 2)! (n j 2)πj+2 (1 π) n j 3 n! (n 1)!1! πj (1 π) n j 1 n! j!(n j 1)! πj (1 π) n j 1 0 n! (n 1)!1! 1 πn 1 + ( ) n nπ n 1 n Es genügt also, das Niveau im größten Wert aus Θ 0 passend einzustellen, d.h. bei π 0 = Für n = 20: ( ) 20 P π0 (X = 0) = = ( ) 20 P π0 (X 1) = = = ( ) 20 P π0 (X 2) = = =

4 73 P π0 (X > 2) = < 0.1 ( ) 20 P π0 (X 3) = = = P π0 (X > 3) = < 0.05 Somit erhalten wir einen Test zum Niveau α = 10% (sogar zum Niveau α = 7.5%), wenn wir H 0 bei mehr als nc = 2 Fällen mit Nebenwirkungen unter den n = 20 betrachteten Fällen ablehnen, und zum Niveau α = 5% (sogar α = 1.5%), wenn wir die nur für mehr als nc = 3 Fälle tun. Behauptung 5.1.6: Seien P X = {Bin(n,π) : π (0,1)}, Θ 0 = (0,π 0 ], Θ 1 = (π 0,1) für ein π 0 (0,1) fest. Sei c α das α-fraktil der Bin(n,π 0 )-Verteilung. Dann ist Ψ = ψ(x) mit { 1, falls x > c α ψ(x) = 0, falls x c α ein Test zum Niveau α für H 0 : π π 0 gegen H 1 : π > π 0. Beispiel 5.1.7: (Fortsetzung von Beispiel 5.1.5) a) Mit Behauptung folgt, dass Ψ in Beispiel ein Test zum Niveau α = 10% für H 0 : π 0.05 gegen H 1 : π > 0.05 ist. b) Wegen β(π 0 ) = ist Ψ aus nach Beh sogar Test zum Niveau α = 7.5%, das Niveau α = 10% wird nicht voll ausgeschöpft. Wir nennen solche Tests konservativ. Variation: Falls x = 2 beobachtet wird, dann würfele: Entscheide Ψ = 1 mit Wahrscheinlichkeit 250/1887, mit Wahrscheinlichkeit1637/1887dagegen Ψ = 0.WirlehnenH 0 alsostetsab,wennψ abgelehnt hätte, zusätzlich aber auch noch im Grenzfall X = c = 0.1. Somit: P π0 =0.05(H 0 wird abgelehnt) = P π0 =0.05(X 3) P π 0 =0.05(X = 2) = = Also ist bei dieser Variation die Wahrscheinlichkeit für einen Fehler 1. Art bei π 0 = 0.05 genau gleich α = 0.1. Bei dieser Variation muss die

5 74 Wahrscheinlichkeit für einen Fehler 2. Art π > 0.05 kleiner sein als beim ursprünglichen Test Ψ, während die Wahrscheinlichkeit für einen Fehler 1. Art kleiner gleich α bleibt, siehe Beh Darstellung der Testfunktion der Variation Ψ: 1, x > 2 ψ(x) = , x = 2 0, x < 2 Solche randomisierte Tests können Anwendern jedoch nur schwer vermittelt werden und sind in der Praxis wenig üblich. Definition 5.1.8: Unter den Voraussetzungen von Definition gilt: a) Eine Stichprobenfunktion ψ : R n [0,1] heißt (randomisierte) Testfunktion und die Statistik Ψ = ψ(x) heißt (randomisierter) Test. b) Die Abbildung β : Θ [0,1] mit β(θ) = E θ (Ψ) = E θ (ψ(x)) heißt Gütefunktion von Ψ bzw. von ψ. c) Ψ heißt (randomisierter) Test zum (Signifikanz-)Niveau α, wenn θ Θ 0 : β(θ) α. Behauptung 5.1.9: Gelte X Bin(n,π) mit π (0,1) unbekannt. Sei c N 0 und γ (0,1) so, dass P π0 (X > c)+γp π0 (X = c) = α. Dann ist Ψ = ψ(x) mit 1 für x > c ψ(x) = γ für x = c 0 für x < c ein(randomisierter)testzumniveauαfürh 0 : π π 0 gegenh 1 : π > π 0.

6 75 Definition : Sei T = t(x) eine Statistik und Ψ = ψ(x) ein Test der Form 1 für t(x) > c ψ(x) = γ für t(x) = c 0 für t(x) < c für Konstanten c R und γ [0,1). Dann heißt T Teststatistik, Ψ oberer Test bezüglich T, c kritischer Wert und γ Randomisierungskonstante. Falls 1 für t(x) < c ψ(x) = γ für t(x) = c, 0 für t(x) > c so heißt Ψ entsprechend unterer Test bezüglich T. Beispiel : (Fortsetzung von Beispiel 5.1.5) Der Test Ψ in Beispiel ist ein oberer Test bezüglich X = n i=1 X i. Zu einem unteren Test kämen wir bei einer Vertauschung der Null- und der Alternativhypothese, d.h. bei einem Test von H 0 : π 0.05 gegen H 1 : π < Diesen würde man durchführen, um die Unbedenklichkeit des Medikamentes nachzuweisen, während wir in der hier gewählten Formulierung des Testproblems höchstens die Bedenklichkeit des Medikamentes, nicht aber die Unbedenklichkeit zeigen können. Mit welcher Wahrscheinlichkeit würden wir aufdecken, dass ein Medikament in 20% aller Fälle zur Nebenwirkung führt? Gesucht: Güte des Tests β(π) = P π (Ψ = 1) = P π ( X > c) für π = 0.2. β(π) = P π ( X > c) = P π (X > nc) = = 20 i=3 Und für π = 0.1? ( 20 i ) 0.2 i 0.8 n i = 1 β(π) = 1 n i= nc +1 ( n i ) π i (1 π) n i 2 ( ) i 0.8 n i = i 2 ( ) i 0.9 n i = i

7 76 Güte pi Abbildung 6: Gütefunktion des deterministischen (dünn) und des randomisierten Binomialtests (dick). Nur letzterer ist unverfälscht, d.h. erreicht für alle π > π 0 eine Güte β(π) α. Aufgrund der Stetigkeit von π muss hierfür β(π 0 ) = α gelten, d.h. der Test auf dem Rand ähnlich sein. Wir suchen gleichmäßig beste unverfälschte Niveau α-tests mit β(π) möglichst groß π Θ 1. Für π Θ 0 fordern wir dabei nur β(π) α. Mit welcher Wahrscheinlichkeit lehnen wir H 0 fälschlicherweise ab, falls π = 0.01? 2 ( ) 20 β(π) = i 0.99 n i = i Definition : Ein Test Ψ für H 0 : θ Θ 0 gegen die Alternative H 1 : θ Θ 1 zum Niveau α wird unverfälscht genannt, wenn für seine Gütefunktion β gilt β(θ) α θ Θ 1. Ψ wird auf dem Rand ähnlich genannt, wenn β(θ) = α θ Θ 0 Θ 1.

8 77 Beispiel : Ein Schmerzmittel soll auf seine Wirksamkeit untersucht werden. Hierzu wird es an n = 100 Probanden mit chronischen Schmerzen verabreicht, die in randomisierter Reihenfolge eine Woche lang das Medikament und eine Woche lang ein Placebo einnehmen, und anschliessend über die Wirksamkeit befragt werden. Beobachtung für Proband i = 1,...,n: 1 besseres Befinden bei Einnahme des Medikaments x i = 0 besseres Befinden bei Einnahme des Placebos. Ist das Medikament unwirksam, gilt P(X i = 1) = 0.5, i = 1,...,n. Der Hersteller des Medikaments vermutet hingegen, dass das Medikament bei 50% aller Patienten eine echte Wirkung entfaltet, was P(X i = 1) = 0.75 bedeuten würde. Statistisches Modell: (Ω,A,P) statistischer Raum P = {P π : π [0,1]} Parametrisierung. X 1,...,X n u.i.v. ZVn mit P X 1 π = Bin(1,π). Fragestellung: Der Hersteller will auf dem Signifikanz-Niveau α = 5% die Wirksamkeit des Medikaments nachweisen, dass also π > 0.5 wahr ist. Test-Situation: Teststatistik: Test: H 0 : π 0.5 gegen H 1 : π > 0.5 T = n X i Bin(n,π) i=1 Ψ = ψ(t) = 1 für T > c 0 für T c, wobei c so zu wählen ist, dass wir einen Test zum Signifikanz-Niveau α = 5% erhalten. Es gelte also π Θ 0 = [0,0.5]: 0.05 P π (T > c) = 1 P π (T c) = 1 F π (c) F π (c) 0.95, wobei F π die Verteilungsfunktion der Bin(100,π) sei.

9 78 c = n würde diese Bedingung erfüllen, dann würden wir H 0 aber nie ablehnen, gleich, wie groß die Wirksamkeit des Medikaments ist. Wir suchen also c möglichst klein unter obiger Nebenbedingung, um einen Test mit einer möglichst hohen Güte zu erhalten. Gemäß Beh bzw genügt die Betrachtung des Grenzwerts π 0 = 0.5. Wir könnten mit c = 0 beginnend c sukzessive erhöhen, bis erstmals F π=0.5 (c) 0.95 erfüllt ist, was aber viel Aufwand bedeuten würde. Einfacher: Approximativer Binomialtest Angesichts des großen Stichprobenumfangs können wir die Binomial- über die Normalverteilung approximieren: ( ) 0.95! T nπ 0 F π0 (c) = P π0 (T c) = P π0 nπ0 (1 π 0 ) c nπ 0 nπ0 (1 π 0 ) Φ ( u 0.95 c 50 5 c nπ 0 nπ0 (1 π 0 ) ) ( ) c 50 = Φ 5 c 50+5u 0.95 = , wir wählen c möglichst klein unter dieser Bedingung, um die Güte des Tests zu maximieren, und verwerfen H 0 daher im Falle T 59. Für das vom Hersteller vermutete π = 0.75 erhalten wir die Güte β(0.75) = P π=0.75 (T > c) = 1 P π=0.75 (T c) ( ) T nπ = 1 P π=0.75 c nπ nπ(1 π) nπ(1 π) 1 Φ ( 58.5 nπ nπ(1 π) ) = 1 Φ = 1 Φ( ) 1 ( ) /4 Exakte Rechnung mittels der R-Funktion pbinom ergibt c = 58 x P 0.5 (T x) und β(0.75) = P 0.75 (T > 58) = 1 P 0.75 (T 58) =

10 79 Beispiel : Ein Hersteller liefert Glühbirnen 1. und 2. Qualität, deren Lebensdauer durch Exp(0.01) bzw. Exp(0.0125)-verteilte ZVn beschrieben werde. Wir wollen überprüfen, ob eine Lieferung vom Umfang n = 49 Glühbirnen von 1. oder von 2. Qualität war. Statistisches Modell: (Ω, A, P) statistischer Raum Parametrisierung P = {P θ : θ {0.01,0.0125}} Lebendauern X 1,...,X 49 der Glühbirnen u.i.v. ZVn mit P X 1 θ = Exp(θ). Da wir bei Beanstandungen in der Beweispflicht sind, testen wir oder gleichwertig H 0 : P X 1 = Exp(0.01) gegen H 1 : P X 1 = Exp(0.0125) H 0 : θ = 0.01 gegen H 1 : θ = Verwendete Teststatistik: Arithmetisches Mittel X von X 1,...,X 49. Testfunktion: Da die erwartete Lebensdauer unter H 1 niedriger ist als unter H 0, verwenden wir ψ(x 1,...,x n ) = 1 falls x < c 0 falls x c, und bestimmen c so, dass (zumindest approximativ) gilt β(0.01) = P θ=0.01 (X < c) = Rechnung unter Verwendung des Zentralen Grenzwertsatzes: ( n P θ ( X X 1/θ < c) = P θ < n c 1/θ ) ( ) n c 1/θ Φ 1/θ 1/θ 1/θ ( ) ( ) n c 1/θ n c 100 u 0.05 = = 1/θ 100 c = u 0.05 = = 76.5 n 7 für θ = θ 0 = Wir sollten die Lieferung also beanstanden, wenn die beobachtete durchschnittliche Lebenszeit x unter 76.5 Tagen liegt.

11 80 Definition : Eine Folge (Ψ n ψ n (X 1,...,X n ) : n N) von Tests zum Niveau α für H 0 : θ Θ 0 gegen die Alternative H 1 : θ Θ 1 wird konsistent genannt, falls für die Folge der zugehörigen Gütefunktionen (β n : n N) gilt β n (θ) n 1 θ Θ 1 Bemerkung : Die meisten Tests sind konsistent. Daher kann man verschiedene Tests für dasgleichetestproblemnichtanhandderasymptotischengütelim n β n (θ) für festes θ vergleichen, sondern betrachtet lokale Alternativen, die mit wachsendem n näher an Θ 0 heranrücken. Für Θ 0 = {θ 0 } z.b. betrachtet mandiegüte β n (θ n ) für einefolgeθ n θ 0,oft mitθ n = θ 0 +c/ n, wenn fürdiesefolgedergrenzwertlim n β n (θ n )existiert.manwirdeinentest vorziehen, der gleichmäßig bessere (asymptotische) Güte hat. Behauptung : Sei(Ω,A,P) einstatistischerraummitparametrisierungp = {P θ : θ Θ} und τ : Θ R eine parametrische Funktion. a) Sei{Ψ κ : θ Θ mit τ(θ) = κ}einefamilievon(nicht-randomisierten) Tests derart, dass für alle θ Θ mit τ(θ) = κ gilt E θ (Ψ κ ) α. Dann ist B = b(x 1,...,X n ) mit b(x 1,...,x n ) = {κ : ψ κ (x 1,...,x n ) = 0} ein Konfidenzbereich für τ(θ) zum Konfidenzniveau 1 α. b) Ist umgekehrt b(x 1,...,X n ) ein (zweiseitiges) Konfidenzintervall für τ(θ) zum Konfidenzniveau 1 α, so ist Ψ = ψ(x 1,...,X n ) mit { 0, θ 0 b(x 1,...,X n ) ψ(x 1,...,x n ) = 1, θ 0 / b(x 1,...,X n ) ein Test zum Niveau α für H 0 : θ θ 0 gegen H 1 : θ θ 0. Bemerkung : Die Konfidenzintervalle für die Binomialverteilung aus Behauptung können aus Behauptung hergeleitet werden, wie auch die anderen in Abschnitt 4.2 vorgestellten Konfidenzintervalle.

12 81 Beispiel : Die Anzahl der Zerfälle in einer radioaktiven Substanz in einem festen Zeitintervall sei P oi(λ)-verteilt, wobei λ proportional zur Masse µ ist, so dass µ aus λ errechnet werden kann. In einem Behälter befinde sich eine unbekannte Menge µ dieser Substanz in einem Stoffgemisch. Innerhalb eines Zeitintervalls werden x = 2357 Zerfälle gezählt. Gesucht: Zweiseitiges Konfidenzintervall für λ zum Konfidenzniveau 1 α = 0.95 (aus dem ein Konfidenzintervall für µ abgeleitet wird). Konstruktion nach Satz mit einem zweiseitigen Test Ψ λ = ψ λ (X), 1 falls x < l(λ) oder x > u(λ) ψ λ (x) = 0 falls l(λ) x u(λ) mit l(λ) so, dass α/2 P λ (X < l(λ)) = l(λ) 1 p λ (i), wobei p λ (i) = λi i! e λ, und u(λ) so, dass α/2 P λ (X > u(λ)) = i=u(λ)+1 p λ (i), wodurch P λ (Ψ λ = 1) = P λ (X < l(λ))+p λ (X > u(λ)) α. Wir wählen l(λ) unter diesen Bedingungen möglichst groß und u(λ) möglichst klein, um die Güte des Tests zu maximieren. Konfidenzintervall damit: B(x) = {λ > 0 : l(λ) x u(λ)} Zum Glück müssen wir nicht für jedes λ die Grenzen l(λ) und u(λ) berechnen: l(λ) und u(λ) sind nämlich beide monoton wachsend in λ. Für λ 1 < λ 2 ist der Dichtequotient p λ1 p λ2 (i) := p λ 1 (i) p λ2 (i) = λi 1 e λ1 i! i! λ i 2e λ 2 = ( λ1 monoton falled in i. Daraus folgt c 0 c c p λ1 (i) p λ2 (i) ( ) λ 2 ) i e (λ 1 λ 2 )

13 82 Fall 1: p λ1 /p λ2 (c) 1: c p λ1 (i) = c Fall 2: p λ1 /p λ2 (c) < 1: c p λ1 (i) = 1 p λ1 p λ2 (i)p λ2 (i) i=c+1 p λ1 (i) = 1 c p λ1 p λ2 (c)p λ2 (i) = p λ 1 p λ2 (c) i=c+1 Wegen ( ) gilt l(λ 2 ) l(λ 1 ) und u(λ 2 ) u(λ 1 ). p λ1 p λ2 (i)p λ2 (i) 1 Wir suchen daher λ 1 (x) als das kleinste λ mit x u(λ) und λ 2 (x) als das größte λ mit x l(λ). Dann ist B(x) = [λ 1 (x),λ 2 (x)]. Dies könnten wir durch Ausprobieren numerisch lösen. c p λ2 (i) c p λ 2 (i) i=c+1 p λ2 (i) = An dieser Stelle hilft uns aber auch ein bekannter Zusammenhang zwischen der Poisson- und der χ 2 -Verteilung weiter: Für Y χ 2 2(c+1) gilt Damit c λ i x u(λ) x l(λ) i! e λ = P λ (X c) = P(Y > 2λ) c λ i i! e λ γ 2λ χ 2 2(c+1),1 γ x x 1 und weiter für α = 5% und x = 2357: λ i i! e λ 1 α/2 λ 0.5χ 2 2(x+1),α/2 λ i i! e λ α/2 λ 0.5χ 2 2x,1 α/2 λ 1 (x) = 0.5χ , ( ) = λ 2 (x) = 0.5χ , ( ) =

14 Likelihood-Quotienten Tests Definition 5.2.1: Ein Test Φ zum Niveau α für H 0 : θ Θ 0 gegen H 1 : θ Θ 1 heißt trennschärfster Test für H 0 : θ Θ 0 gegen H 1 : θ Θ 1 zum Niveau α, wenn er die Fehlerwahrscheinlichkeit 2. Art unter allen Tests zum Niveau α minimiert, d.h., falls für jeden anderen Test Ψ mit E θ (Ψ) α θ Θ 0 gilt, dass E θ (Ψ ) E θ (Ψ) θ Θ 1. Definition 5.2.2: P X = {P X θ : θ Θ} mit Θ R wird einparametrige Exponentialfamilie genannt, falls P X θ θ Θ eine Dichte f θ besitzt der Form f θ (x) = C(θ)h(x)exp(A(θ)t(x)). Behauptung 5.2.3: Sind X 1,...,X n u.i.v. mit {P X 1 θ : θ Θ} einparametrige Exponentialfamilie, dann formt {P X 1,...,X n θ : θ Θ} ebenfalls eine einparametrige Exponentialfamilie mit Dichte ( n ) ( ) n f θ (x 1,...,x n ) = (C(θ)) n h(x i ) exp A(θ) t(x i ). i=1 i=1 Beispiel 5.2.4: (Einparametrige Exponentialfamilien) a) {Bin(n,π) : π (0,1)} mit n N fest: ( ) n f π (x) = π x (1 π) n x I {0,1,...,n} (x) x ( ) ( ) x n π = I {0,1,...,n} (x)(1 π) n x 1 π ( ) { ( ) n π = (1 π) n I {0,1,...,n} exp ln x 1 π = C(π)h(x) exp{a(π)t(x)} } x

15 84 b) {Poi(µ) : µ > 0}: f µ (x) = µx x! e µ I N0 (x) = e µ 1 exp(ln(µ)x) = C(µ)h(x)exp{A(µ)t(x)} x! c) {Exp(λ) : λ > 0} f λ (x) = λe λx I [0, ) (x) = λi [0, ) (x)e λx d) {Erl(n,λ) : λ > 0} mit n N fest e) {N(µ,σ 2 ) : µ R} mit σ 2 > 0 fest f) {N(µ,σ 2 ) : σ 2 > 0} mit µ R fest = C(λ)h(x) exp{a(λ)t(x)} Definition 5.2.5: Sei (Ω,A,P) statistischer Raum und P = {P 0,P 1 }. Seien X 1,...,X n ZufallsvariablenunddiegemeinsamenVerteilungenP X 1,...,X n 0 undp X 1,...,X n 1 seien entweder beide stetig oder beide diskret, jeweils mit Dichten f 0 und f 1. Dann heißt L : R n R { } mit 0, falls f 1 (x 1,...,x n ) = 0 f L(x 1,...,x n ) = 1 (x 1,...,x n ) f 0 (x 1,...,x n ), falls f 0(x 1,...,x n ) 0, falls f 0 (x 1,...,x n ) = 0 < f 1 (x 1,...,x n ) Likelihoodquotient oder auch Dichtequotient von P 0 und P 1. Wenn es eine monoton wachsende Funktion h : R R { } und eine Stichprobenfunktion t : R n R gibt, so dass x 1,...,x n R : L(x 1,...,x n ) = h(t(x 1,...,x n )), dann sagt man, dass der Likelihoodquotient monoton wachsend in t ist. Behauptung 5.2.6: Eine einparametrige Exponentialfamilie mit streng monoton wachsender Funktion A(θ) besitzt einen monotonen Likelihoodquotienten in t(x).

16 85 Satz 5.2.7: (Neyman-Pearson Lemma) Sei (Ω,A,P = {P 0,P 1 }) ein statistischer Raum, X 1,...,X n ZVn und L der Likelihoodquotient von P X 1,...,X n 1 und P X 1,...,X n 0. Wenn k R + und γ [0,1) erfüllen, dass P X 1,...,X n 0 (L > k)+γp X 1,...,X n 0 (L = k) = α, dann ist der Test Ψ = ψ (X 1,...,X n ) mit der Testfunktion ψ, 1 falls L(x 1,...,x n ) > k ψ (x 1,...,x n ) = γ falls L(x 1,...,x n ) = k 0 falls L(x 1,...,x n ) < k ein Test zum Niveau α für H 0 : P = P 0 gegen H 1 : P = P 1, und für jeden anderen Test Ψ = ψ(x 1,...,X n ) zum Niveau α gilt E 1 (Ψ) E 1 (Ψ ), der Test Ψ minimiert also die Ws keit eines Fehlers 2. Art unter allen Tests zum Niveau α. Korollar 5.2.8: Ist unter den Voraussetzungen von Satz der Dichtequotient L sogar streng monoton wachsend in einer Stichprobenfunktion t, so läßt sich der Neyman-Pearson Test Ψ aus darstellen als 1 falls t(x 1,...,x n ) > c ψ (x 1,...,x n ) = γ falls t(x 1,...,x n ) = c 0 falls t(x 1,...,x n ) < c für ein geeignet gewähltes c R und γ [0,1) mit P 0 (t(x 1,...,X n ) > c)+γp 0 (t(x 1,...,X n ) = c) = α,

17 86 Beispiel 5.2.9: Seien X 1,...,X n u.i.v. N(µ,1)-verteilt mit µ {µ 0,µ 1 } und µ 1 > µ 0. Wir testen H 0 : µ = µ 0 gegen H 1 : µ = µ 1. Aus der Dichte ( ) ( ) n 1 f µ (x 1,...,x n ) = exp 1 n (x i µ) 2 2π 2 erhalten wir den Likelihoodquotienten (LQ) ( ) ( ) n 1 exp 1 n (x i µ 1 ) 2 2π 2 i=1 L(x 1...,x n ) = ( ) ( ) n 1 exp 1 n (x i µ 0 ) 2 2π 2 i=1 ( ) = exp 1 n (x i µ 1 ) n (x i µ 0 ) i=1 i=1 ( 1 n ( ) ) = exp x 2 2 i +2x i µ 1 µ 2 1 +x 2 i 2x i µ 0 +µ 2 0 i=1 ( n ( = exp (µ 1 µ 0 ) x i )exp n ( µ µ 0) ) 2 also ist der LQ streng monoton wachsend in t = x. Wegen Satz suchen wir k R und γ [0,1) mit i=1 i=1 P µ0 (L > k)+γp µ0 (L = k) = α Wegen der strengen Monotonie von L in x gibt es k R ein c R > k > c mit L(x 1,...,x n ) = k x = c, < k < c wir können den Test also über x formulieren, mit c und γ so, dass P µ0 (X > c)+γp µ0 (X = c) = α ( ) Wegen X N(µ,1/n) ist P µ0 n(x µ0 ) > u 1 α = α, wir können c = µ 0 +u 1 α / n und γ = 0 wählen und erhalten die Testfunktion ψ 1, falls (x µ 0 ) n > u 1 α (x 1,...,x n ) = 0, falls (x µ 0 ). n u 1 α

18 87 Satz : Sei(Ω,A,P) einstatistischerraummitparametrisierungp = {P θ : θ Θ}, wobei Θ R. Seien X 1,...,X n ZVn und T = t(x 1,...,X n ) oberer Test bezüglich T, d.h. c R und γ [0,1) mit 1 falls t(x 1,...,x n ) > c ψ (x 1,...,x n ) = γ falls t(x 1,...,x n ) = c, 0 falls t(x 1,...,x n ) < c und es gelte P θ0 (t(x 1,...,X n ) > c)+γp θ0 (t(x 1,...,X n ) = c) = α. a) Falls θ < θ 0 gilt, dass der Dichtequotient L(θ,θ 0 ) = f θ /f θ0 fast sicher (f.s.) monoton fallend in t ist, so ist Ψ ein Test zum Niveau α für H 0 : θ θ 0 gegen H 1 : θ > θ 0. b) Falls θ > θ 0 gilt, dass der Dichtequotient L(θ,θ 0 ) = f θ /f θ0 fast sicher (f.s.) monoton wachsend in t ist, so gilt für jeden Test Ψ mit E θ0 (Ψ) α, dass θ > θ 0 : E θ (Ψ) E θ (Ψ ). Beweis: a) Wie Satz / b) Analog zu /

19 88 Beispiel : (Fortsetzung von Beispiel 5.2.9) a) Für bel. µ < µ 0 gilt, dass L(µ,µ 0 ) = f µ(x 1,...,x n ) f µ0 (x 1,...,x n ) =... ( n = exp (µ µ 0 ) x i )exp i=1 ( n 2 ( µ 2 µ 2 0) ) monoton fallend in x ist: Die Vor. aus Satz a) ist erfüllt und Ψ ist Test zum Signifikanz-Niveau α für b) Für bel. µ > µ 0 gilt, dass H 0 : µ µ 0 vs. H 1 : µ > µ 0. L(µ,µ 0 ) = f µ(x 1,...,x n ) f µ0 (x 1,...,x n ) =... wie oben monoton wachsend in x ist: Die Vor. aus Satz b) ist erfüllt und Ψ hat unter allen Tests zum Signifikanz-Niveau α für H 0 : µ µ 0 vs. H 1 : µ > µ 0 überall ( gleichmäßig ) maximale Güte. Definition : Ein Test Ψ = ψ(x 1,...,X n ) für H 0 : θ Θ 0 gegen H 1 : θ Θ 1 mit sup f θ (x 1,...,x n ) θ Θ 1 falls 1 sup f θ (x 1,...,x n ) > k θ Θ 0 sup f θ (x 1,...,x n ) θ Θ ψ(x 1,...,x n ) = γ falls 1 sup f θ (x 1,...,x n ) = k, θ Θ 0 0 falls sup f θ (x 1,...,x n ) θ Θ 1 sup f θ (x 1,...,x n ) < k θ Θ 0 fürgeeignetgewähltekonstantenk R + undγ [0,1)heißt(allgemeiner) Likelihood-Quotienten Test.

20 Tests bei Normalverteilung Situation 5.3.1: Seien X 1,...,X n u.i.v. mit X 1 N(µ,σ 2 ), µ R,σ 2 > 0. Sei Xn = n i=1 X i undsn 2 = n i=1 (X i X n ) 2 /(n 1).µ 0 Rseigegeben. Definition 5.3.2: In Situation mit σ 2 = σ0 2 bekannt sei x n = n i=1 x i/n. Dann wird der Test Ψ := ψ (X 1,...,X n ) mit { 1, falls n x n µ 0 ψ (x 1,...,x n ) = σ 0 > u 1 α 0, falls n x n µ 0 σ 0 u 1 α einseitiger Gauss-Test für H 0 : µ µ 0 gegen H 1 : µ > µ 0 genannt. Bemerkung 5.3.3: a) Betrachtet man die ZVn Y 1 = X 1 /σ 0,...,Y n = X n /σ 0 N(µ/σ 0,1), so zeigt Beispiel , dass der einseitige Gauss-Test ein Test zum Signifikanzniveau α ist und unter allen Niveau-α-Tests in dieser Situation maximale Güte hat. Das Einhalten des Signifikanzniveaus ergibt sich hierbei aus der Monotonie des Likelihoodquotienten, oder auch daraus, dass für alle µ µ 0 gilt P µ ( n X µ0 σ 0 X µ0 n n X µ σ 0 ) σ 0 > u 1 α P µ ( n X µ σ 0 N(0,1) > u 1 α ) = α b) Der Gauss-Test hat für die Praxis den gravierenden Nachteil, dass er nur bei bekannter Varianz σ0 2 anwendbar ist, was nur selten der Fall ist. In der Praxis verwendet man daher statt der Teststatistik die Teststatistik n Xn µ 0 σ 0 µ=µ 0 N(0,1) n Xn µ 0 S 2 n µ=µ 0 t n 1, vergleiche Korollar

21 90 Behauptung 5.3.4: In Situation ist der Test Ψ = ψ(x 1,...,X n ) mit 1, falls n x n µ 0 > t n 1;1 α s 2 ψ(x 1,...,x n ) = n 0, falls n x n µ 0 t n 1;1 α s 2 n ein Test zum Niveau α für H 0 : µ µ 0 gegen H 1 : µ > µ 0 und wird einseitiger t-testgenannt. t n 1;1 α seihierbeidas(1 α)-quantil dert n 1 - Verteilung. Beispiel 5.3.5: Zur Untersuchung der Zentrierung einer Waage werden Objekte mit bekanntemgewichtgewogenunddiedifferenzenx i zwischendengemessenen und den wahren Gewichten registriert, 1 i n. Modell: X 1,...,X n u.i.v., P X 1 = { N(µ,σ 2 ) : µ R,σ 2 > 0 }. Wenn die Waage richtig eingestellt ist, sollte µ = 0 gelten, für µ > 0 oder µ < 0 ist die Waage hingegen falsch eingestellt. Wir testen also mit µ 0 = 0 die Hypothese H 0 : µ = µ 0 gegen H 1 : µ µ 0. Auch hier ist es sinnvoll, die Teststatistik T = t(x 1,...,X n ) mit t(x 1,...,x n ) = n x n µ 0 s 2 n ausbeh.5.3.4zunutzen.diesmalwerdenwirh 0 aberdannablehnen,wenn t(x 1,...,x n ) sehr groß oder sehr klein ist. Entstehender Test: Ψ = ψ(x 1,...,X n ) mit 1, ψ(x 1,...,x n ) = wenn n x n µ 0 t n 1;α/2 t n 1;1 α/2 0, s 2 n (t n 1;α/2, t n 1;1 α/2 ) Bei Werten von x n n µ 0 t s 2 n 1;1 α/2 (beachtet n 1;α/2 = t n 1;1 α/2 ) n lehnen wir H 0 also auf dem Signifikanzniveauαab, während die Daten andernfalls auf dem Niveau α nicht gegen H 0 sprechen.

22 91 Bemerkung 5.3.6: a) Der ZGWS bei unbekannter Varianz zeigt, dass der t-test auch beinichtnormalverteiltenzvnx 1,...,X n dasniveauαapproximativ einhält, wenn der Stichprobenumfang n groß ist. b) Beim Test aus Beispiel handelt es sich um einen zweiseitigen Test zum Niveau α. Auch der einseitige t-test aus Beh ist ein Test für H 0 : µ = µ 0 gegen H 1 : µ µ 0 zum Niveau α, der für (µ,σ 2 ) mit µ > µ 0 sogar eine größere Güte hat als der zweiseitige t-test zum gleichen Niveau. Für µ < µ 0 hat der einseitige t-test aus Beh hingegeneinegütekleinerα,diefürµ sogargegen0geht,d.h. der einseitige t-test ist nicht unverfälscht im zweiseitigen Testproblem. c) Das kleinste Signifikanzniveau α, auf dem wir die Nullhypothese H 0 ablehnen würden, wird p-wert des Tests genannt. In der Situation von Beispiel wäre dieser Wert p gegeben durch die Lösung der Gleichung x n n µ 0 = t s 2 n 1;1 p/2. n Für n = 10, x n = 0.91, µ 0 = 0, s 2 n = 4.23 gilt = = t 9;0.902 und damit 1 p/2 = 0.902, d.h p = 2 ( ) = Wenn unser vorher (!) gewähltes Signifikanzniveau α also weniger als 19.5% beträgt, sprechen die Daten auf dem Niveau α nicht gegen die Hypothese, dass die Waage richtig eingestellt ist. Ist hingegen x n = 1.41 (sonst alles gleich), so ergibt sich = = t 9; und damit 1 p/2 = , d.h p = 2 ( ) = : Dann würden wir H 0 auf dem 10% Niveau ablehnen, nicht aber auf dem 5% Niveau. Der p-wert wird gerne als ein measure of evidence gegen die Nullhypothese eingesetzt.

23 92 Beispiel 5.3.7: (Fortsetzung von Beispiel 5.3.5) In Erweiterung der Fragestellung aus Bspl wollen wir nun noch die GenauigkeitderWaageüberprüfen,gemessenüberdieVarianzσ 2 der Messung. Wir testen hierzu, ob σ 2 höchstens den Wert σ 2 0 = 4[g 2 ] beträgt, also H 0 : σ 2 4 gegen H 1 : σ 2 > 4. Teststatistik: T = t(x 1,...,X n ) = (n 1)S2 n 4. Test: Ψ = ψ(x 1,...,X n ) mit 1 2 (n 1)s n ψ(x 1,...,x n ) = falls 0 4 > χ 2 n 1;1 α χ 2 n 1;1 α Hier ist der Wert der Teststatistik /4 = kleiner als der kritische Wert χ 2 9;0.95 = für α = 0.05, so dass wir H 0 zum 5%-Niveau nicht ablehnen würden. Wegen χ 9;0.609 = beträgt der p-wert ungefähr 0.291, die Daten sprechen also wenig gegen H 0. Behauptung 5.3.8: In Situation ist der Test Ψ = ψ(x 1,...,X n ) mit 1 2 (n 1)s > χ 2 n n 1;1 α ψ(x 1,...,x n ) = falls 0 σ0 2 χ 2 n 1;1 α ein Test zum Niveau α für H 0 : σ 2 σ 2 0 gegen H 1 : σ 2 > σ 2 0, wobei χ 2 n 1;1 α das (1 α)-quantil der χ 2 n-verteilung ist, und wird einseitiger χ 2 -Streuungstest genannt. Bemerkung 5.3.9: Der zweiseitige χ 2 -Streuungstest mit der Testfunktion 1 2 (n 1)s < χ 2 n n 1;α/2 ψ(x 1,...,x n ) = falls > χ2 n 1;1 α/2 0 σ0 2 [χ 2 n 1;α/2,χ2 n 1;1 α/2 ] ist ein Test zum Niveau α für H 0 : σ 2 = σ 2 0 gegen H 1 : σ 2 σ 2 0. Dieser Test kann nicht einfacher geschrieben werden, weil die χ 2 -Verteilung keine Symmetriebedingung erfüllt.

24 93 Beispiel : Zum Vergleich zweier Materialien für Schuhsohlen werden von n = 10 Paar Schuhen jeweils einer mit Material A und einer mit Material B besohlt und der Abrieb beider Sohlen nach einer gewissen Tragezeit gemessen. Wir erhalten also für jedes Paar Schuhe i = 1,...,n zwei Messungen x i und y i für Material A bzw. B. Annahmen: x 1,...,x n Realisierung von u.i.v. ZVn X 1,...,X n mit P X 1 = {N(µ x,σ 2 x) : µ x R,σ 2 x > 0} y 1,...,y n Realisierung von u.i.v. ZVn Y 1,...,Y n mit P Y 1 = {N(µ y,σ 2 y) : µ y R,σ 2 y > 0}. Wir wollen die Hypothese H 0 : µ x µ y gegen H 1 : µ x > µ y testen um nachzuweisen, dass das neue Material B geringeren Abrieb hat. Nun sind aber die beiden Stichproben verbunden, wir können nicht annehmen, dass X i und Y i unabhängig sind, da dieses Paar Schuhe von der gleichen Person getragen wird, i = 1,...,n. Annahme: Z 1 = X 1 Y 1, Z 2 = X 2 Y 2,..., Z n = X n Y n u.i.v. mit P Z 1 = {N(δ = µ x µ y,σ 2 ) : δ R,σ 2 > 0}. Damit läßt sich H 0 formulieren als H 0 : δ 0 gegen H 1 : δ > 0. Wir sind dann in der Situation von Beh und können den einseitigen t-test auf Z 1,...,Z n anwenden. Bemerkung : Der Test aus heißt t-test für verbundene Stichproben. Seine Grundannahme für die Differenzen Z 1,...,Z n der ZVn ist z.b. erfüllt, wenn (X 1,Y 1 ),...,(X n,y n ) als Paare u.i.v. sind und (X 1,Y 1 ) bivariat normalverteilt, vgl. Beh mit A = (1, 1).