Einführung in die mathematische Statistik

Transkript

1 Kapitel 7 Eiführug i die mathematische Statistik 7.1 Statistische Modellierug Bei der Modellierug eies Zufallsexperimets besteht oft Usicherheit darüber, welche W-Verteilug auf der Ergebismege adäquat ist. Die statistische Modellierug trägt dem zumidest ierhalb eies gewisse Rahmes Rechug. I eiem parametrische statistische Modell werde eiige Parameter i das Verteilugsmodell aufgeomme, dere Werte offe gelasse werde, also ubekat sid. I eiem icht-parametrische statistische Modell werde größere Klasse vo W-Verteiluge is Modell aufgeomme. Defiitio 7.1 Statistisches Modell a Ei parametrisches statistisches Modell ist ei Tripel M, A, P ϑ, wobei M, A ei Messraum ud P ϑ ϑ Θ eie Familie vo W-Verteiluge auf A ist. ϑ Θ b Ei icht-parametrisches statistisches Modell ist ei Tripel M, A, P, wobei M, A ei Messraum ud P eie Mege vo W-Verteiluge auf A ist. Beispiele: Parametrische Modelle 1 Biomialmodelle i M = {0, 1}, A = P {0, 1}, P p = Bi1, p, p [ 0, 1 ] der Parameter. ii M = {0, 1,..., }, A = P {0, 1,..., }, P p = Bi, p, p [ 0, 1 ] der Parameter. 2 Poisso-Modell M = N 0, A = P N 0, Pλ = Poiλ, λ 0, der Parameter. 3 Normalverteilugsmodell M = R, A = B, P β,σ = Nβ, σ 2, β, σ R 0, der Parameter. 47

2 Kapitel 7: Eiführug i die mathematische Statistik 48 4 Expoetialverteilugsmodell M = R, A = B, P λ = Expλ, λ 0, der Parameter. Beispiel: Ei icht-parametrisches Modell { } M = R, A = B, P = P : P WB 1 Bemerkug: Modellformulierug mit Zufallsvariable Im parametrische Fall: Im Hitergrud seie ei Messraum Ω, A mit eier Familie vo W-Maße P ϑ ϑ Θ auf A vorhade sowie eie Zufallsvariable X : Ω, A M, A. Die Verteilugsfamilie im statistische Modell vo Defiitio 7.1 a ist die Familie der Verteiluge der Zufallsvariable X uter de diverse P ϑ ϑ Θ : P ϑ = P X ϑ ϑ Θ. Zum Beispiel: Biomialmodell i : X = X 1,..., X Bi1, p, p [ 0, 1 ] der Parameter. Ma formuliert das Modell auch so: X i Bi1, p i = 1,..., u.i.v., p [ 0, 1 ] der Parameter. Biomialmodell ii : Normalverteilugsmodell : X Bi, p, p [ 0, 1 ] der Parameter. X i Nβ, σ 2 i = 1,..., u.i.v., β, σ R 0, der Parameter, ma spricht auch vo de beide Parameter β ud σ. Im icht-parametrische Fall: Im Hitergrud seie wieder ei Messraum Ω, A, jetzt mit eier Mege P vo W-Maße P auf A vorhade sowie eie Zufallsvariable X : Ω, A M, A. Die Mege P der W-Verteiluge im icht-parametrische statistische Modell vo Defiitio 7.1 b ist P = { P X : P P }. Im obe gegebee Beispiel: X = X 1,..., X eie R -wertige Zufallsvariable mit { } P X : P P = { } P : P WB 1, was ma aschaulicher so zu formuliere pflegt: Das Modell mit u.i.v. reelle Zufallsvariable X 1,..., X ud beliebiger ugekater Verteilug: X i P, i = 1,..., u.i.v., P WB Maximum-Likelihood-Schätzug Das zu Grude gelegte statistische Modell gibt die Möglichkeit für eie modellbasierte Dateaalyse: Aus dem Ergebis x des Zufallsexperimets de Beobachtugsdate solle Rückschlüsse über de wahre Wert des Parameters ϑ gezoge werde. Vereifacht gesagt ist das deshalb möglich, weil das beobachtete Ergebis x uter de verschiedee prizipiell mögliche Parameterwerte ϑ Θ verschiedee Wahrscheilichkeite besitzt. Beispiel: Biomialmodell X Bi, p, p [ 0, 1 ] der Parameter, für ei gegebees N. Ageomme, wir habe eie kokrete Wert x { 0, 1,..., } als Ergebis erhalte. Jetzt betrachte wir die Wahrscheilichkeite, die dieses Ereigis also das Ergebis x für alle mögliche Parameterwerte p besitzt, d. h. wir betrachte die sog. Likelihood-Fuktio [ 0, 1 ] p L x p := P p {x} = p x 1 p x. x

3 Kapitel 7: Eiführug i die mathematische Statistik 49 Maximum-Likelihood-Schätzug: Als Schätzug für p wird die Maximumstelle der Likelihood-Fuktio geomme. Dieses Kozept wird i der folgede Defiitio allgemeier formuliert. Defiitio 7.2 Likelihood-Fuktio, Maximum-Likelihood-Schätzug Gegebe sei ei parametrisches statistisches Modell M, A, P ϑ mit P ϑ Θ ϑ = f ϑ µ ϑ Θ, wobei µ ei Maß auf A ist. Sei x M. Die Fuktio L x : Θ [ 0,, L x ϑ := f ϑ x, ϑ Θ. heißt Likelihood-Fuktio zu x; eie Maximum-Likelihood-Schätzug ML-Schätzug für ϑ zu x ist ei Parameterwert ϑx Θ mit L x ϑx = max ϑ Θ L xϑ. Bemerkug: Log-Likelihood-Fuktio Da L x ϑ [ 0, ϑ Θ, köe wir die Log-Likelihood-Fuktio bilde: l x ϑ := l L x ϑ, ϑ Θ, wobei defiiert sei: l0 :=. Eie ML-Schätzug ϑx ist da äquivalet charakterisiert durch Beispiel: Biomialmodell l x ϑx = max ϑ Θ l xϑ. X Bi, p, p [ 0, 1 ] der Parameter. Likelihood-Fuktio bzw. Log-likelihood-Fuktio zur Beobachtug x {0, 1,..., } : L x p = p x 1 p x, x l x p = l + x lp + x l1 p. x Eie Kurvediskussio der Fuktio l x p, p [ 0, 1 ] liefert als Maximumstelle, d.h. als ML- Schätzug für p : px = x. Beispiel: Modell mit u.i.v. Poisso-verteilte ZV e X 1, X 2,..., X u.i.v. Poiλ-verteilte Zufallsvariable, ud λ 0, ist der Parameter. Zur Beobachtug x = x 1, x 2,..., x N 0 habe wir die Likelihood-Fuktio bzw. die Log-Likelihood- Fuktio: L x λ = e λ λ P x 1 x 1! x 2! x!, [ ] l x λ = λ + x i lλ l x 1! x 2! x!. Eie Kurvediskussio für l x λ liefert als ML-Schätzug für λ : λx = x = 1 x i.

4 Kapitel 7: Eiführug i die mathematische Statistik 50 Die extreme Beobachtug x = 0 d.h. alle x i = 0 ist streg gesehe dabei auszuehme, da λ0 = 0 icht im Parameterbereich 0, liegt. Beispiel: Modell mit 2 u.i.v. ormalverteilte ZV e X 1, X 2,..., X u.i.v. Nβ, σ 2 -verteilt, der Parameter ist β, σ R 0,. Mit µ = λ erhalte wir als Likelihood-Fuktio zur Beobachtug x = x 1, x 2,..., x R : L x β, σ = 2π /2 σ exp 1 2σ 2 l x β, σ = 2 x i β 2, l2π lσ 1 2σ 2 x i β 2. Als ML-Schätzug βx, σx ergibt sich: βx = x = 1 x i ud σx = 1 x i x 2. Im Fall, dass die Beobachtugswerte x 1, x 2,..., x alle gleich sid, also x 1 = x 2 =... = x gilt, erhalte wir σx = 0. Das ist streg geomme kei zulässiger Schätzwert für σ > 0. Dieser Fall hat Wahrscheilichkeit Null uter jeder W-Verteilug des Modells ud wird daher praktisch icht auftrete sofer das Modell zutrifft. 7.3 Lieare Regressio Regressiosgerade Eie reelle Zielgröße y häge vo eier reelle Eiflussgröße t ab: y = yt, z. B. Umsatz y eies Produkts i Abhägigkeit vom Werbeaufwad t. I erster Näherug wird davo ausgegage, dass eie lieare Abhägigkeit besteht, d. h. yt = a t + c Regressiosgerade für alle mögliche Werte t ierhalb eies gewisse Bereichs i der Regel ei Itervall, wobei a ud c reelle Kostate sid, die aber ubekat sid. Es liege u Beobachtugsdate vor: t 1, y 1, t 2, y 2,..., t, y ; z. B. wurde i Zeitperiode jeweils der Umsatz y i bei eiem Werbeaufwad t i beobachtet. Die y i -Werte häge vo de jeweilige t i -Werte ab, aber außerdem och vo ukotrollierbare Zufallseiflüsse. Daher wird die folgede statistische Sichtweise i das Modell eigebracht: Die beobachtete Werte y 1, y 2,..., y sid Werte vo reelle Zufallsvariable Y 1, Y 2,..., Y mit: Y i N yt i, σ 2 i = 1,...,, ud Y 1,..., Y stoch. uabhägig. Die Parameter im Modell sid a, c R ud σ > 0. Beachte: Nur die beobachtete Werte y 1, y 2,..., y werde hier als Werte vo Zufallsvariable behadelt, icht aber die beobachtete Werte t 1, t 2,..., t. Letztere werde als bekate Kostate gesehe sie uterliege keie Zufallseiflüsse. Wir habe daher das statistische Modell Normalverteilugsmodell der Regressiosgerade: R, B, P a,c,σ a,c,σ R 2 0,, mit P a,c,σ := N at i + c, σ 2.

5 Kapitel 7: Eiführug i die mathematische Statistik 51 Die Log-Likelihood-Fuktio atürlich bei Verwedug des Maßes µ = λ zur Beobachtug y = y 1, y 2,..., y t R lautet: l y a, c, σ = 2 l2π lσ 1 2σ 2 yi at i c 2. Die Maximierug ergibt die folgede ML-Schätzug : ML-Schätzug im Normalverteilugsmodell der Regressiosgerade ây = s t,y s 2 t, ĉy = y ây t, σ2 y = 1 RSSy. Dabei werde die folgede abkürzede Bezeichuge verwedet: t = t 1,..., t t, y = y 1,..., y t, t = 1 s 2 t = 1 t i t 2, s t,y = 1 RSSy = t i, y = 1 t i t y i y, yi ây t i ĉy 2, die Bezeichug RSS kommt vo egl. Residual Sum of Squares. Amerkug: Die Residual Sum of Squares lässt sich auch schreibe als y i, RSSy = y i y 2 s2 t,y s 2 t. Bemerkug: Methode der Kleiste Quadrate egl.: Least Squares Die ML-Schätzuge ây ud ĉy sid auch die Lösug des Miimierugsproblems 2 y i a t i + c mi! a,c R Es wird also diejeige Gerade yt = a t + c de Datepukte t 1, y 1, t 2, y 2,..., t, y agepasst, welche im Sie der Summe der Abweichugsquadrate, yi yt i 2, die gerigste Abweichug vo de Datepukte liefert. Die schließlich verbleibede miimale Abweichugsquadratsumme ist die Residual Sum of Squares: RSSy = y i [ ây t i + ĉy ] 2.

6 Kapitel 7: Eiführug i die mathematische Statistik 52 Polyomiale Regressio Das Modell der Regressiosgerade köe wir auch als polyomiale Regressio vom Grad 1 sehe. Ei polyomiales Regressiosmodell vom Grad d setzt die fuktioale Abhägigkeit der Zielgröße y vo der reelle Eiflussgröße t als ei Polyom vom Grad höchstes d a: yt = a 0 + a 1 t + a 2 t a d t d. Im Fall d = 2 spricht ma vo quadratischer Regressio, im Fall d = 3 vo kubischer Regressio. Die weitere statistische Modellaahme sid aalog zum Fall der Regressiosgerade: Die beobachtete y-werte y 1, y 2,..., y der Datepaare t i, y i i = 1,..., werde als Werte vo reelle Zufallsvariable Y 1, Y 2,..., Y aufgefasst mit: Y i N yt i, σ 2 i = 1,...,, Y 1,..., Y stoch. uabhägig. Die Parameter im statistische Modell sid die Koeffiziete a 0, a 1,..., a d des Polyoms sowie die Stadardabweichug σ. Die ML-Schätzug für die Koeffiziete a 0, a 1,..., a d erweist sich wieder als Kleiste-Quadrate-Schätzug egl. Least Squares Estimate, also als Optimallösug des Kleiste- Quadrate-Problems miimiere bezgl. a 0, a 1,..., a d R y i [ a 0 + a 1 t i + a 2 t 2 i a d t k ] 2 i. Die Optimallösug ây = a 0 y, a 1 y,..., a d y t, wobei wieder Lösug eies lieare Gleichugssystems zu bereche: y = y1,..., y t, ist als B t B ây = B t y, B = t j i 1 i 0 j d wobei ud y = y 1, y 2,..., y t. Die ML-Schätzug für σ ist gegebe durch σy = Squares de miimale Wert der Fehlerquadratsumme bezeichet. 1 RSSy, wobei RSSy Residual Sum of Allgemeies lieares Regressiosmodell Sei wieder y eie reelle Zielgröße, die i Abhägigkeit eier Eiflussgröße t T jetzt T irgedeie Mege zu studiere ist. Ei liearer Regressiosasatz ist eie Familie vo Fuktioe yt = k a j f j t, t T, j=1 wobei k N ud die Fuktioe Basisfuktioe f j : T R, j = 1,..., k, gegebe sid ud die Koeffiziete a 1,..., a k R Parameter im Modell sid. Amerkug: Das Modell der polyomiale Regressio vom Grad d ist der Spezialfall: k = d + 1, T R, f j t = t j 1 j = 1,..., k t T. Die weitere statistische Aahme sid wiederum: Die beobachtete y-werte y 1, y 2,..., y der Datepaare t i, y i i = 1,..., werde als Werte vo reelle Zufallsvariable Y 1, Y 2,..., Y aufgefasst mit: Y i N yt i, σ 2 i = 1,...,, Y 1,..., Y stoch. uabhägig. Die Parameter im statistische Modell sid die Koeffiziete a 1,..., a k sowie die Stadardabweichug σ. Das statistische Modell gemäß Defiitio 7.1 a lautet so: R, B, NBa, σ 2 I mit der k Matrix B := f a,σ R k 0, j t i 1 i. 1 j k

7 Kapitel 7: Eiführug i die mathematische Statistik 53 Die ML-Schätzug ây = â 1 y,..., â k y t ud σy ergibt sich aus B t B ây = B t y ud σ 2 y = 1 wobei y = y 1, y 2,..., y t. 7.4 Statistische Theorie der Schätzer Wir gehe vo eiem parametrische statistische Modell aus: M, A, P ϑ. ϑ Θ y Bây t y Bây, Eie Parameterschätzug ϑx ist wege des zufällige Charakters der Beobachtugsdate x zwagsläufig fehlerbehaftet. Die Beobachtug x, die der Schätzug ϑx uterliegt, hätte im Rahme des Verteilugsmodells auch aders sei köe. Deshalb wird die Schätzug zufallsbedigt mehr oder weiger vom wahre Wert des Parameters ϑ abweiche. Die statistische Theorie versucht, diese zufällige Abweichug im statistische Mittel zu erfasse ud betrachtet daher die Schätzfuktio M x ϑx ; diese Fuktio et ma eie Schätzer für ϑ. Ei Schätzer ϑ ist isbesodere eie Zufallsvariable auf M Messbarkeit bezügl. A ud eier geeigete Sigma-Algebra i Θ vorausgesetzt, dere Verteilug P b ϑ ϑ, ϑ Θ, atürlich vom Parameter ϑ abhägt. Es ist zweckmäßig, ebe der Schätzug des Modellparameters ϑ auch die Schätzug eier Kompoete vo ϑ we ϑ mehrdimesioal zu betrachte oder auch z.b. die Schätzug eier Trasformatio eies ei-dimesioale Parameters etwa Schätzug vo 1/λ im Expoetialverteilugsmodell mit Parameter λ. Allgemeier: Defiitio 7.3 Schätzer Sei γ : Θ R k gegebe. Eie Fuktio γ : M, A R k, B k heißt ei Schätzer für γϑ. Wir wolle us hier auf erwartugstreue Schätzer egl. ubiased estimators kozetriere. Defiitio 7.4 Erwartugstreuer Schätzer Ei Schätzer γ für γϑ heißt erwartugstreu oder uverzerrt egl. ubiased, we gilt: γ ist P ϑ -itegrierbar ud E ϑ γ = γϑ für jedes ϑ Θ. Dabei bezeichet E ϑ γ = γ dp ϑ ϑ Θ. M Beispiele: Erwartugstreue Schätzer 1 Biomialmodell X Bi, p, p [ 0, 1 ] der Parameter. Der ML-Schätzer px, x {0, 1,..., }, ist ei erwartugstreuer Schätzer für p. Amerkug: Dieser Schätzer ist auch der eizige erwartugstreue Schätzer für p. 2 Ei parametrisches Modell mit u.i.v. reelle Zufallsvariable: M = R, A = B, P ϑ = ϑ Θ, wobei Qϑ eie Familie vo W-Verteiluge Q ϑ auf B 1 ist. a Der Erwartugswert vo Q ϑ existiere i R für jedes ϑ Θ. Betrachte βϑ := E[Q ϑ ] ϑ Θ. ϑ Θ

8 Kapitel 7: Eiführug i die mathematische Statistik 54 Der Schätzer βx = x, x = x 1,..., x R, ist ei erwartugstreuer Schätzer für βϑ. b Das zweite Momet vo Q ϑ sei edlich für jedes ϑ Θ. Betrachte Der Schätzer s 2 x = 1 1 σ 2 ϑ := Var[Q ϑ ] ϑ Θ. x i x 2, x = x 1,..., x R, ist ei erwartugstreuer Schätzer für σ 2 ϑ, 2 vorausgesetzt. 3 Im allgemeie lieare Regressiosmodell mit Normalverteilug vo Abschitt 7.3 ist der ML- Schätzer auch Least-Squares-Schätzer geat â für de Koeffizietevektor a = a 1,..., a k t, ây = B t B 1 B t y, y R, RagB = k vorausgesetzt, ei erwartugstreuer Schätzer für a d.h. für γa, σ = a. Ei erwartugstreuer Schätzer für σ 2 d.h. für γa, σ = σ 2 ist s 2 y := 1 t y Bây y Bây k y R, > k vorausgesetzt. Ei Maß für die Ugeauigkeit eies erwartugstreue Schätzers γ für eie reelle Parameter γϑ ist die Variazfuktio vo γ, die i.a. eie Fuktio des Modellparameters ϑ Θ ist: 2 Var ϑ γ = γx γϑ dpϑ x ϑ Θ. Beispiel: Biomialmodell M X Bi, p, p [ 0, 1 ] der Parameter. Betrachte de erwartugstreue Schätzer px = x/ x {0, 1,..., }. Wir erhalte für die Variaz: Var p p = 1 2 Var[Bi, p] = 1 p1 p p 1 p =, 2 p1 p bzw. für die Stadardabweichug: Var p p =. Ersetze wir i letzterer Formel p wiederum durch die Schätzug px = x/, so habe wir die geschätzte Stadardabweichug egl. estimated stadard error, Abk. ese, des Schätzers p auf Grud der Beobachtug x : px1 px ese px =, de ma zur Quatifizierug des Fehlers der Schätzug px für p verwede ka. Zahlebeispiel: Bei = 10 sei x = 8 beobachtet. Also: px = 8 10 = 0.8, ese p x = = Ma quatifiziert daher de Fehler der Schätzug p8 = 0.8 durch: 0.8 ± Beispiel: Schätzer der Koeffiziete im allgemeie Regressiosmodell Im allgemeie lieare Regressiosmodell mit Normalverteilug ist der ML-Schätzer bzw. LS-Schätzer LS = Least Squares ây = B t B 1 B t y, y R,

9 Kapitel 7: Eiführug i die mathematische Statistik 55 RagB = k vorausgesetzt, ei erwartugstreuer Schätzer für a, ud das bedeutet auch: Die Kompoete â j dieses Schätzers ist ei erwartugstreuer Schätzer für de Koeefiziete a j, j = 1,..., k. Die Variaz vo â j ist der Eitrag j, j der Kovariazmatrix vo â. Wir habe: Cov a,σ â = B t B 1 B t [ Cov a,σ y B t B 1 B t] t = σ 2 B t B 1, } {{ } = σ 2 I folglich, mit der Abkürzug v jj := [ B t B 1] jj : Var a,σ â j = σ 2 v jj bzw. Var a,σ â j = σ v jj, j = 1,..., k. Eie Schätzug letzterer Stadardabweichug erhält ma durch Ersetze plug-i vo σ durch die Schätzug sy = s 2 y, wobei s 2 y = 1 t k y Bây y Bây. Damit: eseâ j y = sy v jj, j = 1,..., k. 7.5 Itervallschätzer ud Kofidezitervalle Wir gehe wieder vo eiem parametrische statistische Modell aus: M, A, P ϑ, ud das Iteresse gelte eiem reelle Teil--Parameter γϑ; es sei also eie Fuktio γ : Θ R gegebe. ϑ Θ Eie Itervallschätzug für γϑ auf Grud vo x M ist ei Itervall Îx = [ γ 1 x, γ 2 x ], mit geeigete reelle γ 1 x γ 2 x. Die Itervallschätzug Îx soll eie Iterpretatio dahigehed gestatte, dass der wahre Wert γϑ mit großer Wahrscheilichkeit i diesem Itervall liegt 1, z.b. mit Wahrscheilichkeit vo midestes 95 %. Dies zu präzisiere erfordert wieder die statistische Sichtweise: Ei Itervallschätzer für γϑ ist eie Itervall-wertige Fuktio Î auf M der Form M x Îx = [ γ 1 x, γ 2 x ], mit zwei messbare Fuktioe γ i : M, A R, B 1, i = 1, 2, γ 1 γ 2. Wir schreibe da Î = [ γ 1, γ 2 ]. Defiitio 7.5 Überdeckugswahrscheilichkeite, 1 -Kofidezitervall Sei Î = [ ] γ 1, γ 2 ei Itervallschätzer für γϑ. Die Wahrscheilichkeite P ϑ γ1 γϑ γ 2 für ϑ Θ heiße die Überdeckugswahrscheilichkeite des Itervallschätzers Î. Dabei bedeutet atürlich: P ϑ γ1 γϑ γ 2 = Pϑ {x M : γ1 x γϑ γ 2 x }. We zu eiem gegebee 0, 1 i.d.r. klei, z.b. = 0.05 die Überdeckugswahrscheilichkeite vo Î alle d.h. für alle ϑ Θ midestes 1 sid, da heißt Î ei 1 -Kofidezitervall für γϑ. 1 das ist allerdigs wörtlich geomme für eie kokrete Beobachtug x so icht möglich; die Iterpretatio erfordert wieder eie statistische Sichtweise, s. achfolgede Ausführuge.

10 Kapitel 7: Eiführug i die mathematische Statistik 56 Iterpretatio eies 1 -Kofidezitervalls: Die Bedigug, dass Î = [ γ 1, γ 2 ] ei 1 -Kofidezitervall ist z.b. ei 95 % -Kofidezitervall,, we = 0.05, beihaltet ja isbesodere, dass auch für de wahre Wert ϑ des Modellparameters die Überdeckugswahrscheilichkeit midestes 1 ist, d.h. das Ereigis { x M : γ 1 x γϑ γ 2 x } hat eie Wahrscheilichkeit 1 also z.b Deshalb köe wir sozusage % -ig z.b. 95 % -ig darauf vertraue, dass ei zufällig realisiertes x M i dieser Mege liegt ud daher das kokrete Itervall Îx = [ γ 1 x, γ 2 x ] zur Beobachtug x de wahre Wert γϑ ethält. Ei 1 -Kofidezitervall ist i diesem Sie also i der Tat ei 1 -Vertrauesitervall. Amerkug: Die Sprechweise, für eie kokrete Beobachtug x, die Wahrscheilichkeit, dass γϑ im Itervall Îx = [ γ 1 x, γ 2 x ] liegt macht mathematisch keie Si. De γ 1 x ud γ 2 x sid kokrete Werte, z.b. die Werte 2.3 ud 5.7. Was aber sollte die Wahrscheilichkeit für γϑ [ 2.3, 5.7 ] sei? Diese existiert icht, da ja γϑ keie Zufallsvariable, soder eie ubekate Kostate ist. Beispiel: Normalverteilugsmodell mit bekater Variaz Seie X 1, X 2,..., X Nβ, σ0 2 u.i.v. Zufallsvariable, wobei β der Parameter ist; die Variaz σ2 0 soll hier bekat, also kei Parameter sei. Ei 1 -Kofidezitervall für β hier also γβ = β ist gegebe durch: Îx = [ x z 1 2 σ 0, x + z 1 2 σ ] 0, x = x 1,..., x R, wobei z 1 := Φ das sog Quatil der Stadard-Normalverteilug ist. Zahlebeispiel: Für = 10 ud σ 0 = 0.23 ergabe die Date x = x 1, x 2,..., x 10 : x = Wir bereche das 95%-Kofidezitervall für β: = 0.05, 1 2 = 0.975, z = 1.96 ; damit: Îx = [ , ] [ ] = 2.43, Wir bereche auch das 99%-Kofidezitervall für β, jetzt also = 0.01 : Wir habe 1 2 = ; z = 2.58, ud aaloge Rechug wie obe ergibt: Îx = [ 2.38, 2.76 ] 99%-Kofidezitervall für β, das atürlich breiter als das 95%-Kofidezitervall ist. Beispiel: Biomialmodell Modell: X Bi, p, p 0, 1 der Parameter.Wir frage ach eiem 1 -Kofidezitervall für p hier also: γp = p. Die Kostruktio eies solche Kofidezitervalls ist möglich, aber relativ kompliziert. Wir beschräke us auf die Herleitug eies approximative 1 -Kofidezitervalls für p, die auf der Asymptotik ud dem Zetrale Grezwertsatz beruht. Für größere Werte vo, sage wir 20, ist dies als eie gute Näherug azusehe. Aus dem CLT ud Folgeruge erhält ma für großes : Uter P p : p p p1 p approx. N0, 1, wobei px = x x {0, 1,..., }. Mit z 1 2 := Φ daher: P p z 1 2 p p z 1 p1 p 2 1 p 0, 1,

11 Kapitel 7: Eiführug i die mathematische Statistik 57 oder äquivalet umgeformt: P p p1 p p 2 1 p 0, 1, wobei: p 1 = p z 1 2 p1 p ud p 2 = p + z 1 2 p1 p. Also habe wir mit Î = [ p 1, p 2 ] ei approximatives 1 -Kofidezitervall für de Parameter p. Zahlebeispiel: Für = 20 hat sich die Beobachtug x = 17 ergebe. Wir bereche: px = 17 px 1 px = 0.85 ud = = Das approximative 95%-Kofidezitervall für de Parameter p ist daher mit z = 1.96 : [ ] Îx = , = [ 0.69, 1.01 ], was atürlich als Itervall [ 0.69, 1 zu lese ist. 7.6 Testprobleme ud Sigifikaztests Gegebe sei wieder ei parametrisches statistisches Modell: M, A, P ϑ. Uter eiem Testproblem versteht ma eie Zerlegug des Parameterbereichs Θ i zwei disjukte, icht-leere Teilmege Θ 0 ud Θ 1 : ϑ Θ Θ = Θ 0 Θ 1, Θ 0, Θ 1, Θ 0 Θ 1 =. Damit verbude ist die statistische Fragestellug, ob der wahre Wert des Parameters ϑ i der Teilmege Θ 0 oder i der komplemetäre Teilmege Θ 1 liegt. Als Schreibweise für diese Fragestellug eigetliches Testproblem ist gebräuchlich: H 0 : ϑ Θ 0 gege H 1 : ϑ Θ 1 ; die mit H 0 bezeichete Möglichkeit et ma die Nullhypothese ud die alterative Möglichkeit H 1 heißt die Alterativhypothese. Die Etscheidug zwische de beide Möglichkeite Hypothese ist auf Grud eier Beobachtug x M zu treffe. Da die Beobachtug x zwar eie statistische Iformatio über de wahre Wert des Parameters ϑ ethält, so gut wie iemals aber eie vollstädige Iformatio hierüber liefert, ist klar: Jede Etscheidug birgt die Möglichkeit eier Fehletscheidug i sich; prizipiell bestehe zwei Möglichkeite der Fehletscheidug: Eie Fehletscheidug erster Art, kurz: Fehler erster Art, liegt vor, we die Etscheidug für H 1 erfolgt, i Wahrheit aber H 0 gültig ist. Eie Fehletscheidug zweiter Art, kurz: Fehler zweiter Art, liegt vor, we die Etscheidug für H 0 erfolgt, i Wahrheit aber H 1 gültig ist.

12 Kapitel 7: Eiführug i die mathematische Statistik 58 Die statistische Sichtweise erstreckt sich wieder globaler auf eie eie Etscheidugsregel, i diesem Kotext ei Test geat: Ei Test ist eie messbare Fuktio ϕ : M, B {0, 1}, P{0, 1}. Die mit dem Test ϕ verbudee Etscheidugsregel über das Testproblem H 0 : ϑ Θ 0 gege H 1 : ϑ Θ 1 lautet : { Etscheidug für H0 ϕx = 0 We x M beobachtet, da: Etscheidug für H 1 ϕx = 1 Defiitio 7.6 Fehlerwahrscheilichkeite eies Tests Sei ei Testproblem H 0 : ϑ Θ 0 gege H 1 : ϑ Θ 1 gegebe. Für eie Test ϕ heiße die Wahrscheilichkeite: P ϑ ϕ = 1 für alle ϑ Θ 0 : Fehlerwahrscheilichkeite erster Art des Tests ϕ, ud P ϑ ϕ = 0 für alle ϑ Θ 1 : Fehlerwahrscheilichkeite zweiter Art des Tests ϕ. Beispiel: Ei Biomialmodell Modell: X Bi10, p, p [ 0, 1 ] der Parameter. Testproblem: H 0 : p 0.6 gege H 1 : p > 0.6 ; hier ist also: Θ = [ 0, 1 ], Θ 0 = [ 0, 0.6 ] ud Θ 1 = 0.6, 1]. Als Test ehme wir zum Beispiel: ϕx = { 1, falls x 9 0, falls x 8, für alle x {0, 1,..., 10}. Wir bereche: P p ϕ = 1 = P p {9, 10} = 10 p 9 1 p p 10 = 10p 9 9p Daraus erhalte wir mit P p ϕ = 0 = 1 P p ϕ = 1 die Fehlerwahrscheilichkeite erster ud zweiter Art des Tests s. Abbildug. P p ϕ = 1 Fehlerw keit 2. Art 1. Art p p Isbesodere sehe wir: Die Fehlerwahrscheilichkeite erster Art sid alle recht klei maximal 0.046, währed jee zweiter Art bis zu = betrage köe. Dieses Phäome ist eiigermaße typisch: We ei Test kleie Fehlerwahrscheilichkeite erster Art hat, da geht das i der Regel auf

13 Kapitel 7: Eiführug i die mathematische Statistik 59 Koste seier Fehlerwahrscheilichkeite zweiter Art die da groß werde köe. Das allgemei verwedete Kozept der Sigifikaztests s. ute erzwigt kleie Fehlerwahrscheilichkeite erster Art. Defiitio 7.7 -Sigifikaztest Sei ei Testproblem H 0 : ϑ Θ 0 gege H 1 : ϑ Θ 1 gegebe, ud sei ei 0, 1 gewählt i der Regel klei, z. B. = Ei Test ϕ heißt ei -Niveau-Sigifikaztest, oder kürzer ei -Sigifikaztest, für das Testproblem, we seie Fehlerwahrscheilichkeite erster Art höchstes gleich sid, d. h. P ϑ ϕ = 1 für alle ϑ Θ 0. Iterpretatio eies -Sigifikaztests ϕ : We auf Grud der Beobachtug x der Test ϕ de Wert 1 liefert, also ϕx = 1, da ist die Gültigkeit der Alterativhypothese H 1 statistisch zum Niveau achgewiese. De bei Gültigkeit der Nullhypothese H 0 kurz: uter H 0 hätte ja das Ereigis { ϕ = 1 } eie Wahrscheilichkeit vo höchstes z. B. 5%, wäre also eher uwahrscheilich. Nu ist dieses Ereigis eigetrete, was sigifikat gege H 0 ud damit für H 1 spricht. We higege auf Grud der Beobachtug x der Test ϕ de Wert 0 liefert, also ϕx = 0, da erfolgt die Etscheidug zwar für die Nullhypothese H 0 aber icht dem Sie, dass ihre Gültigkeit statistisch achgewiese wäre. Die Etscheidug fällt zwar für H 0, aber mit weig Überzeugugskraft ud eher durch Kovetio vergleichbar mit dem juristische Prizip: Im Zweifel für die [ageklagte] Nullhypothese. Ma beachte daher: Ei -Sigifikaztest eiget sich ur zum statistische Nachweis der Gültigkeit der Alterativhypothese H 1, icht aber zum statistische Nachweis der Nullhypothese H 0. Beispiel: Normalverteilugsmodell mit bekater Variaz: Gauß-Tests Modell: X 1,..., X Nβ, σ 2 0 u.i.v., β R der Parameter, σ 0 > 0 fest. Iteressat sid die folgede drei Testprobleme: TP1 H 0 : β β 0 gege H 1 : β > β 0, TP2 H 0 : β β 0 gege H 1 : β < β 0, TP3 H 0 : β = β 0 gege H 1 : β β 0. Dabei ist jeweils β 0 eie vorgegebee also bekate reelle Zahl. TP1 ud TP2 et ma eiseitige Testprobleme ud TP3 ei zweiseitiges Testproblem. Als optimale -Sigifikaztests für die geate Testproblem TP1, TP2 ud TP3 ergebe sich die sog. Gauß-Tests. Dabei bezeichet T x = x β 0 σ 0, x = 1 sowie z p := Φ 1 p das p-quatil vo N0, 1 für p 0, 1. Gauß-Tests: x i, x = x 1,..., x R, TP1 H 0 : β β 0 gg. H 1 : β > β 0 ϕ 1 x = { 1 0, falls T x > z 1 TP2 H 0 : β β 0 gg. H 1 : β < β 0 ϕ 2 x = { 1 0, falls T x < z 1

14 Kapitel 7: Eiführug i die mathematische Statistik 60 TP3 H 0 : β = β 0 gg. H 1 : β β 0 ϕ 3 x = { 1 0, falls T x > z 1 2 Bemerkug: P-Value-Darstellug der Gauß-Tests Eie adere aber äquivalete Darstellug der Gauß-Tests hat de Vorteil, dass sofort eie Übersicht über die Etscheiduge der Tests für verschiedee Festleguge des Niveaus erhalte wird. Z.B. für de Test ϕ 1 für TP1: Für x = x 1, x 2,..., x R sid äquivalet: T x > z 1 Φ T x > Φ z 1 } {{ } = 1 1 Φ T x <. Wir köe also de Test ϕ 1 auch so darstelle: ϕ 1 x = { 1 0, falls 1 Φ T x <, wobei T x = x β 0 σ 0. De Wert 1 Φ T x et ma de Probability-Value, kurz: P-Value, des Tests ϕ 1 für TP1 zur Beobachtug x. Aalog lässt sich der Test ϕ 2 umschreibe zu: ϕ 2 x = { 1 0, falls Φ T x <. De Wert Φ T x et ma de P-Value des Test ϕ 2 für TP2 zur Beobachtug x. Ud schließlich für ϕ 3 : { 1 ϕ 3 x =, falls 2 1 Φ T x < 0. De Wert 2 1 Φ T x et ma de P-Value des Tests ϕ 3 für TP3 zur Beobachtug x. Beispiel: Awedug eies Gauß-Tests Oft soll ei quatitativer Effekt z. B. eier Behadlugsmethode statistisch utersucht werde. Dabei werde Beobachtugsdate für die eizele Objekte/Idividue jeweils vor ud ach der Behadlug erhobe. Es liege also paarige Beobachtuge y i, z i i = 1,..., vor. Folgede Vorgehesweise ist da verbreitet: Es werde die Differeze x i := z i y i i = 1,..., gebildet ud diese als Werte vo u.i.v. ormal-β,σ 2 -verteilte Zufallsvariable X 1, X 2,..., X aufgefasst. Hier setzte wir voraus, dass die Stadardabweichug σ = σ 0 bekat ist. Soll u statistisch achgewiese werde, dass die Behadlug eie positive Effekt hat, so lässt sich dies als Testproblem TP1 mit β 0 = 0 formuliere: TP1 H 0 : β 0 gege H 1 : β > 0. Zahlebeispiel: Folgede Date a = 15 Objekte wurde i eier solche Situatio beobachtet. y i z i x i =z i y i Es sei σ 0 = Wir wolle zum 5%-Niveau teste also = 0.05: z 0.95 = ; wir bereche: x = ; T x = 15 x /σ 0 = Der Test ϕ 1 ergibt die Etscheidug ϕ 1 x = 0. Die vorliegede Date ergebe somit zum 5%-Niveau keie Sigifikaz für H 1 : β > 0. Als P-Value des Tests auf Grud der vorliegede Date ergibt sich 1 Φ 1.59 = Der Test ϕ 1 würde also erst bei eiem Niveau > also z. B. zum 6%-Niveau die Sigifikaz vo H 1 : β > 0 liefer.