Parameterschätzung. Kapitel Schätzfunktionen

Transkript

1 Kapitel 8 Parameterschätzug 8.1 Schätzfuktioe Def : Es seie X 1,X,...,X uabhägige ZV, die alle die gleiche Verteilug besitze. θ sei ei ubekater Parameter dieser Verteilug. X 1,X,...,X ist als eie Beobachtugsoder) Messreihe zur Bestimmug vo θ mit Eizelmessuge aufzufasse. X i etspricht also der i te Messug. Dere Messergebis x i ist eie Realisierug vo X i. Aus dem Satz x 1,x,...,x vo Messwerte, de ma als Stichprobe vom Umfag bezeichet, bestimmt ma eie Schätzwert ˆθ für θ, vo dem ma ormalerweise aimmt, dass er ahe bei θ liegt. Die Zuordug vo x 1,x,...,x zu ˆθ bezeichet ma als Schätzfuktio: ˆθ = gx 1,x,...,x ). Drei Aahme: a) Messergebis ist bei jeder Messug ubeiflusst vo de vorherige Messergebisse = Die Zufallsvariable X 1,X,...,X sid uabhägig. b) Es gibt keie Veräderug der beeiflussbare Versuchsbediguge = Die Zufallsvariable X 1,X,...,X habe alle die gleiche Verteilug, häufig Normalverteilug. c) Es gibt keie systematische Fehler Beispiel 8.1.1: Wir führe eie Messreihe vo Messuge z.b. das elektrische Widerstades eies Gerätes) durch. Der i-te Messug etspricht eie Zufallsvariable X i Das Messergebis x i ist eie Realisierug der Zufallsvariable X i wahrer Wert = gemeisamer Erwartugswert µ := EX i ) der Zufallsvariable X i Ziel der Messuge ist es u, Iformatioe über µ zu bekomme. Es werde dazu Messuge tatsächlich durchgeführt, z.b. vier Widerstadsmessuge mit de Messergebisse i Ω): 10.1 =: x 1,10. =: x,10.0 =: x 3,10.1 =: x 4 100

2 Dies ist Stichprobe vom Umfag 4 allgemei: vom Umfag ). x := x := x 1 + x + + x = = 10.1 im Zahlebeispiel 4 Die Iterpretatio ist icht µ = x ud auch icht µ ist sicher ahe bei x, soder ur die Vermutug, dass x ahe bei µ liegt. ˆµ Schätzwert für µ) = x := x x =: gx 1,...,x ) bei diesem Beispiel). Aus Satz folgt ) X := X := X 1 + X + + X Dies rechtfertigt die obige Vermutug. µ für fast sicher) 8. Maximum Likelihood Methode Bestimme ˆθ so, dass PX 1 = x 1 X = x X = x ) bzw. die gemeisame Verteilugsdichte vo X 1,X,...,X a der Stelle x 1,x,...,x ) im Falle eier stetige ZV X) maximal wäre, we θ = ˆθ wäre. Beispiel 8..1: Eie Beobachtugsgröße sei Poisso-verteilt, wobei der Parameter λ ubekat sei λ > 0). Um Iformatioe über λ zu erhalte, mache wir drei Beobachtuge, d.h. wir ziehe eie Stichprobe vom Ufag 3. Die Beobachtugergebisse seie die Werte 4, 1, 6. Dies sid Realisieruge vo Zufallsvariable X 1,X,X 3, die uabhägig ud Poisso-verteilt sid mit dem gleichem λ. P X 1 = 4 X = 1 X 3 = 6) = P X 1 = 4) P X = 1) P X 3 = 6) = e λλ4 e 3λλ ! e λλ1 1! e λλ6 6! = 4!1!6! =: e 3λλ4+1+6 a Diese Wahrscheilichkeit et ma auch Likelihood Fuktio hλ). =: hλ) Awedug des Maximum-Likelihood Prizips: Die Wahrscheilichkeit für das eigetretee Ereigis, also hλ), sei maximal, we λ = ˆλ wäre. h 3λ λ4+1+6 λ) = 3)e + e 3λ ) λ a a = [ 3) λ )] e 3λλ a! = 0 3)λ ) = 0 λ = 0 λ>0 λ = Ausserdem gilt hλ) 0 für λ 0+ ud für λ ud hλ) > 0 für alle λ > 0. Damit ist hˆλ) das Maximum vo hλ). Der Maximum-Likelihood-Schätzwert Abk.: M-L-Schätzwert) ist also: ˆλ =

3 Ergebisse bei eiige Verteiluge: Tabelle 8-1 Verteilug bekate ubek. Schätzfkte ach Eigeschafte { Param. Param. der M-L-Meth.) aus m.wahrsch. p X i = p ˆp = x kosistet, erwart.treu 0 m. W.1-p) X ist biomialverteilt) Poissoverteilug λ ˆλ = x kosistet, erwart.treu 1 Expoetialverteilug λ ˆλ = kosistet, icht erw.treu x Nµ,σ) σ µ ˆµ = x kosistet, erwart.treu Nµ,σ) µ σ σ = 1 x i µ) kosistet, erwart.treu Nµ,σ) µ,σ ˆµ = x kosistet, erwart.treu σ = 1 x i x) kosistet, icht erw.treu Zu der 1. Verteilug: Die eizele Zufallsvariable X i ka ur Werte aehme ud die ZV X 1,X,...,X uabhägig. Wir habe also ei Beroulli-Experimet: { } 1 Erfolg mit Wahrscheilichkeit p X i := 0 Fehlschlag mit Wahrscheilichkeit 1 p X 1 + X + X X = X Aufg. 79 = Azahl der Erfolge bei Versuche. Bei der statistische Qualitätskotrolle m.z. ist p der Ateil der defekte Stücke i der Lieferug. x ist die Azahl der Ziehuge vo defekte Stücke. x ist damit der Ateil der defekte Stücke i der Stichprobe. Bem.: Die Schätzfuktio ach der M L Meth.) für σ ist ˆσ = σ. Sie ist aber weder für bekates och für ubekates µ erwartugstreu. 8.3 Eigeschafte vo Schätzfuktioe gx 1,X,...,X ) z.b. X geauer:x ) := X 1 + X + + X ) 1 ) ist ZV. Def : Eie Schätzfuktio g für θ heißt erwartugstreu, we gilt: EgX 1,...,X )) = θ. Beispiel: X ist erwartugstreu: ) 1 EX ) = E X i = 1 EX i ) = 1 10 µ = µ = EX i)

4 Def. 8.3.: sei variabel. Da heißt eie Schätzfuktio g geauer: Folge vo Schätzfuktioe) für θ kosistet, we gilt: P gx 1,...,X ) θ q) 1 für für alle q > 0. Beispiel: X ist kosistet; de es gilt ach Satz 7.9.3: X µ = EX i ) für f.s.) Satz 8.3.1: Es seie X 1,X,...,X uabhägige ZV, die alle die gleiche Verteilug besitze ud für die der Erwartugswert ud die Variaz existiere. a) x ist eie kosistete, erwartugstreue Schätzfuktio für EX i ) =: µ. b) 1 1 x i x) ist eie kosistete, erwartugstreue Schätzfuktio für V X i ) =: σ. EX i ) ud V X i ) werde dabei als ubekate Verteilugsparameter bei de ZV X i aufgefasst. 8.4 Kofidezitervalle Bei der Aufstellug vo Kofidezitervalle braucht ma die Verteilug der ZV gx 1,X,...,X ), die also über die Schätzfuktio vo de ZV X 1,X,...,X abhägt. Bei der Schätzug des Erwartugswertes µ eier NV ist das eie Summe der ZV X 1,X,...,X die och durch dividiert wird. Wir brauche also die Verteilug eier Summe vo uabhägige ormalverteilte ZV, ud dafür gilt der folgede Satz 8.4.1: a) Eie Summe vo ormalverteilte, uabhägige ZV ist wieder ormalverteilt. b) X ist ormalverteilt αx + β) mit α,β IR,α 0, ist ormalverteilt. Allgemeie Voraussetzug für 8.4 mit Ausahme vo Satz : X 1,...,X sid uabhägige, Nµ,σ) verteilte ZV. Satz 8.4.: X hat die Verteilug: Nµ, σ ). Die Aussage dieses Satzes ergibt sich direkt aus Satz Wir ehme u a, dass bei eier NV die Variaz σ bekat ud der Erwartugswert µ ubekat ist. Wir werde also versuche, µ mit Hilfe eier Stichprobe zu schätze. Schätzug: ˆµ = x x 1,x,,x Ergebis vo Stichprobe vom Umfag Das Kofidezitervall gibt u de Bereich um ˆµ = x a, für de wir mit ausreicheder Sicherheit sage köe, dass der wahre Wert vo µ dari liegt. 103

5 Def : Seie, 0 < γ < 1 beliebig vorgegebe. γ meist ahe bei 1, z. B. γ = 0.9,0.95,0.99 o. ä.). x ist eie Realisierug vo X. Gilt da 8.4.1) P X q µ X + q ) = ) P X µ q ) = γ, so bezeichet ma das Itervall [x q,x + q ] als γ Kofidezitervall für µ. γ heißt Vertraueswahrscheilichkeit häufig i % agegebe) ud sollte zusamme mit dem Stichprobeumfag vor der Utersuchug festgelegt werde. Korrekte Itepretatio: µ liegt mit Wahrscheilichkeit γ i dem Itervall [X q,x + q ]. Satz 8.4.3: a) Die folgede ZV ist stadard-ormalverteilt: Y := X µ) σ b) Aus der Eigeschaft P Y q) = Φq) 1 ka ma Kofidezitervalle für µ bei bekatem σ bestimme. Beispiel 8.4.1: Eie Messgröße oder Beobachtugsgröße) sei Nµ, σ)-verteilt, wobei µ ubekat ud σ = 1.8 bekat sei. Bestimme 0.95oder 95%) Kofidezitervall für µ, wähle also γ = Lege fest: = 9 d.h. 9 Messuge ) P Y q) = Φq) 1! = γ = 0.95 vergl. Satz 8.4.3), d.h. Φq)! = 1 + γ = 1.95 = q heißt Quatil zu 1 + γ Aus Normalverteilugstabelle lese wir ab q = Damit erhalte wir X µ) ) P σ 1.96 = Aus de 9 Messuge erhalte wir x = 3.5 ud damit das Kofidezitervall: µ 3.5 = x µ 1.96σ = = =: q 9 oder i expliziter Form: µ [x q,x + q ] = [ , ] =)[.34,4.676] Def. 8.4.: Z sei eie beliebige ZV mit der Verteilugsfuktio F ud c eie beliebige reelle Zahl mit 0 < c < 1. Da heißt q das c Quatil der Verteilug, we Fq) = c gilt. Isbesodere bezeiche wir das c Quatil der Stadard Normalverteilug mit q Φ c). 104

6 Bestimmug eies γ Kofidezitervalles für µ bei bekatem σ: Schritt 1: Lege die Vertraueswahrscheilichkeit γ ud de Stichprobeumfag fest. Schritt : Bestimme q > 0 aus Φq) =! 1 + γ, also das 1 + γ)/ Quatil der Stadard Normalverteilug. Schritt 3: Ziehe eie Stichprobe vom Umfag. x 1,x,...,x seie die dabei gewoee Realisieruge Mess oder Beobachtugsergebisse) der Nµ,σ) verteilte ZV X 1,X,...,X. Das Kofidezitervall ist da durch x µ) σ q oder i expliziter Form durch x q σ µ x + q σ gegebe. Satz 8.4.4: X sei N0,1) vert. Da hat Y := X die Verteilugsdichte: fy) := 0 für y 0 ud := π) 1/ y 1/ e y/ für y > 0. Satz 8.4.5: a) Die folgede ZV ist χ -verteilt mit Freiheitsgrade: Y := σ X i µ) Dabei ist die χ -Verteilug mit r Freiheitsgrade defiiert durch die folgede Verteilugsdichte: f χ y) := 0 für y 0 ud := K r e y/ y r )/ für y > 0, wobei die Kostate K r so bestimmt ist, dass das Itegral über die Verteilugsdichte vo bis de Wert 1 hat. F χ sei die zugehörige Verteilugsfuktio. b) Aus der Eigeschaft Pa Y b) = F χ b) F χ a) a b, Freiheitsgrade) ka ma Kofidezitervalle für σ bei bekatem µ bestimme. Satz 8.4.6: a) Die folgede ZV ist χ -verteilt mit 1) Freiheitsgrade: Y := σ X i X) b) Aus der Eigeschaft Pa Y b) = F χ b) F χ a) a b, 1) Freiheitsgrade) ka ma Kofidezitervalle für σ bei ubekatem µ bestimme. 105

7 Beispiel 8.4.: X 1,X seie uabhägig ud Nµ,1) verteilt X 1 µ) +X µ) ist Summe vo uabhägige ZV ud χ verteilt mit Freiheitsgrade. X 1 X) + X X) = X 1 X ) 1 + X + X X ) 1 + X ) X1 X ) X X ) 1 X1 X = + = Dies ist das Quadrat vo ur eier stadardormalverteilte ZV ud daher χ verteilt mit eiem Freiheitsgrad. Beispiel 8.4.3: Y sei ZV aus Satz häufig mit χ bezeichet) Sei r = 9 { = Zahl der uabhägige Summade = Zahl der Freiheitsgrade PY q) =: F χ q)! = q = 16.9 PY q) =: F χ q)! = q = Die Bestimmug vo Kofidezitervalle für σ wird i der Vorlesug ud i der Übug icht behadelt oder midestes zurückgestellt. Bei spätere Aweduge der χ -Verteilug werde Quatile ermittelt, für die eie Tabelle chiˆtab.pdf) bereitgestellt ist. Für große r, etwa ab r = 100, ka ma das c Quatil q äherugsweise durch die im Buch vo Bamberg/Baur agegebee Formel q q Φc) + r 1) bestimme. Dabei sid die Werte vo q Φ c) für eiige Werte vo c aus der letzte Zeile der Tabelle der Quatile der t Verteilug tverttab.pdf), für eiige weitere Werte aus der Formel Φq Φ c)) = 1 Φ q Φ c)) = c, d.h. aus Φ q Φ c)) = 1 c zu ermittel. Es ist z.b.!! Φ.36)) = Φ.36)) = ud damit gilt q Φ 0.010) =.36). Schließlich wird och q Φ 0.750) = , q Φ 0.500) = 0 ud q Φ 0.50) = beötigt. Bestimmug eies Kofidezitervalls für µ bei ubekatem σ: Y := X µ) σ i Satz wird ersetzt durch Y := X µ) 1 X i X) 1) Satz 8.4.7: X ud X i X) sid uabhägig. Satz 8.4.8: a) Die folgede ZV ist t -verteilt mit 1) Freiheitsgrade: Y := X µ) 1) X i X) 106

8 Dabei ist die t -Verteilug mit r Freiheitsgrade defiiert durch die folgede Verteilugsdichte: ) r + 1 f t y) := C r 1 + y r wobei die Kostate C r so bestimmt ist, dass das Itegral über die Verteilugsdichte vo bis de Wert 1 hat. F t sei die zugehörige Verteilugsfuktio. b) Aus der Eigeschaft P Y q) = F t q) 1 1) Freiheitsgrade) ka ma Kofidezitervalle für µ bei ubekatem σ bestimme. Beispiel 8.4.4: Eie Messgröße oder Beobachtugsgröße) sei Nµ, σ)-verteilt, wobei µ ud σ ubekat seie. Bestimme 90% Kofidezitervall für µ, also γ = Lege fest: = 11 d.h. 11 Messuge ) Eie Stichprobe vom Umfag 11 ergebe ˆµ = x = 3 ud x i x) = 11 x i 3) = 0 X µ) P ) q X i X) = Satz F t q) 1! = 0.90, wobei F t die Verteilugfuktio eier t-verteilug mit 1) = 10 Freiheitsgrade ist. Suche da q mit F t q) =! 1 + γ = 1.90 = 0.95 Die Zahl der Freiheitsgrade ist r = 1 = 10 Aus Tabelle der Quatile der t Verteilug lese wir ab: q = Damit erhalte wir als Kofidezitervall: x µ) x i x) , also µ x = x µ x i x) = 110 I expliziter Form erhalte wir also als 90% Kofidezitervall für µ: µ [x q,x + q ] = [3 0.77,3 0.77] =)[.8,3.77] = 0.77 =: q Bestimmug eies γ Kofidezitervalles für µ bei ubekatem σ: Schritt 1: Lege die Vertraueswahrscheilichkeit γ ud de Stichprobeumfag fest. Schritt : Bestimme q > 0 aus F t q) =! 1 + γ, also ei 1 + γ)/ Quatil der t Verteilug mit 1) Freiheitsgrade. Schritt 3: Ziehe eie Stichprobe vom Umfag. x 1,x,...,x seie die dabei gewoee Realisieruge Mess oder Beobachtugsergebise) der Nµ,σ) verteilte ZV X 1,X,...,X. Das 107

9 Kofidezitervall ist da durch x µ) 1) q x i x) oder i expliziter Form durch q x i x) x 1) µ x + q x i x) 1) gegebe. Satz 8.4.9: F t,r sei die Verteilugsfuktio der t Verteilug mit r Freiheitsgrade; da gilt: F t,r Φ für r. t Verteilug mit viele Freiheitsgrade = N0, 1) Verteilug N0, 1) Verteilug = t Verteilug mit r = Awedug: Bei Stichprobe mit großem Umfag etwa 50) ka äherugsweise die N0,1) Verteilug statt der t Verteilug beutzt werde. Satz : X sei eie biomialverteilte ZV mit de Parameter, p, die die folgede Bediguge erfülle sollte: 50, p,1 p) 5 vergl. Satz 7.6.7). a) Die ZV Y := X p pq ist äherugsweise N0,1) verteilt. vergl.satz u.7.6.4) statt 7.6.5) aus Satz 7.6.7) b) Aus P Y q) Φq) 1 ka ma wie ute beschriebe uter gewisse Bediguge Näheruge für Kofidezitervalle für p bestimme. p sei ubekat, ud wir suche ei γ Kofidezitervall für p. Nach Satz verwede wir dazu die Beziehug ) γ =! X p Φq) 1 P Y q) = P q = P X p q pq) p1 p) 0 p 1 p 1 p) 1/4 Beweis i eier Übugsaufgabe) γ =! Φq) 1 P X p q ) ) p1 p) P X p q 1 4 = P X p q ) Die Wahrscheilichkeit dafür, dass die Abweichug vo p vo der Schätz ZV X höchstes q / beträgt, ist also äherugsweise γ. We u x eie Realisierug vo X, also z.b. 108

10 die tatsächlich beobachtete Azahl der Ziehuge vo defekte Stücke ist, erhalte wir als Kofidezitervalläherug: x p = p x ) q x q p x + q p 1 := x q / p x + q / =: p [p 1,p ] ka u als Näherug für ei γ Kofidezitervalläherug für p geomme werde, we die Voraussetzuge vo Satz midestes da erfüllt sid, we p 5 ud 1 p) 5 für alle p [p 1,p ] gilt. Daraus ergibt sich die Bedigug! p )p 1 5 ud 1 p) )1 p )! 5 Bestimmug eies Kofidezitervalles für p: Bestimme q > 0 aus Φq) 1 =! γ, also aus Φq) = 1 + γ)/. Bestimme da ei Itervall p 1 p p mit x q 8.4.) p 1 = ) x + q, p = ) [p 1,p ] ist als Näherug für ei γ Kofidezitervall zu akzeptiere, we gilt: 50, p 1 5 ud 1 p ) 5. Aderefalls muss eie adere Methode als über Satz gewählt werde. Beispiel 8.4.4: Vor eier Wahl i eier Stadt mit wahlberechigte Eiwoher soll eie Meiugsumfrage durchgeführt werde. p := Ateil der Wähler der Partei A. 1 p)= Ateil der Wähler der adere Partei, Nichtwähler u.s.w. p sei ubekat. Kostruiere 95% Kofidezitervall für p. Es wird eie zufällige) Stichprobe vo Umfag 100 o. Z. gezoge, d.h. ei Wahlberechtigter wird icht zweimal befragt. Umfrageergebis: 40 davo sid für Patei A. Die ZV X := Azahl der Wähler vo A i der Stichprobe, dere Realisierug 40 ist, ist wege o.z. hypergeometrisch verteilt. Die Bediguge i Satz für die Näherug durch die Biomialverteilug sid aber deutlich erfüllt: N = ud = N X ist also äherugsweise biomialverteilt mit,p als Parameter. Kostruktio des Kofidezitervalles: Bestimme q > 0 aus Φq) 1! = γ = 0.95 Φq) = q Tab. = 1.96 x = 40 = Realisierug vo X bei der Durchführug der Umfrage. Die erste Bedigug für die Näherug der Biomialverteilug durch die Normalverteilug ist erfüllt: = Wir bestimme da die Greze p 1, = ud erhalte so das Itervall x q = [p 1,p ] = [0.30,0.498] 109 =

11 Ist dieses Itervall als Kofidezitervall zu akzeptiere? Dazu müsse wir die weitere Näherugsbediguge prüfe: p 1 = = 30. 5, 1 p ) = = 50. 5, 50 Damit ist [0.30, 0.498] äherugsweise ei Kofidezitervall für p. Ma ka also mit 95 prozetiger Sicherheit schließe, dass äherugsweise zwische 30.% ud 49.8% für Patei A sid. I dem Buch Elemetare Eiführug i die agewadte Statistik vo K. Bosch ist eie Formel für die Greze für p agegebe ud hergeleitet, die eie kleiere ud damit bessere Kofidezitervalläherug liefert: 8.4. ) p 1, = 1 + q x + q q x x) ) + q 4 [p 1,p ] ist als Näherug für ei γ Kofidezitervall zu akzeptiere, we gilt: 50, p )p 1 5 ud q )1 p ) 5. Aderefalls muss eie adere Methode als über Satz gewählt werde. Begrüdug für 8.4. ): x p y q q x p) q p1 p) p1 p) x px + p q p q p p + q ) px + q /) x / p + q ) x + q /) ) x + q /) x + q )/ p + q ) x + q /) x + xq + q 4 /4 x x q / = q x + q /4 x / x + q /) q x + q /4 x / p + q ) x + q /) + q x + q /4 x / p 1 p p 110