KAPITEL 9. Konfidenzintervalle

Transkript

1 KAPITEL 9 Kofiezitervalle Sei {h θ (x) : θ Θ} eie Familie vo Dichte bzw Zählichte I iesem Kapitel ist Θ = (a, b) R ei Itervall Seie X,, X uabhägige u ietisch verteilte Zufallsvariable mit Dichte bzw Zählichte h θ Wir habe us bereits mit er Frage beschäftigt, wie ma e Parameter θ aha er Stichprobe schätze ka Bei eier solche Schätzug bleibt aber uklar, wie groß er mögliche Fehler, also ie Differez ˆθ θ, ist I er Statistik begügt ma sich ormalerweise icht mit er Agabe eies Schätzers, soer versucht auch e Schätzfehler abzuschätze, iem ma ei sogeates Kofiezitervall für θ agibt Das Ziel ist es, as Itervall so zu kostruiere, ass es e wahre Wert es Parameters θ mit eier große Wahrscheilichkeit (typischerweise 099 oer 095) ethält Defiitio 90 Sei (0, ) eie kleie Zahl, typischerweise = 00 oer = 005 Es seie θ : R R { } u θ : R R {+ } zwei Stichprobefuktioe mit θ(x,, x ) θ(x,, x ) für alle x,, x R Wir sage, ass θ, θ ei Kofiezitervall für θ zum Kofieziveau (0, ) ist, falls P θ θ(x,, X ) θ θ(x,, X ) für alle θ Θ Somit ist ie Wahrscheilichkeit, ass as zufällige Itervall (θ, θ) e richtige Wert θ ethält, miestes, also typischerweise 099 oer 095 Die allgemeie Vorgehesweise bei er Kostruktio er Kofiezitervalle ist iese: Ma versucht, eie sogeate Pivot Statistik zu fie, h eie Fuktio T (X,, X ; θ) er Stichprobe (X,, X ) u es ubekate Parameters θ mit er Eigeschaft, ass ie Verteilug vo T (X,, X ; θ) uter P θ icht vo θ abhägt u explizit agegebe were ka Das heißt, es soll gelte, ass P θ T (X,, X ; θ) t = F (t), wobei F (t) icht vo θ abhägt Dabei soll ie Fuktio T (X,, X ; θ) e Parameter θ tatsächlich auf eie ichttriviale Weise ethalte Für (0, ) bezeiche wir mit Q as Quatil er Verteilugsfuktio F, h ie Lösug er Gleichug F (Q ) = Da gilt P θ Q T (X,, X ; θ) Q = für alle θ Θ Iem wir u iese Ugleichug ach θ auflöse, erhalte wir ei Kofiezitervall für θ zum Kofieziveau Im Folgee were wir verschieee Beispiele vo Kofiezitervalle betrachte

2 9 Kofiezitervalle für ie Parameter er Normalverteilug I iesem Abschitt seie X,, X N(µ, ) uabhägige u mit Parameter (µ, ) ormalverteilte Zufallsvariable User Ziel ist es, Kofiezitervalle für µ u zu kostruiere Dabei were wir vier Fälle betrachte: () Kofiezitervall für µ bei bekatem () Kofiezitervall für µ bei ubekatem (3) Kofiezitervall für bei bekatem µ (4) Kofiezitervall für bei ubekatem µ Fall : Kofiezitervall für µ bei bekatem Es seie also X,, X N(µ, ) uabhägig, wobei µ ubekat u bekat seie Wir kostruiere ei Kofiezitervall für µ Ei atürlicher Schätzer für µ ist X Wir habe gezeigt, ass Wir were u X staarisiere: X N X µ (µ, ) N(0, ) Für (0, ) sei z as Quatil er Staarormalverteilug Dh, z sei ie Lösug er Gleichug Φ(z ) =, wobei Φ ie Verteilugsfuktio er Staarormalverteilug bezeichet Somit gilt P µ z X µ Nach µ umgeformt führt ies zu P µ X z z µ X z = für alle µ R = für alle µ R Wege er Symmetrie er Normalverteilug ist z = z Somit ist ei Kofiezitervall zum Niveau für µ gegebe urch X z Der Mittelpukt ieses Itervalls ist X, X + z Bemerkug 9 Ma ka auch ichtsymmetrische Kofiezitervalle kostruiere Wähle azu 0, 0 mit = + Da gilt P µ z X µ z = für alle µ R Nach µ umgeformt führt ies zu P µ X z µ X z = für alle µ R

3 Wege z = z führt ies zu folgeem Kofiezitervall für µ: X z, X + z Iteressiert ma sich z B ur für eie obere Schrake für µ, so ka ma = u = 0 wähle Da erhält ma folgees Kofiezitervall für µ:, X + z Die Kostruktio er ichtsymmetrische Kofiezitervalle lässt sich auch für ie achfolgee Beispiele urchführe, wir aber hier icht mehr wieerholt Fall : Kofiezitervall für µ bei ubekatem Es seie X,, X N(µ, ) uabhägig, wobei µ u beie ubekat seie Wir kostruiere ei Kofiezitervall für µ Es gilt zwar ach wie vor, ass X µ N(0, ), wir köe as aber icht für ie Kostruktio eies Kofiezitervalls für µ beutze, e er Parameter ist ubekat Wir were eshalb urch eie Schätzer, ämlich S = i= (X i X ), ersetze Wir habe im vorige Kapitel gezeigt, ass X µ S t Sei t, as Quatil er t Verteilug Somit gilt P µ, t, X µ t, = für alle µ R, > 0 S Nach µ umgeformt führt ies zu P µ, X t, S µ X t, S = für alle µ R, > 0 Wege er Symmetrie er t Verteilug gilt t, = t, Somit erhalte wir folgees Kofiezitervall für µ zum Niveau : X t, S, X + t, S Fall 3: Kofiezitervall für bei bekatem µ Seie u X,, X N(µ, ), wobei µ bekat u ubekat seie Wir kostruiere ei Kofiezitervall für Ei atürlicher Schätzer für ist S = (X i µ) Da gilt S = i= i= ( ) Xi µ χ 3

4 Sei χ, as Quatil er χ Verteilug mit Freiheitsgrae Da gilt P χ, S χ, = für alle > 0 Nach umgeformt führt ies zu folgeem Kofiezitervall für zum Niveau : S, S χ, χ, Es sei bemerkt, ass ie χ Verteilug icht symmetrisch ist Fall 4: Kofiezitervall für bei ubekatem µ Seie X,, X N(µ, ), wobei µ u beie ubekat seie Wir kostruiere ei Kofiezitervall für Ei atürlicher Schätzer für ist Bekat ist, ass Somit gilt P µ, χ, S = (X i X ) i= ( )S χ ( )S χ, = für alle µ R, > 0 Nach umgeformt führt ies zu ( )S P µ, ( )S = für alle µ R, > 0 χ, χ, Somit erhält ma folgees Kofiezitervall für zum Niveau ( )S ( )S, χ, χ, 9 Asymptotisches Kofiezitervall für ie Erfolgswahrscheilichkeit bei Beroulli Experimete Seie X,, X uabhägige u Beroulli verteilte Zufallsvariable mit Parameter θ (0, ) Wir wolle ei Kofiezitervall für ie Erfolgswahrscheilichkeit θ kostruiere Ei atürlicher Schätzer für θ ist X Diese Zufallsvariable hat eie reskalierte Biomialverteilug Es ist icht eifach, mit e Quatile ieser Verteilug umzugehe Somit ist es schwierig, ei exaktes Kofiezitervall für θ zu eiem vorgegebee Niveau zu kostruiere Auf er aere Seite, köe wir ach em Zetrale Grezwertsatz ie Verteilug vo X für großes urch eie Normalverteilug approximiere Ma ka also versuche, ei Kofiezitervall zu kostruiere, as zumiest bei eiem sehr große Stichprobeumfag as vorgegebee Niveau approximativ erreicht Dafür beötige wir ie folgee allgemeie Defiitio 4

5 Defiitio 9 Eie Folge θ, θ, θ, θ, vo Kofiezitervalle, wobei θ : R R { } u θ : R R {+ }, heißt asymptotisches Kofiezitervall zum Niveau, falls lim if P θθ (X,, X ) θ θ (X,, X ) für alle θ Θ Nu kehre wir zu userem Problem mit e Beroulli Experimete zurück Nach em Zetrale Grezwertsatz gilt X + + X θ θ( θ) N(0, ), e EX i = θ u Var X i = θ( θ) Durch Umformug ergibt sich X θ θ( θ) N(0, ) Sei z as Quatil er Staarormalverteilug Somit gilt lim P θ z X θ z = für alle θ (0, ) θ( θ) Aufgru er Symmetrieeigeschaft er Staarormalverteilug ist z = z Defiiere eshalb z := z = z Somit müsse wir θ bestimme, so ass folgee Ugleichug erfüllt ist: X θ z θ( θ) Quarierug führt zu ( X + θ X θ) z θ( θ) Dies lässt sich umschreibe zu ( ) g(θ) := θ + z θ ) ( X + z + X 0 Die Fuktio g(θ) ist quaratisch u hat (wie wir gleich sehe were) zwei verschieee reelle Nullstelle Somit ist g(θ) 0 geau a, we θ zwische iese beie Nullstelle liegt Iem wir u ie Nullstelle mit er p q Formel bereche, erhalte wir folgees Kofiezitervall zum Niveau für θ: X + z z X ( X ) + z 4 + z, X + z + z X ( X ) + z 4 + z Für großes erhalte wir ie folgee Approximatio (iem wir alle Terme mit / stehe lasse u alle Terme mit / igoriere): X z X ( X ), X + z X ( X ) Später were wir iese Approximatio mit em Satz vo Slutsky begrüe 5

6 Beispiel 9 Bei eier Wahlumfrage were Persoe befragt, ob sie eie Partei A wähle Es soll ei Kofiezitervall zum Niveau 095 für e Stimmeateil θ kostruiert were u ie Läge ieses Itervalls soll höchstes 00 sei Wie viele Persoe müsse afür befragt were? Lösug Wir betrachte ie Wahlumfrage als ei -faches Beroulli Experimet Die Läge es Kofiezitervalls für θ soll höchstes 00 sei, also erhalte wir ie Ugleichug z X ( X ) 00 Quariere u ach Umforme ergibt ie Ugleichug 4z X ( X ) 00 Der Mitelwert X ist zwar ubekat, allerigs gilt 0 X u somit X ( X ) /4 Es reicht also auf jee Fall, we z 00 Nu erier wir us ara, ass z as ( ) Quatil er Staarormalverteilug ist Das Kofieziveau soll = 095 sei, also ist = 0975 Das 0975 Quatil er Staarormalverteilug errechet sich (z B aus eier Tabelle) als Lösug vo Φ(z) = 0975 zu z = 96 Es müsse also 96 = 9604 Persoe befragt were Satz vo Slutsky Bei er Kostruktio vo Kofiezitervalle fiet er folgee Satz sehr oft Aweug Satz 93 (Satz vo Slutsky) Seie X, X, X, u Y, Y, Y, Zufallsvariable, ie auf eiem gemeisame Wahrscheilichkeitsraum (Ω, A, P) efiiert si Gilt X X u Y c, wobei c eie Kostate ist, so folgt, ass X Y cx Beweis Schritt Es geügt, ie puktweise Kovergez er charakteristische Fuktioe zu zeige Dh, wir müsse zeige, ass lim EeitX Y = Ee itcx für alle t R Sei φ(s) = e its Diese Fuktio ist gleichmäßig stetig auf R u betragsmäßig urch beschräkt Wir zeige, ass lim Eφ(X Y ) = Eφ(cX) Schritt Sei ε > 0 fest Wege er gleichmäßige Stetigkeit vo φ gibt es ei δ > 0 mit er Eigeschaft, ass φ(x) φ(y) ε für alle x, y R mit x y δ 6

7 Schritt 3 Sei A > 0 so groß, ass P X > A ε Wir köe aehme, ass A u A Stetigkeitspukte er Verteilugsfuktio vo X si, asoste ka ma A vergrößer Da X X u A, A keie Atome vo X si, folgt, ass lim P X > A = P X > A ε Also gilt P X > A ε für große Schritt 4 Es gilt Eφ(X Y ) Eφ(cY ) E φ(x Y ) φ(cx ) + Eφ(cX ) Eφ(cX) mit E = E E = E E 3 = E E + E + E 3 + E 4, φ(x Y ) φ(cx ) Y c > δ A φ(x Y ) φ(cx ) Y c δ A, X, >A φ(x Y ) φ(cx ) Y c δa, X A, E 4 = Eφ(cX ) Eφ(cX) Schritt 5 Wir were u E,, E 4 abschätze E : Da φ(t) ist, folgt, ass E P Y c > δ/a Dieser Term kovergiert gege 0 für, a Y gege c i Verteilug (u somit auch i Wahrscheilichkeit) kovergiert E : Für E gilt ie Abschätzug E P X > A 4ε ach Schritt 3, we groß geug ist E 3 : Es gilt E 3 ε, a X Y cx δ falls Y c δ/a u X A Aus Schritt folgt a, ass φ(x Y ) φ(cx ) ε E 4 : Der Term E 4 kovergiert für gege 0, e lim Eφ(cX ) = Eφ(cX), e ach Voraussetzug kovergiert X i Verteilug gege X Iem wir u alles zusammefasse, erhalte wir, ass lim sup Eφ(X Y ) Eφ(cY ) 5ε Da ε > 0 beliebig klei gewählt were ka, folgt, ass lim Eφ(X Y ) Eφ(cY ) = 0 Somit ist lim Eφ(X Y ) = Eφ(cY ) Beispiel 93 Seie X,, X uabhägig u Beroulli verteilt mit Parameter θ (0, ) Wir kostruiere ei asymptotisches Kofiezitervall für θ Nach em Zetrale Grezwertsatz gilt X θ N(0, ) θ( θ) Leier kommt hier θ sowohl im Zähler als auch im Neer vor Deshalb hat sich bei userer frühere Kostruktio eie quaratische Gleichug ergebe Wir were u θ im Neer 7

8 elimiiere, iem wir es urch eie Schätzer, ämlich X, ersetze Nach em Satz vo Slutsky gilt ämlich, ass X θ X ( X ) = X θ θ( θ) e ach em Gesetz er große Zahle kovergiert i Verteilug) gege Es gilt also lim P θ z X θ X ( X ) z θ( θ) X ( X ) θ( θ) X ( X ) N(0, ), fast sicher (u somit auch = für alle θ (0, ) Sei z := z = z Daraus ergibt sich folgees aysmptotisches Kofiezitervall für θ zum Kofieziveau : X z X ( X ), X + z X ( X ) Dieses Itervall habe wir obe mit eier aere Methoe hergeleitet Aufgabe 933 Zeige Sie mit em Satz vo Slutsky, ass t N(0, ) Dabei ist t ie t Verteilug mit Freiheitsgrae 94 Kofiezitervall für e Erwartugswert er Poissoverteilug Seie X,, X uabhägige Zufallsvariable mit X i Poi(θ), wobei θ > 0 Gesucht ist ei Kofiezitervall für θ zum Kofieziveau Ei atürlicher Schätzer für θ ist X Da für ie Poisso Verteilug EX i = Var X i = θ gilt, folgt urch e zetrale Grezwertsatz, ass X θ N(0, ) θ Es sei z as Quatil er Staarormalverteilug Somit gilt lim P θ z X θ θ z = für alle θ > 0 Aufgru er Symmetrieeigeschaft er Staarormaverteilug gilt z := z Wir erhalte also folgee Ugleichug für θ: X θ θz Dies lässt sich urch Quarierug umschreibe zu ) g(θ) := θ θ ( X + z + X 0 = z Die Ugleichug g(θ) 0 gilt geau a, we θ zwische e beie Nullstelle er quaratische Gleichug g(θ) = 0 liegt Diese lasse urch Verweug er p q Formel 8

9 bereche Es ergibt sich folgees asymptotisches Kofiezitervall für θ zum Kofieziveau : X + z z X + z, X + z + z X + z Iem ma u alle Terme mit / stehe lässt u alle Terme mit / igoriert, erhält ma ie Approximatio X z X, X + z X Das Argumet mit er quaratische Gleichug lässt sich mit em Satz vo Slutsky vermeie Nach em Zetrale Grezwertsatz gilt ach wie vor X θ θ N(0, ) Leier kommt hier er Parameter θ sowohl im Zähler als auch im Neer vor, was im obige Argumet zu eier quaratische Gleichug führte Wir köe allerigs θ urch eie Schätzer für θ, ämlich urch X, ersetze Nach em starke Gesetz er große Zahle kovergiert θ/ X fast sicher (u somit auch i Verteilug) gege Nach em Satz vo Slutsky gilt a Somit folgt X θ X = X θ θ θ X N(0, ) lim P θ z X θ z = für alle θ > 0 X Es ergibt sich also wieer eimal as asymptotische Kofiezitervall X z X, X + z X 95 Zweistichprobeprobleme Bislag habe wir ur sogeate Eistichprobeprobleme betrachtet Es gibt aber auch mehrere Probleme, bei ee ma zwei Stichprobe miteiaer vergleiche muss Beispiel 95 Es solle zwei Futterarte für Masttiere vergliche were Dazu betrachtet ma zwei Gruppe vo Tiere Die erste, aus Tiere bestehee Gruppe bekommt Futter Die zweite, aus m Tiere bestehee Gruppe, bekommt Futter Mit X,, X wir ie Gewichtszuahme er Tiere er erste Gruppe otiert Etspreche bezeiche wir ie Gewichtszuahme er Tiere aus er zweite Gruppe mit Y,, Y m Die Aufgabe besteht u ari, ie beie Futterarte zu vergleiche, also ei Kofiezitervall für µ µ zu fie, wobei µ bzw µ er Erwartugswert er erste bzw er zweite Stichprobe ist Beispiel 95 Es wure zwei Messverfahre zur Bestimmug eier physikalische Größe etwickelt Es soll u ermittelt were, welches Verfahre eie größere Geauigkeit (also eie kleiere Streuug er Messergebisse) hat Dazu wir ie physikalische Größe zuerst Mal mit em erste Verfahre gemesse, u a m Mal mit em zweite Verfahre 9

10 Es ergebe sich zwei Stichprobe X,, X u Y,, Y m Diesmal solle ie Streuuge er beie Stichprobe vergliche were, also ei Kofiezitervall für / kostruiert were, wobei bzw ie Variaz er erste bzw er zweite Stichprobe ist Für ie obige Beispiele erscheit folgees Moell plausibel Wir betrachte zwei Stichprobe X,, X u Y,, Y m Wir ehme a, ass () X,, X, Y,, Y m uabhägige Zufallsvariable si () X,, X N(µ, ) (3) Y,, Y m N(µ, ) Wir were Kofiezitervalle für µ µ u / kostruiere Fall : Kofiezitervall für µ µ bei bekate u Es seie also u bekat Da X,, X N(µ, ) u Y,, Y m N(µ, ), folgt aus er Faltugseigeschaft er Normalverteilug, ass X := X + + X N ( µ, ), Ȳ m := X + + Y m m Ei atürlicher Schätzer für µ µ ist gegebe urch ( ) X Ȳm N µ µ, + m ( ) N µ, m Iem er Erwartugswert subtrahiert u urch ie Staarabweichug geteilt wir, erhält ma eie staarormalverteilte Zufallsvariable: X Ȳm (µ µ ) + m + m N(0, ) Es gilt also, ass P µ,µ z X Ȳm (µ µ ) z = für alle µ, µ R Aufgru er Symmetrieeigeschaft er Normalverteilug köe wir z = z efiiere Umgeformt ach µ µ erhält ma as Kofiezitervall X Ȳm z + m, X Ȳm + z + m = z Fall : Kofiezitervall für µ µ bei ubekate aber gleiche u Seie u u ubekat Um as Problem zu vereifache, were wir aehme, ass u gleich si, h := = Schritt Geauso wie i Fall gilt X Ȳm (µ µ ) N(0, ) + m 0

11 Leier köe wir as icht zur Kostruktio eies Kofiezitervalls für µ µ irekt verwee, e ist ubekat Wir were eshalb schätze Schritt Ei Schätzer für, er ur auf er erste Stichprobe basiert, ist gegebe urch SX = (X i X ) Aalog gibt es eie Schätzer für, er ur auf er zweite Stichprobe basiert: SY = m (Y j m Ȳm) Für iese Schätzer gilt ( )S X χ, i= j= (m )S Y χ m Bemerke, ass iese zwei χ verteilte Zufallsvariable uabhägig si Somit folgt ( )S X + (m )S Y χ +m Betrachte u folgee Schätzer für, er auf beie Stichprobe basiert: ( ) S = (X i + m X m ) + (Y j Ȳm) = ( )S X + (m )S Y + m Somit gilt i= j= ( + m )S χ +m Der Erwartugswert eier χ +m verteilte Zufallsvariable ist + m Daraus folgt isbesoere, ass S ei erwartugstreuer Schätzer für ist, was ie Wahl er Normierug /( + m ) erklärt Schritt 3 Aus Schritt u Schritt folgt, ass X Ȳm (µ µ ) = S + m X Ȳm (µ µ ) + m +m (+m )S t +m Dabei habe wir beutzt, ass er Zähler u er Neer es obige Bruchs uabhägig voeiaer si Das folgt aus er Tatsache, ass SX u X sowie SY u Ȳ uabhägig voeiaer si, sowie aus er Tatsache, ass ie Vektore (X, SX ) u (Y, S Y ) uabhägig voeiaer si Somit gilt P µ,µ, t +m, X Ȳm (µ µ ) t +m, = für alle µ, µ, S + m

12 Wege er Symmetrie er t Verteilug gilt t := t +m, = t +m, Umgeformt ach µ µ ergibt sich folgees Kofiezitervall für µ µ zum Kofieziveau : X Ȳm S + m t, X Ȳm + S + m t Fall 3: Kofiezitervall für / bei ubekate µ u µ Seie also µ u µ ubekat Wir kostruiere ei Kofiezitervall für / Die atürliche Schätzer für u si gegebe urch Es gilt S X = i= ( )S X (X i X ), S Y = m χ, (m )S Y m (Y j Ȳm) j= χ m u iese beie Zufallsvariable si uabhägig Es folgt, ass S X / S Y / = F,m, ( )S X (m )S Y m F,m Wir bezeiche mit F,m, as Quatil er F,m Verteilug Deshalb gilt, ass P µ,µ, F,,m, S X / F SY,m, = für alle µ /, µ,, > 0 Somit ergibt sich folgees Kofiezitervall für / zum Kofieziveau : S X, S X SY SY F,m, Fall 4: Kofiezitervall für / bei bekate µ u µ Ählich wie i Fall 3 (Übugsaufgabe) Zum Schluss betrachte wir ei Beispiel, bei em es sich ur scheibar um ei Zweistichprobeproblem haelt Beispiel 953 (Verbuee Stichprobe) Bei eiem Psychologietest fülle Persoe jeweils eie Frageboge aus Die Frageböge were ausgewertet u ie Ergebisse er Persoe mit X,, X otiert Nach er Therapiezeit were vo e gleiche Persoe ie Ergebisse mit Y,, Y festgehalte I iesem Moell gibt es zwei Stichprobe, allerigs si ie Aahme es Zweistichprobemoells hier icht plausibel Es ist ämlich klar, ass X u Y abhägig si, e beie Ergebisse gehöre zu erselbe Perso Allgemeier si X i u Y i abhägig Eie bessere Vorgehesweise bei iesem Problem ist iese Wir betrachte ie Zuwächse Z i = Y i X i Diese köe wir als uabhägige Zufallsvariable Z,, Z N(µ, ) moelliere Dabei spiegelt µ e mittlere Therapieerfolg wier Das Kofiezitervall für µ wir wie bei eiem Eistichprobeproblem gebilet