Wirksamkeit, Effizienz. Beispiel: Effizienz. Mittlerer quadratischer Fehler (MSE) Konsistenz im quadratischen Mittel

Transkript

1 3 arameterpuktschätzer Eigeschafte vo Schätzfuktioe 3.3 Wirksamkeit, Effiziez 3 arameterpuktschätzer Eigeschafte vo Schätzfuktioe 3.3 Beispiel: Effiziez Defiitio 3.5 (Wirksamkeit, Effiziez Sei W eie parametrische Verteilugsaahme mit arameterraum Θ. 1 Seie θ ud θ erwartugstreue Schätzfuktioe für θ. Da heißt θ midestes so wirksam wie θ, we Var( θ Var( θ für alle θ Θ gilt. θ heißt wirksamer als θ, we außerdem Var( θ < Var( θ für midestes ei θ Θ gilt. Ist θ midestes so wirksam wie alle (adere Schätzfuktioe eier Klasse mit erwartugstreue Schätzfuktioe für θ, so et ma θ effiziet i dieser Klasse erwartugstreuer Schätzfuktioe. Die Begriffe Wirksamkeit ud Effiziez betrachtet ma aalog zu Defiitio 3.5 ebefalls, we Fuktioe g(θ eies arameters θ Gegestad der Schätzug sid. Var( θ wird auch Stadardfehler oder Stichprobefehler vo θ geat. Schließede Statistik (WS 013/14 Folie 57 Betrachte Klasse der (lieare erwartugstreue Schätzfuktioe µ w1,...,w := w i X i mit w i = 1 für de Erwartugswert µ := E(Y aus Folie 56. Für welche w 1,..., w erhält ma (bei Vorliege eier eifache Stichprobe die i dieser Klasse effiziete Schätzfuktio µ w1,...,w? Suche ach de Gewichte w 1,..., w (mit w i = 1, für die Var( µ w1,...,w möglichst klei wird. Ma ka zeige, dass Var( µ w1,...,w miimal wird, we w i = 1 für alle i 1,..., gewählt wird. Damit ist X also effiziet i der Klasse der lieare erwartugstreue Schätzfuktioe für de Erwartugswert µ eier Verteilug! Schließede Statistik (WS 013/14 Folie 58 3 arameterpuktschätzer Eigeschafte vo Schätzfuktioe 3.3 Mittlerer quadratischer Fehler (MSE We Erwartugstreue im Vordergrud steht, ist Auswahl ach miimaler Variaz der Schätzfuktio sivoll. Ist Erwartugstreue icht das übergeordete Ziel, verwedet ma zur Beurteilug der Qualität vo Schätzfuktioe häufig auch de sogeate mittlere quadratische Fehler (mea square error, MSE. Defiitio 3.6 (Mittlerer quadratischer Fehler (MSE Sei W eie parametrische Verteilugsaahme mit arameterraum ] Θ, θ eie Schätzfuktio für θ Θ. Da heißt MSE( θ := E ( θ θ der mittlere quadratische Fehler (mea square error, MSE vo θ. Mit dem (umgestellte Variazzerlegugssatz erhält ma direkt E ( θ θ ] ] = Var( θ θ + E( θ θ, =Var( θ =(Bias( θ für erwartugstreue Schätzfuktioe stimmt der MSE eier Schätzfuktio also gerade mit der Variaz überei! Schließede Statistik (WS 013/14 Folie 59 3 arameterpuktschätzer Eigeschafte vo Schätzfuktioe 3.3 Kosistez im quadratische Mittel Basiered auf dem MSE ist ei miimales Qualitätskriterium für Schätzfuktioe etabliert. Das Kriterium fordert (im rizip, dass ma de MSE durch Vergrößerug des Stichprobeumfags beliebig klei bekomme muss. Zur Formulierug des Kriteriums müsse Schätzfuktioe θ für variable Stichprobegröße N betrachtet werde. Defiitio 3.7 (Kosistez im quadratische Mittel Seie W eie parametrische Verteilugsaahme mit arameterraum Θ, θ eie Schätzfuktio für θ Θ zum Stichprobeumfag N. Da heißt die (Familie vo Schätzfuktio(e θ kosistet im quadratische Mittel, falls lim MSE( θ = lim E ( θ θ ] = 0 für alle θ Θ gilt. Schließede Statistik (WS 013/14 Folie 60

2 3 arameterpuktschätzer Eigeschafte vo Schätzfuktioe 3.3 Mit der (additive Zerlegug des MSE i Variaz ud quadrierte Bias aus Folie 59 erhält ma sofort: Satz 3.8 Seie W eie parametrische Verteilugsaahme mit arameterraum Θ, θ eie Schätzfuktio für θ Θ zum Stichprobeumfag N. Da ist die Familie θ vo Schätzfuktioe geau da kosistet im quadratische Mittel für θ, we sowohl 1 lim E( θ θ = 0 bzw. lim E( θ = θ als auch lim Var( θ = 0 für alle θ Θ gilt. Eigeschaft 1 aus Satz 3.8 wird auch asymptotische Erwartugstreue geat; asymptotische Erwartugstreue ist offesichtlich schwächer als Erwartugstreue. Es gibt also auch (Familie vo Schätzfuktioe, die für eie arameter θ zwar kosistet im quadratische Mittel sid, aber icht erwartugstreu. 3 arameterpuktschätzer Eigeschafte vo Schätzfuktioe 3.3 Beispiel: Kosistez Voraussetzug (wie üblich: X 1,..., X eifache Stichprobe zu Y. Bekat: Ist µ := E(Y der ubekate Erwartugswert der iteressierede Zufallsvariable Y, so ist X = 1 X i für alle N erwartugstreu. Ist := Var(Y die Variaz vo Y, so erhält ma für die Variaz vo X (vgl. Beweis der Effiziez vo X uter alle lieare erwartugstreue Schätzfuktioe für µ: Var(X = Var ( 1 X i = 1 Var(X i = = Es gilt also lim Var(X = lim = 0, damit folgt zusamme mit der Erwartugstreue, dass X kosistet im quadratische Mittel für µ ist. Schließede Statistik (WS 013/14 Folie 61 Schließede Statistik (WS 013/14 Folie 6 4 Schwakugsitervalle Verteilug des Stichprobemittels 4.1 Verteilug des Stichprobemittels X Bisher: Iteresse meist a eiige Momete (Erwartugswert ud Variaz vo Schätzfuktioe, isbesodere des Stichprobemittels X. Bereits bekat: Ist µ := E(Y, := Var(Y ud X 1,..., X eie eifache Stichprobe zu Y, so gilt E(X = µ sowie Var(X =. Damit Aussage über Erwartugstreue, Wirksamkeit, Kosistez möglich. Jetzt: Iteresse a gazer Verteilug vo Schätzfuktioe, isbesodere X. Verteilugsaussage etweder auf Grudlage des Verteilugstyps vo Y aus der Verteilugsaahme i spezielle Situatioe eakt möglich oder auf Grudlage des zetrale Grezwertsatzes (bei geüged großem Stichprobeumfag! allgemeier äherugsweise (approimativ möglich. Wir uterscheide im Folgede ur zwische: Y ormalverteilt Verwedug der eakte Verteilug vo X. Y icht ormalverteilt Verwedug der Näherug der Verteilug vo X aus dem zetrale Grezwertsatz. Schließede Statistik (WS 013/14 Folie 63 4 Schwakugsitervalle Verteilug des Stichprobemittels 4.1 Aus Deskriptive Statistik ud Wahrscheilichkeitsrechug : 1 Gilt Y N(µ,, so ist X eakt ormalverteilt mit Erwartugswert µ ud Variaz, es gilt also ( X N µ, Ist Y beliebig verteilt mit E(Y =: µ ud Var(Y =:, so rechtfertigt der zetrale Grezwertsatz für ausreiched große Stichprobeumfäge die Näherug der tatsächliche Verteilug vo X durch eie Normalverteilug mit Erwartugswert µ ud Variaz X N. (wie obe!, ma schreibt da auch (µ, ( ud sagt, X ist approimativ (äherugsweise N Der Stadardabweichug µ, -verteilt. Var(X vo X (also der Stadardfehler der Schätzfuktio X für µ wird häufig mit X := abgekürzt. Schließede Statistik (WS 013/14 Folie 64

3 4 Schwakugsitervalle Verteilug des Stichprobemittels 4.1 Die Qualität der Näherug der Verteilug im Fall wird mit zuehmedem Stichprobeumfag höher, hägt aber gaz etscheided vom Verteilugstyp (ud sogar der kokrete Verteilug vo Y ab! auschale Kriterie a de Stichprobeumfag ( Daumeregel, z.b. 30 fide sich häufig i der Literatur, sid aber icht gaz ukritisch. ( ( Verteilugseigeschaft X N µ, bzw. X N µ, wird meistes (äquivalet! i der (auch aus dem zetrale Grezwertsatz bekate Gestalt X µ X µ N(0, 1 bzw. N(0, 1 verwedet, da da Verwedug vo Tabelle zur Stadardormalverteilug möglich. Im Folgede: Eiige Beispiele für Qualität vo Näheruge durch Vergleich der Dichtefuktio der Stadardormalverteilugsapproimatio mit der tatsächliche Verteilug vo X µ für uterschiedliche Stichprobeumfäge. 4 Schwakugsitervalle Verteilug des Stichprobemittels 4.1 Beispiel: Näherug, falls Y Uif(0, 50 f( N(0,1 =3 =5 =10 Schließede Statistik (WS 013/14 Folie 65 Schließede Statistik (WS 013/14 Folie 66 4 Schwakugsitervalle Verteilug des Stichprobemittels 4.1 Beispiel: Näherug, falls Y Ep( 4 Schwakugsitervalle Verteilug des Stichprobemittels 4.1 Beispiel: Näherug, falls Y B(1, 0.5 f( N(0,1 =3 =5 =10 =30 =50 f( N(0,1 =3 =5 =10 =30 =50 = Schließede Statistik (WS 013/14 Folie 67 Schließede Statistik (WS 013/14 Folie 68

4 4 Schwakugsitervalle Verteilug des Stichprobemittels 4.1 Beispiel: Näherug, falls Y B(1, Schwakugsitervalle Schwakugsitervalle 4. Schwakugsitervalle für X f( N(0,1 =3 =5 =10 =30 =50 = Eie Verwedugsmöglichkeit für Verteilug vo X : Berechug vo (feste Itervalle mit der Eigeschaft, dass die Stichprobeziehug mit eier vorgegebee Wahrscheilichkeit zu eier Realisatio vo X führt, die i dieses berechete Itervall fällt. Solche Itervalle heiße Schwakugsitervalle. Gesucht sid also Itervallgreze g u < g o vo Itervalle g u, g o ] mit X (g u, g o ] = X g u, g o ]! = p S für eie vorgegebee Wahrscheilichkeit p S (0, 1. Aus bestimmte Grüde (die später verstädlich werde gibt ma icht p S vor, soder die Gegewahrscheilichkeit α := 1 p S, d.h. ma fordert X (g u, g o ] = X g u, g o ]! für ei vorgegebees α (0, 1. 1 α wird da auch Sicherheitswahrscheilichkeit geat. Schließede Statistik (WS 013/14 Folie 69 Schließede Statistik (WS 013/14 Folie 70 4 Schwakugsitervalle Schwakugsitervalle 4. Eideutigkeit für die Bestimmug vo g u ud g o erreicht ma durch die Forderug vo Symmetrie i dem Si, dass die utere bzw. obere Greze des Itervalls jeweils mit eier Wahrscheilichkeit vo α/ uter- bzw. überschritte werde soll, d.h. ma fordert geauer X < g u! = α Uter Verwedug der Verteilugseigeschaft X µ ud X > g o! = α. X µ N(0, 1 bzw. N(0, 1 erhält ma also eakt bzw. äherugsweise X µ X < g u = g u µ ( = Φ 1 α als utere Itervallgreze. g u = µ + Φ 1 ( α g u µ <! = α Schließede Statistik (WS 013/14 Folie 71 4 Schwakugsitervalle Schwakugsitervalle 4. Aalog erhält ma eakt bzw. äherugsweise X µ g o µ! X > g o = > = α g o µ ( = Φ 1 1 α g o = µ + ( Φ 1 1 α. als die obere Itervallgreze. Als Abkürzug für p-quatile der Stadardormalverteilug (also Fuktioswerte vo Φ 1 a der Stelle p (0, 1 verwede wir: N p := Φ 1 (p Ma erhält also isgesamt als symmetrisches Schwakugsitervall für X eakt bzw. äherugsweise das Itervall µ + N α, µ + ] N 1 α. Schließede Statistik (WS 013/14 Folie 7

5 4 Schwakugsitervalle Schwakugsitervalle 4. Bemerkuge Die bekate Symmetrieeigeschaft Φ( = 1 Φ( bzw. Φ( = 1 Φ( für alle R überträgt sich auf die Quatile N p der Stadardormalverteilug i der Form N p = N 1 p bzw. N 1 p = N p für alle p (0, 1. Üblicherweise sid ur die Quatile für p 1 i Tabelle ethalte. Ma schreibt daher das Schwakugsitervall meist i der Form µ N 1 α, µ + ] N 1 α. I dieser Gestalt wird (och klarer deutlich, dass symmetrische Schwakugsitervalle für X ebefalls (! stets symmetrisch um µ sid. I der Literatur werde astelle der Abkürzug N p für die Quatile der Stadardormalverteilug häufig auch die Abkürzuge z p oder λ p verwedet. Geläufige Sicherheitswahrscheilichkeite sid z.b. 1 α 0.90, 0.95, Schließede Statistik (WS 013/14 Folie 73 4 Schwakugsitervalle Schwakugsitervalle 4. Beispiel: Schwakugsitervall Aufgabestellug: Es gelte Y N(50, 10. Zu Y liege eie eifache Stichprobe X1,..., X 5 der Läge = 5 vor. Gesucht ist ei (symmetrisches Schwakugsitervall für X zur Sicherheitswahrscheilichkeit 1 α = Lösug: Es gilt also µ := E(Y = 50, := Var(Y = 10, = 5 ud α = Zur Berechug des Schwakugsitervalls µ N 1 α, µ + ] N 1 α beötigt ma also ur och das 1 α/ = Quatil N der Stadardormalverteilug. Dies erhält ma mit geeigeter Software (oder aus geeigete Tabelle als N = Isgesamt erhält ma also das Schwakugsitervall , ] 1.96 = 46.08, 53.9]. 5 5 Die Ziehug eier Stichproberealisatio führt also mit eier Wahrscheilichkeit vo 95% zu eier Realisatio vo X im Itervall 46.08, 53.9]. Schließede Statistik (WS 013/14 Folie 74 4 Schwakugsitervalle Schwakugsitervalle 4. Beispiel: Schwakugsitervall (Grafische Darstellug Im Beispiel: X N f X ( (50, 10 5 X α = α = 0.95 α = 0.05 g u µ X µ µ + X g o 5 Kofidezitervalle Kofidezitervalle Schwakugsitervalle für X zu gegebeem Erwartugswert µ ud gegebeer Variaz vo Y eher theoretisch iteressat. I praktische Aweduge der schließede Statistik: µ (ud evetuell auch ubekat! Ziel ist es, über die (bereits diskutierte arameterpuktschätzug durch X hiaus mit Hilfe der Verteilug vo X eie Itervallschätzug vo µ zu kostruiere, die bereits Iformatio über die Güte der Schätzug ethält. Asatz zur Kostruktio dieser Itervallschätzer ählich zum Asatz bei der Kostruktio vo (symmetrische Schwakugsitervalle. Idee: Verwede die Ketis der Verteilug vo X (abhägig vom ubekate µ, um zufällige (vo der Stichproberealisatio abhägige Itervalle zu kostruiere, die de wahre Erwartugswert µ mit eier vorgegebee Wahrscheilichkeit überdecke. Kofidezitervalle icht ur für de Erwartugswert µ eier Verteilug möglich; hier allerdigs Beschräkug auf Kofidezitervalle für µ. Schließede Statistik (WS 013/14 Folie 75 Schließede Statistik (WS 013/14 Folie 76

6 5 Kofidezitervalle Kofidezitervalle bei bekater Variaz 5.1 Kofidezitervalle für µ bei bekater Variaz ] Für die (feste! Schwakugsitervalle µ N 1 α, µ + N 1 α für X zur Sicherheitswahrscheilichkeit 1 α auf Grudlage der eakte oder äherugsweise verwedete Stadardormalverteilug der Größe X µ gilt ach Kostruktio X µ N 1 α, µ + ] N 1 α. Idee: Auflöse dieser Wahrscheilichkeitsaussage ach µ, das heißt, Suche vo zufällige Itervallgreze µ u < µ o mit der Eigeschaft µ µ u, µ o ] = µ u µ µ o!. (bzw. geauer µ < µ u! = α ud µ > µ o! = α. Solche Itervalle µ u, µ o ] et ma da Kofidezitervalle für µ zum Kofideziveau (zur Vertraueswahrscheilichkeit 1 α. Schließede Statistik (WS 013/14 Folie 77 5 Kofidezitervalle Kofidezitervalle bei bekater Variaz 5.1 Ma erhält X µ N 1 α, µ + ] N 1 α µ N 1 α X µ + N 1 α X N 1 α µ X + N 1 α X + N 1 α µ X N 1 α X N 1 α µ X + N 1 α µ X N 1 α, X + N 1 α ud damit das Kofidezitervall X N 1 α, X + ] N 1 α zum Kofideziveau 1 α für µ. ] Schließede Statistik (WS 013/14 Folie 78 5 Kofidezitervalle Kofidezitervalle bei bekater Variaz 5.1 I der resultierede Wahrscheilichkeitsaussage X N 1 α µ X + N 1 α sid die Itervallgreze µ u = X N 1 α ud µ o = X + N 1 α des Kofidezitervalls zufällig (icht etwa µ!. Ziehug eier Stichproberealisatio liefert also Realisatioe der Itervallgreze ud damit ei kokretes Kofidezitervall, welches de wahre (ubekate Erwartugswert µ etweder überdeckt oder icht. Die Wahrscheilichkeitsaussage für Kofidezitervalle zum Kofideziveau 1 α ist also so zu verstehe, dass ma bei der Ziehug der Stichprobe mit eier Wahrscheilichkeit vo 1 α ei Stichprobeergebis erhält, welches zu eiem realisierte Kofidezitervall führt, das de wahre Erwartugswert überdeckt. 5 Kofidezitervalle Kofidezitervalle bei bekater Variaz 5.1 Beispiel: Kofidezitervall bei bekatem Die Zufallsvariable Y sei ormalverteilt mit ubekatem Erwartugswert ud bekater Variaz =. Gesucht: Kofidezitervall für µ zum Kofideziveau 1 α = Als Realisatio 1,..., 16 eier eifache Stichprobe X 1,..., X 16 vom Umfag = 16 zu Y liefere die Stichprobeziehug 18.75, 0.37, 18.33, 3.19, 0.66, 18.36, 0.97, 1.48, 1.15, 19.39, 3.0, 0.78, 18.76, 15.57,.5, 19.91, was zur Realisatioe = vo X führt. Als Realisatio des Kofidezitervalls für µ zum Kofideziveau 1 α = 0.99 erhält ma damit isgesamt N 1 α, + ] N 1 α = , = , 1.47]. ] Schließede Statistik (WS 013/14 Folie 79 Schließede Statistik (WS 013/14 Folie 80