Grenzwertsätze, Gesetze der Großen Zahl(en)

Transkript

1 Prof. Dr. Peter Michael vo der Lippe Grezwertsätze, Gesetze der Große Zahl(e) Der folgede Text ist gedacht als Begleitlektüre zu meier Vorlesug "Iduktive Statistik" i eiem Pukt, ämlich dem Kapitel 7 der Vorlesug ud meies Buches, das erfahrugsgemäß besoders viele Verstädisprobleme bereitet. Was i der Vorlesug gesagt wird (wurde) ist deshalb hier auch i ausformulierter Form achzulese. Der Text ist wie folgt gegliedert:. Nichtstochastische Begriffe vo "Grezwert" a) Kozept der Epsilo-Umgebug b) Grezwert ud Häufugspukt. Stochastische Begriffe a) Stochastische Kovergez b) Kovergez vo Verteiluge 3. Abschätzug vo Wahrscheilichkeite, Ugleichuge i der Stochastik 4. Zusammehäge zwische eiige Kovergezbegriffe i der Statistik. Nichtstochastische Begriffe vo "Grezwert" a) Kozept der Epsilo-Umgebug Aus der Schulmathematik ist bekat, dass uterschiede wird Kovergez eier Zahlefolge, oder "algebraische Folge" (Z) ud Kovergez eier Fuktioefolge (F). Die Uterscheidug vo Z ud F taucht auch i der Statistik auf i Form vo Gesetze der Große Zahl(e) ( Z) ud Grezwertsätze (besser: Grezverteilugssätze, F). Ei eifaches Beispiel für eie Zahlefolge (Z) i Abhägigkeit vo ist die Folge Z() = 0, +, die "gege 0, strebt" (vgl. Bild auf der ächste Seite). Die übliche aschauliche Vorstellug dabei ist: je größer ist, desto äher kommt der Wert der Zahl 0,. Oder: mit "gege uedlich" wird die Folge (Z) der Kostate 0, immer ählicher. Es ist wichtig, sich klar zu mache, dass diese verbreitete "Alltagsvorstellug" zumidest uexakt we icht mißverstädlich ist. Sie soll im folgede "verfeiert" werde. Die im Kaste wiedergegebee Sprechweise ist laiehaft ud problematisch, weil die verwedete Begriffe icht exakt sid. Gemeit ist das Buch vo der Lippe, Iduktive Statistik, Formel, Aufgabe, Klausurtraiig, Oldebourg Verlag, Müche u. Wie 999, im folgede zitiert als "v.d.l., Iduktive".

2 Was heißt "je größer" oder immer "ählicher werde" oder gege etwas "strebe"? Was heißt vor allem "uedlich"? Ei Begriff, der das vage Kozept "gege uedlich" vermeidet, kote erst gefude werde, als die Idee der -Umgebug (Epsilo-Umgebug) eigeführt wurde. Bild,3,, 0,9 0,8 0,7 0,6 0,5 0,4 0,3 0, 0, 0 f() Der Begriff () lim Z() = lim( 0, + ) = 0, ka da auch wie folgt ausgedrückt werde: (a) { 0, + } 0, <. > 0 N > N oder i Worte: es gibt (Symbol ) eie Zahl dass für alle (Symbol oder N (dere Größe vo abhägt, daher ), die größer sid als N ) so ) die Werte der N (also > N N werde sie außerhalb der - Folge jeweils i der -Umgebug liege (davor, also für Umgebug liege). Sie liege damit quasi i eiem Bad ober- ud uterhalb vo 0,. Das "Liege" i eiem Bad um 0, wird ausgedrückt durch 0, <, wobei beliebig groß oder klei sei ka, es muss ur eie reelle positive Zahl sei. Das Zeiche eifach "für jedes (beliebige) positive " gibt es ei Z N, so dass... gilt. > 0 bedeutet Für user Beispiel sei ageomme = 0,05, da liegt die -Umgebug um 0, vo 0,05 bis 0,5 ud ab eiem Wert vo N = 0 liege alle Werte der Folge ierhalb de beide Greze der -Umgebug, ämlich 0,5 ud 0,05 (sie liege hier i diesem spezielle Fall sogar zwische 0,5 ud 0,, weil sich die Folge "mooto" dem Grezwert ähert, durch ei mootoes Abehme). Geau geomme muß es heiße: ierhalb der Umgebug liege "fast alle" Werte der Folge Z() i dem Sie vo alle bis auf edlich viele.

3 3 Ma erhält die folgede Zahle für die Werte Z, Z, Z 3, Z 4 der Zahlefolge i Bild : 3 4 0, + / 0,476 0,4545 0,4348 0,467 Eie Folge muss sich icht otwedig mooto ihrem Grezwert äher, sie ka dies auch oszilliered (schwiged) tu. Ei Beispiel hierfür ist die Zahlefolge (b) Z = f() = + ( ) oder + ( ) (vgl. das folgede Bild ). Bild,6,5,4,3,, 0,9 0,8 0,7 0,6 0,5 0,4 0,3 0, 0, 0 f () Ei eifaches Beispiel für eie Fuktioefolge (F) im Uterschied zu eier Zahlefolge (Z) ist die Fuktio F() Sie hat folgede Gestalt: x = + F() +x 3 + x + x 3 3 = x 4 + x + usw. Bei = ist dies eie Gerade. Da kommt eie Parabel ( = ) ud damit eie Krümmug, die i eiem gewisse Sie immer stärker wird. Wohi "strebt" u diese Folge vo Fuktioe F(), F(), F(3),... mit wachsedem (we immer größer wird)? Ma ka zeige, dass die Folge gege eie feste (kostate, icht mehr vo abhägige) Fuktio strebt, die quasi bei gilt. Es ist die e-fuktio, so dass wege x lim + = e x e x die Grezfuktio (asymptotische Fuktio) der Fuktioefolge F() x = + ist.

4 4 b) Grezwert ud Häufugspukt Für eie Grezwert ist es otwedig, dass alle (uedlich viele) Werte ab eiem bestimmte N i der -Umgebug um eie Pukt (de Grezwert) liege. Es darf ur eie solche [ + ] Pukt gebe. Betrachtet ma z.b. die Folge ( ) 4 (vgl. Bild 3), so strebe bei gerad-zahligem (also, 4, 6,...) die Werte gege 0 (weil 0) ud bei ugerad-zahligem alle Werte gege + = + also gege Bild 3 0,8 0,7 0,6 0,5 0,4 0,3 0, 0, 0 H = 0, H =0 Die Folge hat somit zwei Häufugspukte H = 0 ud H = ud deshalb keie Grezwert. Es mag verwirred klige, dass es zweimal uedlich gibt: uedlich viele Werte die sich 0 äher (besser "ahe bei 0 sid", im Sie vo "i eier -Umgebug um 0") ud auch uedlich viele Werte, die sich ½ äher. Weil die Folge zwei Häufugspukte hat, hat sie keie Grezwert (sie kovergiert icht), de ei Grezwert ist praktisch "der eizige Häufugspukt" 3. Eie Folge ka uedlich viele Häufugspukte habe, aber ur höchstes eie Grezwert. Die Zahlefolge,we ugerade Z() /, we geradzahlig hat die Werte,, 3,, 5, usw. 4 ud keie Grezwert, weil es zwar uedlich viele Werte 4 6 gibt die gege Null strebe (,,,...), also gege eie feste Wert, aber auch uedlich Existiert ei Grezwert (ei ud ur ei Häufugspukt), so sagt ma, die Folge "kovergiert". Ei wichtiges Thema i der Mathematik ist es, Kriterie herauszufide, die darüber etscheide, ob eie Folge kovergiert oder divergiert, ud we sie kovergiert, wie schell sie kovergiert. 4 Es ist keie Schwierigkeit, das etsprechede Bild (das auch i der Vorlesug gezeigt wird) zu zeiche.

5 5 viele Werte die davo wegstrebe ud immer größer werde, also icht gege eie feste Wert "strebe". Das sid die ugeradzahlige Werte, 3, 5,... Ma ka sich auch vorstelle, dass der Grezwert icht erst allmählich, soder zumidest zum Teil scho sofort erreicht wird. Die Zahlefolge 5 Z() = ( ) 4 + oder äquivalet Z() = für gerades für ugerades ist eie Modifikatio vo Bild 3. Der Grezwert 4 wird für geradzahlige Werte vo sofort (scho ab = ) erreicht, für ugerades aber erst mit wachsedem, weil gege 4 strebt. 6 + = Stochastische Begriffe De beide Begriffe Z ud F etspreche i der Statistik (geauer Stochastik, d.h. i der Wahrscheilichkeitsrechug) zwei Kovergezbegriffe stochastische Kovergez (Gesetze der große Zahl 7, Z) eier Zufallsvariable (bzw. eier Folge vo Zufallsgröße, etwa dem Ergebis eier wiederholte Durchführug eies Zufallsexperimets) statt eier Zahlefolge (Zahle im Sie vo ichtzufällige algebraische Größe) ud Kovergez vo Verteiluge (Grezwertsätze). Ma betrachtet hier also eie Folge vo Zufallsvariable bzw. eie Folge vo Wahrscheilichkeitsverteiluge. a) Stochastische Kovergez Es ist allgemei bekat, dass bei eier echte (ideale) Müze die relative Häufigkeit der Wappewürfe gege die Wahrscheilichkeit ½ strebe wird. I diesem Sie ist die Wahrscheilichkeit eies Ereigisses die relative Häufigkeit, die ma erhielte, we ma das Zufallsexperimet (z.b. Werfe eier Müze) uedlich oft uter gleiche Bediguge wiederholt. Ma köte u meie, dass mit dem "Gesetz der große Zahl" gemeit ist, dass die relative Häufigkeit mit wachsedem immer ählicher der Zahl ½ wird. Ageomme, ma werfe mal ud erhalte x mal Wappe x die relative Häufigkeite wäre da 0,6, 0,58, 0,493 usw., ud es ist plausibel azuehme, dass sie immer mehr dem Wert 0,5 ahe komme. Das ist aber mit "stochastischer Kovergez" icht gemeit. Es ist wichtige, auch hier, sich vo plausibel kligede Alltagsvorstelluge freizumache: 5 Für das Bild, wie diese Zahlefolge aussieht gilt Fußote 4 etspreched. 6 Wir verlasse damit de Abschitt, der sich mit eier Wiederholug der, bzw. eier Aküpfug a die Schulmathematik beschäftigt. Bewußt icht behadelt wurde Dige, die für usere Zwecke icht bedeutsam sid, wie z.b. das Kozept der "beschräkte" Folge, Begriffe wie Supremum ud Ifimum, Kovergezkriterie usw. 7 Ma fidet auch die Forme wie: "Gesetze der Große Zahl", oder "der große Zahle"

6 6 Stochastische Kovergez (z.b. der relative Häufigkeit h = x/ gege die Wahrscheilichkeit π = ½) bedeutet icht, dass "h gege π strebt", i dem Sie, dass für N alle Werte vo h i eier - Umgebug um π liege 8 soder, dass die Wahrscheilichkeit dafür, dass h i eier -Umgebug um π liegt gege strebt. Der Begriff des Grezwerts ka wege der Zufälligkeit vo X icht auf h agewedet werde, soder er bezieht sich auf eie Wahrscheilichkeitsaussage über h. Uter "Stochastischer Kovergez" versteht ma, dass die Wahrscheilichkeit dafür, dass die relative Häufigkeit (im Falle des Müzwurfs, also bei π = ½) i eier -Umgebug um ½ liegt (ud bleibt) gege strebt, oder i Symbole x () lim P < = oder allgemei bei stochastischer Kovergez eier vo abhägige Zufallsvariable X gege die Kostate c gilt (a) lim P( X c < ) = oder plim X = c, oder Worte: der Wahrscheilichkeitslimes (sprich auch: "plim") vo X ist die Kostate c. So gilt etwa im Fall des Müzwurfs (ur als Beispiel) mit der Zufallsvariable X = X/ ud ihrer Realisatio x = h = x/ ud c = π= / 9. Ma ka dieses Wirke des Gesetzes der große Zahl (i diesem kokrete Falle ist es der Satz vo Beroulli [siehe ute]) auch leicht zahlemäßig zeige. Die Azahl ud damit auch der Ateil der Wappewürfe bei Versuche ist biomialverteilt mit de Parameter ud π =. Für die Wahrscheilichkeit vo geau x "Erfolge" (Wappe) bei Versuche (oder: Wiederholuge des Zufallsexperimets) erhält ma daach 0 x x die Formel π ( π). Etwa bei = 3 erhält ma für x = die Wahrscheilichkeit x = 3 = = 0, Ma ka also leicht ausreche, mit welcher Wahrscheilichkeit die relative Häufigkeit Werte zwische 0,5 ud 0,75 (eischließlich) aimmt, d.h. i der folgede -Umgebug x (mit = 0,5) liegt: 0,5 0, 5. 8 Es ist ja gerade der "Witz" der Zufälligkeit eier Zufallsvariable X, dass ma ie ausschließe ka, dass h = x/ icht auch außerhalb dieser Umgebug liege köte, selbst da we sehr groß ist. Ma ka also keie Wert N agebe ab dem alle Werte der Folge h ( N ) mit Sicherheit ierhalb der -Umgebug liege werde. Ma ka ur sage, dass es icht soderlich wahrscheilich sei dürfte, dass bei eiem große Wert vo (bei ) so ugewöhlich hohe oder iedrige Werte vo h, die oberhalb oder uterhalb der Greze der -Umgebug um π liege, auftrete. 9 Gl. ud a sid äquivalete Schreibeweise der gleiche Sache, so wie es auch Gl. ud a sid. 0 d.h. wege der Biomialverteilug.

7 7 Bei = 3 sid es die relative Häufigkeite /3 ud /3, die i dem Itervall 0,5 X/ 0,75 liege ud die mit Wahrscheilichkeit vo jeweils 3/8 - zusamme also mit 6/8 = 0,75 auftrete, so dass die gesuchte Wahrscheilichkeit 0,75 beträgt. Bei = 4 sid es die relative Häufigkeite ¼, ½ ud ¾ die relevat sid, ud die mit Wahrscheilichkeit vo jeweils ¼ ud 3/8 - zusamme also mit 7/8 = 0,875 - auftrete, d.h. es gilt: x/ 0/4 = 0 /4 = 0,5 /4 = 0,5 3/4 = 0,75 4/4 = P(x/) /6 4/6 = /4 6/6 = 3/8 4/6 = /4 /6 x Bei = 4 gilt also P = 0, bei. Die etsprechede Wahrscheilichkeit ist da bei = 5 Müzwürfe x/ 0/5 = 0 /5 = 0, /5 = 0,4 3/5 = 0,6 4/5 = 0,8 5/5 = P(x/) /3 5/3 0/3 0/3 5/3 /3 0/3 = 0,65 ud damit allerdigs kleier als 0,875. Aber scho bei = 6 x/ 0 0,67 0,333 0,5 0,667 0,833 P(x/) /64 6/64 5/64 0/64 5/64 6/64 /64 ist die gesuchte Wahrscheilichkeit mit 50/64 = 0,785 wieder etwas größer als 0,65 ud bei = 7 erhält ma aufgrud der Tabelle i v.d.l., Iduktive, S. 7 für die gesuchte Wahrscheilichkeit P(/7 X/ 5/7) = 0,875 da ja /7 = 0,857 > 0,5 ud 5/7 = 0, 743 < 0,75. Die Summe der Wahrscheilichkeite für x = /7, 3/7 usw. also 0,64, 0,734 usw., ist isgesamt 0,875 (oder /8). Bei = 8 Müzwürfe erhält ma für die gesuchte Itervall wahrscheilichkeit aufgrud der geate Tabelle de Wert: ( 0, , 033) = 0,996 oder geauer 38/56 = 0,997. Sieht ma vo de Fälle = 3 ud = 4 ab, so strebt die Wahrscheilichkeit P = P(0,5 X/ 0,75) mooto gege, de es gilt P 0,5 0,75 0,875 0,65 0,785 0,875 0,997 d.h. der feste Wert π = / ist der Wahrscheilichkeitslimes der relative Häufigkeit x/, wie es auch ach dieser Fassug des (schwache) Gesetzes der Große Zahl (d.h. ach dem Theorem vo Beroulli) sei soll. x Der Uterschied zwische lim P < =, dem "schwache" Gesetz ud (b) P lim x = =, dem "starke" Gesetz ist mehr vo rei theoretischem Iteresse. Nach Gl. b gibt es ei N, so dass ab N alle Elemete der Folge x/ (zufälliger Werte) sich wie die Werte eier (algebraische, determiistische) Zahlefolge verhalte ud fast sicher i der -Umgebug um ½ liege. agedeutet durch Schattierug. Fälle, i dee das schwache, icht aber zugleich auch das starke Gesetz der Große Zahl gilt, sid selte ud sehr kostruiert. Vgl. das Lehrbuch vo M. Fisz für ei Beispiel.

8 8 b) Kovergez vo Verteiluge Für die Statistik ist es vo großer Bedeutug, ob es eie Grezverteilug (asymptotische Verteilug) gibt ud we ja uter welche Voraussetzuge das der Fall ist ud vo welcher Gestalt diese Grezverteilug ist. Das Kozept der Grezverteilug ist i der Vorlesug a eier Stelle bereits eigeführt worde, ämlich im Falle des Grezübergags vo der Biomial- zur Poissoverteilug. 3 Eie Folge vo Biomialverteiluge B( i,π i ), also B(,π ), B(,π 3 ),... "strebt gege" die Poissoverteilug mit dem Parameter λ = i π i ( =,,...), we zuimmt ( < <...) ud π bestädig abimmt (π > π >...) ud das Produkt kostat ist, π = π =... = λ. Im folgede geht es us icht ur darum, zu zeige, dass sehr häufig i der Statistik die Normalverteilug als "Grezverteilug" auftritt ud warum das so ist, soder auch darum, dass ma zumidest bei großem (Stichprobeumfag) viel aussage ka über die Gestalt der Verteilug aller mögliche Stichprobeergebisse (d.h. über die asymptotische Stichprobeverteilug); atürlich ur we es sich überhaupt um "Stichprobe" (also eie Zufallsauswahl) hadelt. 3 Es ist klar, dass ma bei eier kokrete Stichprobe, vor allem we ihr Umfag klei ist, weig darüber aussage ka, was evetuell "herauskomme" wird. Es liegt ja im Wese eier Zufalls-auswahl, dass das Ergebis schwake ka, ud dass ma icht im vorhiei wisse ka, was ma als Ergebis erhalte wird. Trotzdem ka ma aber aufgrud vo sog. Grezwertsätze (eigetlich Sätze über die Grezverteilug) sage, mit welcher Wahrscheilichkeit ma bestimmte Ergebisse erhalte wird, we der Stichprobeumfag hireiched groß ist (theoretisch "asymptotisch", d.h. bei, praktisch jedoch scho meist [Faustregel] ab = 30 oder = 50). Das ist praktisch gesehe vo uschätzbarem Wert ud es ist zugleich der theoretische Hitergrud für alles was i der Vorlesug folgt, d.h. für die "Iferez" (Schätze ud Teste) auf der Basis vo Stichprobe. Ma ka daach isbesodere etwas aussage über die Wahrscheilichkeitsverteilug bezoge auf alle isgesamt = mögliche (dekbare) Stichprobe vom Umfag, N N!!(N N)! die ma aus eier Grudgesamtheit vom Umfag N ziehe ka, bzw. köte (oder wie es i der Statistik heißt: ma ka Aussage über die "Stichprobeverteilug" mache). Ma ka z.b. sage (Zetraler Grezwertsatz): Summe ( x ) ud Durchschitte ( = x / ) x sid uter sehr allgemeie, praktisch immer gültige Voraussetzuge asymptotisch (bei ) ormalverteilt. 3 Nebe der Poissoverteilug als Grezverteilug ist atürlich scho a früher Stelle der Vorlesug (Kap. 5 ud 6) erkebar, dass z.b. sehr oft die Normalverteilug als Grezverteilug auftrete dürfte. Ituitiv sehr eileuchted ist das z.b. im Fall der Biomialverteilug mit π = ½. 3 Ma ka icht geug betoe, dass ma die Wahrscheilichkeitsrechug ur awede ka, we ma eie Zufallsauswahl hat. Ohe Zufall keie Wahrscheilichkeitsrechug. Diese simple Weisheit scheit immer gere vergesse zu werde. Ma mag ichtzufällige Auswahlverfahre ohe Ede die verschiedeste positive Eigeschafte achsage, bloß ma ka dies leider icht auf der Basis wahrscheilichkeitstheoretischer Überleguge tu.

9 9 Die überragede Rolle der Normalverteilug i der Statistik kommt daher, dass sie i sehr viele Fälle, wie z.b. hier als "Grezverteilug" auftritt. Dass Summe ud Durchschitte asymptotisch ormalverteilt sid, lässt sich ebefalls leicht plausibel mache. Beim eimalige ( = ) Werfe eies Würfels ist die Augesumme (hier idetisch mit dem Durchschitt, weil = ) wie folgt verteilt: x = x f(x) /6 /6 /6 /6 /6 /6 Ma erhält das Bild eier (diskrete) Gleichverteilug (mit jeweils gleiche Höhe vo /6). Beim zweimalige Werfe (=) gilt etspreched: x,5,5 3 3,5 4 4,5 5 5, f (x) Ma erhält eie (diskrete) Dreiecksverteilug (geauer Simpso-Verteilug) mit zuächst zuehmede Höhe (vo /36 bis 6/36) ud da wieder abehmede Höhe (vo 6/36 bis /36). Ma ka sich leicht vorstelle, dass sich das Bild mit wachsedem immer mehr dem der Normalverteilug aähert (vgl. Abb. 7.3 i v.d.l., Iduktive Seite 75f). 4 Iteressat ist dabei vor allem auch, dass ma für das arithmetische Mittel X (was ja eie Zufallsvariable ist) eie Normalverteilug erhält, egal wie die Zufallsvariable X selbst i der Grudgesamtheit verteilt ist (im Falle der durchschittliche Augezahl beim Würfel ist es z.b. die obige Gleichverteilug). Die wichtigste Variate des Gesetzes der Große Zahl ud der Grezwertsätze ud dere Voraussetzuge sid dargestellt i v.d.l., Iduktive Seite Sie köe hier icht im eizele wiederholt werde. Die folgede Übersicht (ächste Seite) mag jedoch hilfreich sei als zusammefassede Übersicht. Eiige Radbemerkuge, die für ei vertieftes Studium ützlich sei möge, für de Afag jedoch auch überschlage werde köe:. Ma uterscheidet lokale ud globale Grezwertsätze (letztere auch "Itegralsätze" geat), je achdem ob ma die Wahrscheilichkeitsfuktio f(x) oder die Verteilugsfuktio F(x) betrachtet: lokal (X = x) global (X f (x) f(x) Grezwahrscheilichkeitsverteilug F (x) F(x) Grezverteilugsfuktio. Stochastische Kovergez vo eier Zufallsgröße X gege eie feste Wert c ka als Spezialfall der Kovergez der Verteilugsfuktio aufgefaßt werde: die Verteilug der Größe Z = X c kovergiert daach gege die Verteilugsfuktio F(z) der Eipuktverteilug (siehe hierzu auch ute Seite, Begi des Abschitts 4). 4 Ma fidet gaz ähliche graphische Veraschaulichuge des zetrale Grezwertsatzes z.b. i viele adere Lehrbücher oder z.b. i eiem Statistikskript vo Prof. Dr. W. Neubauer (Uiv. Frakfurt/M.).

10 0 Übersicht 5 : Grezwertsätze ud Variate des Gesetzes der Große Zahl(e) homograd (Azahl X ud Ateil P = X/ [oder h statt P] der "Erfolge") heterograd (Merkmalssumme Y= ΣX i ud Mittelwert x = Y / ) stochastische Kovergez (Kovergez mit Wahrscheilichkeit), Variate des Gesetzes der Große Zahl der Ateil P kovergiert mit Wahrscheilichkeit gege π ach dem Theorem vo Beroulli plim(p) = π der Mittelwert x kovergiert gege de Mittelwert der Grudgesamtheit (bzw. de Erwartugswert) µ ach dem Satz vo Ljapuoff lim( X ) = µ Grezverteilug der Schätzfuktioθ (Variate der Grezwertsätze): θ ist asymptotisch ormalverteilt mit Erwartugswert µ θ ud Variaz σ θ Grezwertsatz vo de Moivre-Laplace Grezwertsatz vo Lideberg-Lévy θ µ θ σ θ θ µ θ σ θ X = ΣX i P = X/ π π π(-π) π(-π)/ Y = ΣX i X = Y/ µ µ σ σ / Voraussetzuge bezüglich der Verteiluge vo X, X,... (i der Grudgesamtheit): uabhägig* idetisch** verteilt (idepedetly idetically distributed [i.i.d.]) Zweipuktverteilug mit E(X i ) = π ud V(Xi) = π( - π) i beliebig diskret oder stetig verteilt mit E(Xi) = µ, V(Xi) = σ i *) Diese Aahme ka auch gelockert werde (Normalverteilug auch Grezverteilug bei abhägige ZV, vgl. Satz vo Markoff). **)Verallgemeierug (icht idetische Verteiluge): Zetraler Grezwertsatz vo Ljapuoff 3. Das Gesetz der große Zahl gilt icht ur für Kezahle eier empirische Häufigkeitsverteilug h (x), wie z.b. das arithmetische Mittel x (i dem Sie, dass gilt p lim x = µ ), soder auch für alle Pukte 6 vo h (x) ud der daraus abgeleitete Summehäufigkeitskurve H (x) i dem Sie, dass für jedes feste x bei die empirische (Stichprobe-) Verteilugsfuktio H (x) mit Wahrscheilichkeit gege die theo- 5 Eie Abwadlug vo Übers. 7. ud 7. vo v.d.l., Iduktive. 6 bei allem Werte vo x im Defiitiosbereich vo h(x).

11 retische (Grudgesamtheits-) Verteilugsfuktio F(x) kovergiert. Das ist bekat als "Hauptsatz der (mathematische) Statistik" vo Gliweko ud Catelli. 4. Wir mache im folgede uterschiedliche Aahme über die Verteilug der X i (i der Grudgesamtheit) die X i sid... verteilt da ist... stadardormalverteilt ach... idetisch ormalverteilt mit E(X i ) = µ ud V(X i ) = σ (für alle i =,..., ) idetisch verteilt aber icht otwedig ormalverteilt icht idetisch verteilt, soder mit E (X i ) = µ ud V(X i ) = σ i i x µ z = für jedes. Das ist trivial da die Normalverteilug σ / reproduktiv ist x µ z = we ach dem Satz vo Lideberg Levy σ / X i i= σi µ i we ach dem zetrale Grezwertsatz* * vo Ljapuow (oder Ljapuoff); am Ausdruck Σσ wird deutlich erkebar, wie wichtig es ist, (paarweise) Uabhägigkeit der Zufallsvariable X, X,... vorauszusetze. 3. Abschätzuge vo Wahrscheilichkeite, Ugleichuge i der Stochastik Vo Iteresse sid oft icht ur die Grezwerte vo Wahrscheilichkeite, die aturgemäß meist 0 oder sid. Es ist oft auch iteressat zu sehe, welche Werte eie Wahrscheilichkeit midestes oder höchstes aimmt i Abhägigkeit vo bestimmte Momete (z.b. Erwartugswert, Variaz) der Verteilug eier Zufallsvariable X. Ei sehr allgemeier Satz i diesem Zusammehag ist (3) E(h(x)) P(h(x) ) wobei h(x) eie beliebige ichtegative Fuktio der Zufallsvariable X ist, E( ) der Erwartugswert ist ud der Satz aussagt, dass ei Wert vo h(x), der größer/gleich ist höchstes ( ) eie Wahrscheilichkeit vo E ( ) hat. Vo diesem Satz sid die bekate Ugleichuge vo Markoff ud Tschebyscheff jeweils Spezialfälle 7. Ist die Fuktio h beispielsweise defiiert als h (x) = (x µ ) mit µ = E(X), da ist E(h(x)) atürlich gleich der Variaz σ, so dass ma erhält σ (4) P( x µ ), was eie spezielle Versio der Tschebyscheffsche Ugleichug ist. Achtug: Es ist icht beabsichtigt, a dieser Stelle die Tschebyscheffsche Ugleichug ud dere Herleitug zu erkläre. Das geschieht i der Vorlesug!! Ma ka eie Abschätzug auch beutze, um stochastische Kovergeze zu beweise, z.b. die Kovergez der relative Häufigkeit vo x/ gege die Wahrscheilichkeit π. Gibt es ur zwei Auspräguge eier Zufallsvariable, etwa Zahl oder Wappe, so immt x die Werte 7 Heike H.D. ud C. Tarcolea, Grudlage der Statistik ud Wahrscheilichkeitsrechug, Müche u. Wie (Oldebourg), 000, S. 346.

12 0 (Nichterfolg) ud (Erfolg z.b. Wappe) a ud ma spricht vo eier Zweipukt- oder Beroulli-Verteilug 8 x x mit f (x) = π ( π) für x { 0, }, 0 < π <. Ist x = 0 so ist f(x) = π ud für x = erhält ma f(x)=π. Die Zufallsvariable immt also die Werte ud 0 mit de Wahrscheilichkeite π ud π a. Betrachtet ma eie Folge uabhägiger zweipuktverteilter Zufallsversuche, also z.b. das -malige Werfe eier Müze, so ist die relative Häufigkeit x (relativiert) biomialverteilt mit E ( X ) = π ud der Variaz V(X / ) = π( π) ud es gilt da gem. Tschebyscheffscher Ugleichug (4a) P x ( π) π π < >. Weil auf der rechte Seite im Neer steht gilt mit für de Grezwert dieser Wahrscheilichkeit lim P { } = (weil bei eier Wahrscheilichkeit > atürlich icht defiiert ist), was wiederum ichts aderes ist als das Gesetz der Große Zahl i der obe zitierte Form des Theorems vo Beroulli. 4. Zusammehäge zwische eiige Kovergezbegriffe i der Statistik Ma ka eie Kostate c als eie degeerierte Zufallsvariable x auffasse, so dass x ur de Wert c aimmt mit Wahrscheilichkeit. Dieses Kozept eier "Eipuktverteilug" vo c stellt sich formal wie folgt dar 9 für x = c : f (x) =. 0 sost Ma ka da sage, dass die relative Häufigkeit im Sie des Gesetzes der Große Zahl x (gem. Gl. ) gege die Wahrscheilichkeit strebt, also lim P π < = bedeutet fak- tisch ichts aderes, als dass die Grezverteilug vo x die Eipuktverteilug vo π = c ist, so dass das Gesetz der Große Zahl ur ei spezieller Grezwertsatz (Grezverteilugssatz) ist. Führt ma de Begriff des absolute Momets k-ter Ordug ei, was der Erwartugswert k k vo E x, so bedeutet Kovergez im k-te Mittel (abgekürzt km) gege die x ist, also ( ) Zufallsvariable X oder gege eie Kostate, etwa µ oder c, dass ei etsprechedes Momet asymptotisch verschwidet: lim E( X µ ) = 0 k. Ei spezieller Fall hiervo ist die Kovergez im quadratische Mittel (k = oder abgekürzt M), so dass bei hireiched großem die Werte X ud µ mit hoher Wahrscheilichkeit ahe beieiader liege ud deshalb die Variaz E ( µ ) X gege Null strebt. Hieraus folgt auch die obe ausschließlich betrachtete "gewöhliche" stochastische Kovergez, die auch "Kovergez mit Wahrscheilichkeit" (abgekürzt WK) geat wird ud die Kovergez vo Verteiluge (VK), wie z.b. die Kovergez gege die Normalverteilug. Es gilt, dass ma wie folgt folger ka: km M WK VK (die Umkehrug dieser Schlußweise, also i der Richtug ist jedoch icht zulässig). 8 Das ist im Prizip ichts aderes als die Biomialverteilug für de spezielle Fall =. 9 "Sost" heißt hier: für adere Werte vo x, also x c.