Gesetze der Großen Zahl und Zentraler Grenzwertsatz

Ähnliche Dokumente
Empirische Verteilungsfunktion

Klausur zu,,einführung in die Wahrscheinlichkeitstheorie. Musterlösungen

Zenraler Grenzwertsatz

Seminarausarbeitung: Gegenbeispiele in der Wahrscheinlichkeitstheorie. Unterschiedliche Konvergenzarten von Folgen von Zufallsvariablen

Tests statistischer Hypothesen

Lösungen ausgewählter Übungsaufgaben zum Buch. Elementare Stochastik (Springer Spektrum, 2012) Teil 4: Aufgaben zu den Kapiteln 7 und 8

Konvergenz von Folgen von Zufallsvariablen

74 3. GRENZWERTSÄTZE. k=1 IIE[X k] = µ, und, wegen der Unkorreliertheit,

4 Konvergenz von Folgen

Lehrstuhl für Empirische Wirtschaftsforschung und Ökonometrie Dr. Roland Füss Statistik II: Schließende Statistik SS 2007

X n = 10 j Y j. i.w. i.w. i.v.

6. Grenzwertsätze. 6.1 Tschebyscheffsche Ungleichung

Konvergenz von Folgen reeller Zufallsvariablen

2 Konvergenz von Folgen

5 Stationäre Prozesse (Version Januar 2012)

6 Folgen. 6.4 Folgen reeller Zahlen. Mathematik für Informatiker B, SS 2012 Dienstag 5.6. $Id: folgen.tex,v /06/05 11:12:18 hk Exp $

4. Der Weierstraßsche Approximationssatz

7 Brownsche Bewegung (Version Januar 2012)

Gesetz der großen Zahlen

KAPITEL 11. Ungleichungen. g(x) g(x 0 ) + K 0 (x x 0 ).

Kapitel 6 : Punkt und Intervallschätzer

$Id: reihen.tex,v /06/14 13:59:06 hk Exp $

TECHNISCHE UNIVERSITÄT MÜNCHEN

Höhere Mathematik für die Fachrichtung Physik

Analysis I Lösungsvorschläge zum 3. Übungsblatt Abgabe: Bis Donnerstag, den , um 11:30 Uhr

3. Taylorformel und Taylorreihen

GESETZE DER GROSSEN ZAHLEN

GESETZE DER GROSSEN ZAHLEN

Zahlenfolgen und Konvergenzkriterien

5. Übungsblatt Aufgaben mit Lösungen

Kapitel 4: Stationäre Prozesse

Prof. Dr. Roland Füss Statistik II SS 2008

Übungen zur Infinitesimalrechnung 2, H.-C. Im Hof 19. März Blatt 4. Abgabe: 26. März 2010, Nachmittag. e x2 dx + e x2 dx = 2 e x2 dx

1.1 Mengensysteme. Ω Grundmenge, 2 Ω Potenzmenge, A 2 Ω Mengensystem. Definition 1.1: a) A stabil ( stabil, \-stabil), wenn für A, B A auch A B A

Höhere Mathematik I für die Fachrichtungen Elektroingenieurwesen, Physik und Geodäsie Lösungsvorschläge zum 7. Übungsblatt

n gerade 0 n ungerade (c) x n = a 1 n, a R + (d) x 1 := 2, x n+1 = 2 + x n (e) x n = (f) x n = exp(exp(n)) (g) x n = sin(n)

von solchen Abbildungen. Eine solche Folge bestimmt für jedes x M die Folge der Werte f n. Schreibt man dies noch einmal formal hin, so erhält man:

Gesetze der großen Zahlen

Der Satz von Stone-Weierstraß. 1 Approximationssatz von Weierstraß

Bernsteinpolynome Vortrag zum Proseminar zur Analysis, Malte Milatz

Das kollektive Risikomodell. 12. Mai 2009

Eingangsprüfung Stochastik,

Reelle Folgen. Definition. Eine reelle Folge ist eine Abbildung f : N R. liefert ( 7 9, 37

4-1 Elementare Zahlentheorie

KAPITEL 7. Zahlenfolgen. 7.1 Konvergente Zahlenfolgen Grenzwertbestimmung Grenzwertbestimmung durch Abschätzung...

Resultate: Vertauschbarkeit von Grenzprozessen, Konvergenzverhalten von Potenzreihen

4.1 Dezimalzahlen und Intervallschachtelungen. a) Reelle Zahlen werden meist als Dezimalzahlen dargestellt, etwa

D-MATH Topologie FS 15 Theo Bühler. Musterlösung 2

6 Grenzwerte von Zahlenfolgen

4. Reihen Definitionen

Kapitel 9: Schätzungen

Vl Statistische Prozess- und Qualitätskontrolle und Versuchsplanung Übung 5

Konfidenzintervalle. Praktische Übung Stochastik SS 2017 Lektion 10 1

Stochastisches Integral

Gaußsches Integral und Stirling-Formel

Übungen zur Analysis 1 für Informatiker und Statistiker. Lösung zu Blatt 8

Wallis-Produkt, Gammafunktion und n-dimensionale Kugeln

Höhere Mathematik I für die Fachrichtungen Elektroingenieurwesen, Physik und Geodäsie Lösungsvorschläge zum 12. Übungsblatt

Einführung in die Wahrscheinlichkeitstheorie Lösungsvorschläge zu Übungsblatt 5

Analysis I für M, LaG/M, Ph 4.Übungsblatt

Nennenswertes zur Stetigkeit

Lösungsvorschlag Probeklausur zur Elementaren Wahrscheinlichkeitsrechnung

KAPITEL 8. Zahlenreihen. 8.1 Geometrische Reihe Konvergenzkriterien Absolut konvergente Reihen

Die notwendigen Verteilungstabellen finden Sie z.b. hier:

1. Man zeige, daß (IR n, d i ), i = 1, 2, metrische Räume sind, wenn für x = (x 1,..., x n ), y = (y 1,..., y n ) IR n die Abstandsfunktionen durch

Kapitel 3: Bedingte Wahrscheinlichkeiten und Unabhängigkeit

4 Schwankungsintervalle Schwankungsintervalle 4.2

Wir wiederholen zunächst das Majorantenkriterium aus Satz des Vorlesungsskripts Analysis von W. Kimmerle und M. Stroppel.

5-1 Elementare Zahlentheorie

ÜBUNGSBLATT 4 LÖSUNGEN MAT121/MAT131 ANALYSIS I HERBSTSEMESTER 2010 PROF. DR. CAMILLO DE LELLIS

Musterlösung zu Blatt 8 der Vorlesung Analysis I WS08/09

Aufgaben zu Kapitel 6

Aufgaben zur Analysis I

3 Wichtige Wahrscheinlichkeitsverteilungen

24 Konvergente Teilfolgen und Cauchy-Kriterium

KAPITEL 2. Zahlenfolgen

TECHNISCHE UNIVERSITÄT MÜNCHEN

Aufgaben und Lösungen Ausarbeitung der Übungsstunde zur Vorlesung Analysis I

D-MATH, D-PHYS, D-CHAB Analysis I HS 2017 Prof. Manfred Einsiedler. Übungsblatt 8. b n := 1 n. a k. k=1

Dirichlet-Reihen II. 1 Konvergenzeigenschaften von Dirichlet-Reihen

Einführung in die Stochastik 10. Übungsblatt

Zusammenfassung: Folgen und Konvergenz

Stochastische Unabhängigkeit, bedingte Wahrscheinlichkeiten

Der zentrale Grenzwertsatz

Analysis II für M, LaG und Ph, WS07/08 Übung 2, Lösungsskizze

Kapitel 2 Differentialrechnung in einer Variablen. 2.1 Folgen und Grenzwerte

Wirksamkeit, Effizienz

Konvergenz von Fourier-Reihen

Höhere Mathematik I (Analysis) für die Fachrichtung Informatik

5.3 Wachstum von Folgen

Anhang A: Die Gamma-Funktion

4 Andreas Gathmann. x 2 +y 2 x 2 +y 2 x 2 +y 2

Übungen zur Analysis I WS 2008/2009

Grenzwert. 1. Der Grenzwert von monotonen, beschränkten Folgen

11 Likelihoodquotiententests

3 Folgen, Reihen, Grenzwerte 3.1 Zahlenfolgen. Beispiele: 1, 2, 3, 4, 5,. 1, 3, 5, 7, 9, 3, 6, 9, 12, 15, 2, 4, 8, 16, 32, 64, 10, 100, 1.000, 10.

Parameterschätzung. Kapitel Schätzfunktionen

26 Der Raum C([0, 1]) und Donskers Theorem

1 Lösungen zu Analysis 1/ 12.Übung

Tutorium Mathematik I, M Lösungen

Transkript:

Kapitel 5 Gesetze der Große Zahl ud Zetraler Grezwertsatz Seie X,X,... uabhägige, idetisch verteilte reelle Zufallsvariable mit Var[Xi 0,. Wir betrachte S := X i i= ud frage ach de typische Werte, die S aimmt. Wir werde sehe, dass für große die Werte vo S ahe am Erwartugswert E[S =E[X kozetriert liege. Jetzt stellt sich die Frage, wie ahe eigetlich ahe am Erwartugswert geau ist. Klar ist Var[S =Var[X. Also ist für S := S E[S Var[X Var[S =für alle N. Dies legt ahe, dass die typische Fluktuatioe vo S um E[S vo der Größeordug sid. Wir werde sogar geauer sehe, dass die Verteiluge vo S kovergiere. 5. Schwaches Gesetz der große Zahl Defiitio 5. Seie Y,Y,Y,... reelle Zufallsvariable. Wir sage, dass Y N stochastisch gege Y kovergiert, i Formel Y Y stoch., falls lim sup P[ Y Y >ε=0, für alle ε>0. 5. Wir sage, dass Y N fast sicher gege Y kovergiert, i Formel: Y Y f.s., falls [{ P ω : } lim ω =Y ω =. 5. Satz 5. Gilt Y Y f.s., so gilt Y Y stochastisch. Die Umkehrug gilt im Allgemeie icht. 87

88 Gesetze der Große Zahl ud Zetraler Grezwertsatz Beweis Seie für ε 0 A ε := {ω : lim sup Y ω Y ω ε} ud A ε,n := {ω : Y ω Y ω εfür alle N}. Da A ε,n A ε für ei A ε ud für ε>0 Daher ist A = = A = = A A ε A ε A ε. = A = A 0 = {ω : Y ω = lim Y ω}. Speziell ist A 0 messbar, also ei Ereigis, ud ach Voraussetzug ist P[A 0 =. Wege A ε A 0 folgt P[A ε=für jedes ε>0, also P[A ε,n N. Damit gilt P[ Y N Y >ε P[A c ε,n N N 0, also Y N Y stochastisch. Sei u Ω=[0, ud P = U [0, die Gleichverteilug auf Ω. Für k = + m mit m {0,..., } sei Y k := [m,m+. Da ist für ε>0 P[Y k >ε= 0, we k. Also gilt Y k 0 stochastisch. Adererseits gilt lim if k Y k ω =0ud lim sup k Y k ω =für alle ω. Daher kovergiert Y k icht fast sicher. Satz 5.3 Sei a N eie reelle Folge, für die ei Grezwert a = lim a existiert. Ferer seie X, X,X,... ud Y,Y,Y,... reelle Zufallsvariable mit X X stochastisch ud Y Y stochastisch. Da gelte i ii X + Y X + Y a X ax stochastisch. stochastisch. iii Gilt X 0 ud ist a ur beschräkt ud icht otwedigerweise koverget, so gilt a X 0 stochastisch. Gilt sogar X X f.s. ud Y Y f.s., so gilt i i-iii jeweils die fast sichere Kovergez. Beweis Wir betrachte zuächst die fast sichere Kovergez. Seie A := {ω : X ω Xω} ud B := {ω : Y ω Y ω}. Nach de elemetare Recheregel für Grezwerte gelte u X ω+y ω Xω+Y ω ud so weiter für jedes ω A B. Wege P[A B =ach Voraussetzug folge die Aussage i iii. Sei u die stochastische Kovergez betrachtet.

5. Schwaches Gesetz der große Zahl 89 i Sei so groß, dass P[ X X >ε/ <ε/ ud P[ Y Y >ε/ <ε/. Nach der Dreiecksugleichug gilt da P[ X + Y X + Y >ε P[ X X >ε/ + P[ Y Y >ε/ ε. Daher gilt X + Y X + Y stochastisch. ii Sei ā := sup N a <. Sei ε>0ud K< so groß, dass [ P X > εk < ε. Sei N so groß, dass a a K ud P[ā X X >ε/ <ε/für alle N. Da ist für N P[ a X ax >ε P[ a a X >ε/ + P[ a X X >ε/ P[ X >εk/ + P[ā X X >ε/ Also gilt ii. iii Dies geht aalog zu ii. ε + ε = ε. Defiitio 5.4 Seie X,X,...reelle Zufallsvariable i L P. Wir sage, dass X N eiem schwache Gesetz der große Zahl geügt, falls i= X i E[X i 0 stochastisch. Wir sage, dass X N eiem starke Gesetz der große Zahl geügt, falls i= X i E[X i 0 fast sicher Satz 5.5 Schwaches Gesetz der große Zahl Seie X,X,...ukorrelierte Zufallsvariable i L P mit V := sup N Var[X <. Da geügt X N eiem schwache Gesetz der große Zahl. Es gilt sogar für jedes ε>0 [ P X i E[X i ε V, N. 5.3 ε i= Gilt speziell E[X i =E[X für alle i N, so gilt i= X i E[X stochastisch.

90 Gesetze der Große Zahl ud Zetraler Grezwertsatz Beweis Setze S := X i E[X i. Da ist E[S =0ud ach der Bieaymé-Gleichug Satz 3.5 i= Var[S = i= Nach der Tschebyscheffugleichug Satz 3.30 ist u Var[X i V. P[ S ε V ε. Beispiel 5.6 Weierstraß scher Approximatiossatz Sei f :[0, R eie stetige Abbildug. Nach dem Weierstraß sche Approximatiossatz existiere Polyome f vom Grad höchstes, so dass f f 0, wobei die Supremumsorm auf C[0, bezeichet. Wir führe hier eie probabilistische Beweis dieser Aussage durch. Für N sei das Polyom f defiiert durch k f x := f x k x k, x [0,. k k=0 Dieses Polyom heißt Berstei-Polyom der Ordug. Sei ε>0fest gewählt. Da f auf [0, stetig ist, ist f sogar gleichmäßig stetig. Es existiert also ei δ>0, so dass fx fy <ε, für alle x, y [0, mit x y <δ. Sei u p [0, fest gewählt, ud seie X,X,...uabhägige Zufallsvariable mit X i Ber p, i N. Da ist S := X +...+ X b,p ud deshalb Wir erhalte E[fS / = f k=0 ud daher mit Satz 5.5 mit V = p p 4 für alle p [0,. Also gilt f f 0. k P[S = k =f p. fs / fp ε + f S p δ f p fp E[fS / fp [ ε + f P S p δ ε + f δ,

5. Große Abweichuge 9 5. Große Abweichuge Wir wolle i eiem Spezialfall die Wahrscheilichkeit für Abweichuge besser quatifiziere als i Satz 5.5. Satz 5.7 Große Abweichuge Seie X,X,...,uabhägige idetisch verteilte reelle Zufallsvariable. Es gebe ei α>0so dass E[e αx <. Sei m := E[X ud S := X +...+ X. Da existiert für jedes ε>0ei C>0mit der Eigeschaft [ P S m >ε e C, N. 5.4 Beweis Ohe Eischräkug sei m =0. Wir zeige u P[ S >ε e C, N, 5.5 für ei C>0. Die adere Aussage folgt aalog mit eiem evetuell adere Wert vo C. Wir fixiere ei β 0,α/ ud erhalte mit der Markoff-Ugleichug Satz 3.30 mit ft =e βt für ε>0 [ P S >ε = P[X +...+ X >ε = P[e βx+...+x >e βε E[e βx+...+x e βε = E[e βx e βε < =: exp I β,ε, wobei I β,ε = βε loge[e βx. Wir müsse u zeige, dass für hireiched kleies β>0gilt: I β,ε > 0. Wir mache die folgede Vorbetrachtuge. Tayloretwicklug bis zur erste Ordug liefert e x x e x x, x R. 5.6 Eie eifache Kurvediskussio liefert sup x e x = 4 x R e. Setze wir c := 6 α e, so gilt also x ce α x /, x R. 5.7 Setze wir u och c := c E[ e α X, so bekomme wir E[e βx =+E[βX +E[e βx βx }{{} =0 + β E[ X e βx + β c E[ e α X / e βx +β [ c E[ e α X =+ cβ.

9 Gesetze der Große Zahl ud Zetraler Grezwertsatz Also ist für β< c/ε wege log + x x für x> I β,ε βε log + cβ εβ cβ > 0. Bemerkug 5.8 I mache Fälle ist es möglich, das bestmögliche C i Abhägigkeit vo ε geau auszureche. Ma bekommt da Aussage vo dem Typ lim log P[ S >a= Ia, für a>e[x ud lim log P[ S <a= Ia, für a<e[x. Eie solche Aussage heißt Prizip der große Abweichug für S mit Ratefuktio I. Beispiel 5.9 Seie X,X,...uabhägig ud idetisch verteilt mit X N 0,. Da gilt E[e α X = π / e x e x / dx 0 =e /4 π / e x / dx 0 e / <. Also sid die Voraussetzuge vo Satz 5.7 erfüllt. Wir köe die Zahl C i Abhägigkeit vo ε i diesem Fall geau quatifiziere. Sei ϕt :=π / e t /. Wir bemerke Übug!, dass für x>0 gilt x + x ϕx P[X x ϕx. 5.8 x Es gilt u wege / S d = X N 0, für >a P[ S >a=p[s >a=p[x >a { a / ϕa a / ϕa. Also gilt lim log P[ S >a = lim log ϕa = a. Beispiel 5.0 Seie X,X,...uabhägig ud idetisch verteilt, X Poi λ für ei λ>0. Da ist E[e α X = k=0 e λ λeα k k! = e λ e λeα < α R. Aus Beispiel 3.3 wisse wir, dass wege S Poi λ für a>λ= E[X gilt P [ S >a a = P[S >a exp a λ a log. λ

5.3 Starkes Gesetz der große Zahl 93 Also gilt log P[ S >a a λ a loga/λ. 5.9 Für die umgekehrte Ugleichug beötige wir die Stirlig-Formel siehe z.b. das Buch vo Kregel, die wir im ächste Abschitt i och geauerer Form zitiere siehe Satz 5.5,! π, 5.0 e wobei wir a b schreibe für lim a /b =. Wir erhalte so lim if Zusamme mit 5.9 erhalte wir für a>λ log P [ S >a lim if log P [ S = a + = lim if e log λ λ a + a +! = lim if e log λ λa a/e a a λe = lim if log e λ a λe = λ + a log a a = λ + a a log. λ lim log P[ S = Ia mit Ia =a λ + a loga/λ. 5.3 Starkes Gesetz der große Zahl Wir wolle i diesem Abschitt ei starkes Gesetz der große Zahl GGZ i eiem eifache Fall beweise. Zum Aufwärme zeige wir, wie ma aus dem Satz über große Abweichuge Satz 5.7 ei starkes Gesetz der große Zahl herleite ka, jedefalls für uabhägige, idetisch verteilte Zufallsvariable, die ei expoetielles Momet besitze. Daach wolle wir das starke Gesetz der große Zahl für idetisch verteilte, quadratitegrable ud ukorrelierte Zufallsvariable beweise. Satz 5. Starkes GGZ bei expoetielle Momete Seie X,X,..., uabhägige idetisch verteilte reelle Zufallsvariable. Es gebe ei α>0so dass E[e αx <. Da erfüllt X N das starke Gesetz der große Zahl: i= X i E[X, fastsicher.

94 Gesetze der Große Zahl ud Zetraler Grezwertsatz Beweis Ohe Eischräkug sei E[X =0. Sei S = X +...+ X ud sei für jedes ε>0eie Zahl C ε > 0 wie i Satz 5.7 gewählt mit P[ S >ε e Cε, N. Da gilt = P[ S >ε e Cε <. Nach dem Borel-Catelli Lemma gilt also P[ S >εfür uedliche viele =0. = Daher ist [ P lim sup S >ε =0, ε >0. Also gilt [ [ P lim sup S { 0 = P lim sup S } =. k k= Mit dem selbe Argumet für S erhalte wir [ P lim if S 0 =, also S 0 fast sicher. Der vorige Satz braucht recht starke Aahme a die Zufallsvariable, um das starke Gesetz der große Zahl achzuweise. Der Vorteil dabei ist, dass der Beweis des Satzes halbwegs simpel ist. Der folgede Satz beutzt sehr viel schwächere Aahme ud hat eie kompliziertere Beweis. Ma kommt mit och gerigere Voraussetzuge aus, allerdigs wolle wie die Sache hier icht zu weit is Detail verfolge. Satz 5. Starkes GGZ für ukorrelierte Zufallsvariable Seie X,X,... ukorrelierte Zufallsvariable i L P mit V := sup N Var[X <. Da gilt X i E[X i 0 i= fast sicher. Beweis Wir köe ohe Eischräkug aehme, dass E[X =0für alle N. Wir setze wieder S = i= X i ud S = S. Schritt Wir zeige zuächst ur die fast sichere Kovergez vo S etlag eier Teilfolge, ämlich S Nach Satz 5.5 gilt P[ S ε V ε. Also gilt = 0 fast sicher. 5. P[ S ε <.

5.3 Starkes Gesetz der große Zahl 95 Wie im Beweis vo Satz 5. erhalte wir 5.. Schritt Für jedes m N wähle wir = m so, dass m< +. Wir wolle u S m mit S m vergleiche. Die Tschebyscheff-Ugleichug liefert P[ S m S >ε ε 4 Var[ Dies köe wir über m summiere ud erhalte m i= + P[ S m S m >εm V ε m= = V ε = V ε = k= = Wieder liefert das Borel-Catelli Lemma [ S m P m S m k 4 = X i m V ε 4. + m= + 4 <. 0 m =. m 4 Nach Satz 5.3i mit X m = S m/m ud Y m = S m folgt hieraus zusamme mit 5. S m m m 0 fast sicher. Wieder ach Satz 5.3ii mit a m = m /m m folgt S m = a m S m m m 0 fast sicher. Beispiel 5.3 Für p {, 3, 4,...} ud x [0, sei X p i x die i-te Ziffer der icht-abbrechede p- adische Etwicklug vo x i N. Wie häufig taucht eie gegebee Ziffer q i der p-adische Etwicklug eier typische Zahl x auf? Um diese Frage zu beatworte, müsse wir sie erst eimal korrekt stelle, also kläre, was typisch heiße soll. Sei dazu Ω=[0, ud P = U [0, die Gleichverteilug. Für q {0,,...,p } ud N sei R p,q x = #{i : Xp i x =q} die relative Häufigkeit der Ziffer q uter de erste Ziffer der p-adische Etwicklug vo x. Usere Frage lautet u: Kovergiert R p,q x für, we ja wogege ud i welchem Sie stochastisch, fast sicher? I Beispiel.30 hatte wir gesehe, dass X N uabhägig ud idetisch verteilt sid, ämlich Beroulli mit Parameter. Das gleiche Argumet wie dort zeigt, dass, für festes p die Zufallsvariable Xp N uabhägig sid ud idetisch verteilt mit P[X p = q = p für jedes q {0,...,p }. Speziell ist für

96 Gesetze der Große Zahl ud Zetraler Grezwertsatz Y p,q Y p,q := X p =q die Familie Y p,q N uabhägig ud Y p,q folgt aus dem starke Gesetz der große Zahle Satz 5. Ber /p. Wege R p,q = p,q Y +...+ R p,q p fast sicher. Sei ud A p,q := {x [0, : A := p= q=0 lim Rp,q x = p } Eie Zahl x A heißt ormale Zahl. Wege P[A p,q =ist P[A =. Wir habe also de folgede Satz gezeigt: Satz 5.4 Borel sches Gesetz über ormale Zahle Uter der Gleichverteilug P = U [0, auf [0, hat die Mege der ormale Zahle Wahrscheilichkeit. Isbesodere gibt es mehr als abzählbar viele ormale Zahle. p A p,q. 5.4 Zetraler Grezwertsatz I diesem Abschitt wolle wir zuächst eie Approximatiosformel für die Biomialverteilug agebe de so geate Satz vo de Moivre ud Laplace. Hierfür beötige wir eie asymptotische Formel für die Fakultät großer Zahle. Daach werde wir Aweduge sehe sowie eie allgemeiere Approximatiossatz für Summe uabhägiger idetisch verteilter quadratitegrabler Zufallsvariable, de so geate Zetrale Grezwertsatz. Wir begie damit, dass wir die Stirlig-Formel i der folgede Form ohe Beweis agebe. Eie Beweis fidet ma beispielsweise i dem Buch vo Kregel. Satz 5.5 Stirlig-Formel Sei η := π e, N. Da gilt! =η e ϱ, 5. wobei + <ϱ <, N. a Sid a ud b reelle Folge, so schreibe wir a b, falls lim b =. Es gilt also speziell! π. 5.3 e Dies hatte wir scho i Beispiel 5.0 beötigt. Seie u X,X,... uabhägige idetisch verteilte Zufallsvariable, X Ber p für ei p 0, ud S = X +...+ X. Zuächst betrachte wir zur Vereifachug der Rechug ur de Fall p =. Da ist E[S = ud für eie Folge a gilt [ S P >a { 0, falls a /,, falls a / 0. 5.4

5.4 Zetraler Grezwertsatz 97 Der erste Teil folgt hierbei direkt aus der Tschebyscheff-Ugleichug Satz 3.30: [ S P >a Var[S a = 4a. Für de zweite Teil der Aussage beachte ma P[S = k = k. Die Abbildug k k immt ihre maximale Wert a bei k = /, ud es gilt ach der Stirlig-Formel π /e / π/e =. π/ Daher gilt [ S P >a = k k Z: k / a a + / a +,. π/ Für a / 0 gilt also der zweite Teil i 5.4. Isgesamt habe wir jetzt heraus gefude, dass die Fluktuatioe vo S um de Erwartugswert tatsächlich vo der Größeordug sid. Wir wolle jetzt zusätzlich zur Größe auch och die Gestalt der Fluktuatioe utersuche. Dazu defiiere wir die Dichte der Stadardormalverteilug ϕx = e x /, x R π sowie dere Verteilugsfuktio Φx :=N 0,,x = x ϕt dt, x R. Der folgede Approximatiossatz für die Biomialverteilug b,p geht auf de Moivre 733 für de Fall p = ud auf Laplace 8 für de allgemeie Fall p 0, zurück. Satz 5.6 Sei p 0,, ud für k N 0 sei x k := lim max k: x k c k p p p. Da gilt für alle c>0 p p b,p {k} =0. 5.5 ϕx k Beweis Seie C N 0, N ud a k N sowie b k N, k N, positive reelle Folge. Wir sage, dass a k b k, gleichmäßig i k C gilt, falls lim sup a k k C b k =0, oder, äquivalet, falls lim sup loga k logb k =0. k C

98 Gesetze der Große Zahl ud Zetraler Grezwertsatz Wir wede diese Sprechweise a auf C = { k N 0 : x k c } = { k N 0 : p c p p k p + c } p p. Ma beachte, dass mic. Daher gilt ach der Stirlig sche Formel gleichmäßig i k C b,p {k} =p k p k! k! k! p k p k /e k π k/e k k/e k πk π k p k k p,. k k k k π Nu ist ebefalls gleichmäßig i k C k k. p p Es reicht also zu zeige, dass gleichmäßig i k C gilt p k k p χ, k := e xk /,. k k Setze t t ft := t log + t log, t 0,. p p Da ist logχ, k = fk/. Wir etwickel f i eie Taylorreihe um p: fp =0 f p =0 f p = p + p = p p. Daher ist ft = p p t p + Rt wobei für die Abschätzug des Restglieds für jedes ε>0ei D ε < existiert mit Rt D ε t p 3 für alle t mit t p <ε. Für > c p p ε sup k: x k c gilt wege k p x p p = <ε log χ, k+ x k k sup k: x k c p p p x k }{{} =0 = D / 0, c 3 p p 3/ + D ε. 3/

5.4 Zetraler Grezwertsatz 99 für D = D ε c 3 p p 3/. Dies aber impliziert 5.5 ud beedet de Beweis. Als Folgerug aus Satz 5.6 erhalte wir: Korollar 5.7 Seie X,X,...uabhägig ud X i Ber p für ei p 0,. Sei S := X +...+X ud S := S p. p p Da gilt für a<b lim P[ S [a, b =Φb Φa =N 0, [a, b. 5.6 Beweis Seie zuächst a, b R. Da ist lim P[ S [a, b = lim = lim = k: x k [a,b k: x k [a,b b a b,p {k} ϕx k p p ϕx dx =Φb Φa, de die Summe ist eie approximierede Riema-Summe für das Itegral. Die Fälle a = ud b = bleibe als Übug. Beispiel 5.8 Korrekturterme Seie k, l N ud k<l. Wir wolle b,p {k,...,l} durch die Normalverteilug approximiere. Verwede wir Satz 5.6, so erhalte wir l ϕ i p p p b,p {k,...,l}. p p Verwede wir higege Korollar 5.7 mit a = Formel b,p {k,...,l} Φb Φa =Φ i=k k p ud b = p p l p p p Φ l p, so erhalte wir die eifachere p p k p. 5.7 p p Die Wahl vo a ud b war etwas willkürlich, de für jedes a x mit a x = k x p ud jedes b y mit p p b y = l+y p für x, y [0, ist p p { S [a x,b y } = { k x S l + y } = { S {k,...,l} }, also b,p {k,...,l} Φb y Φa x. Eie bessere Aäherug a de geaue Wert erhält ma meist, statt mit x = y =0mit de Werte x = y =. Wir ee daher die Approximatio l + b,p {k,...,l} Φ p k Φ p 5.8 p p p p

00 Gesetze der Große Zahl ud Zetraler Grezwertsatz die Normalapproximatio der Biomialverteilug mit Korrekturterme. Die Approximatio i 5.7 heißt etspreched die Normalapproximatio ohe Korrekturterme. Beispiel 5.9 Wahlprogose Bei eier Wahl erhält Kadidat A eie ubekate Ateil p 0, der Stimme. Um de Wert vo p zu ermittel, werte wir die erste Wahlzettel aus. Wie groß sollte sei, damit die Wahrscheilichkeit eies Irrtums vo mehr als eiem Prozetpukt icht größer als 0.05 ist? We wir Zettel auswerte, da bekomme wir S Stimme für de Kadidate A, ud S ist biomialverteilt mit Parameter ud p. Dies gilt jedefalls da, we wir die Azahl der abgegebee Stimme als so groß aehme köe, dass dagege verachlässigbar ist. Sei A das Ereigis A := { S p > 0.0}. Da soll P[A 0.05 gelte, also mit der Normalapproximatio ohe Korrekturterme [ 0.0 0.05 P p p Φ 0.0 =Φ 0.0 p p p p S p p p Φ 0.0. 0.0 p p p p Im letzte Schritt habe wir ausgeutzt, dass Φx +Φ x = x ϕx dx + x ϕx dx =+ x 0 ϕx dx + x ϕx dx =. 0 Wir wolle also bestimme mit Φ 0.0 p p 0.975. Die Werte vo Φ sid tabelliert, z.b. im Buch vo Kregel oder im Buch vo Georgii. Der Tabelle etehme wir, dass Φ.96 0.975. Also sollte p p 0 000.96 ausreiche. Da wir keie Vorabiformatio über de Wert vo p besitze, müsse wir mit dem schlechteste Fall reche, ämlich mit p p = 4. Es folgt, dass wir = 0 000 4.96 = 9604 Zettel auswerte müsse. Eie exakte Rechug mit de Biomialkoeffiziete zeigt, dass i der Tat scho = 9600 ausreicht, de [ S9600 P 9600 > 96 = 4896 k=4706 9600 9600 =0.048855879 < 0.05. k Adererseits reiche = 9599 Stimmzettel scho icht mehr aus, de [ S9599 P 9599 4895 9599 > 95.99 = 9599 =0.0500498096 > 0.05. k k=4704 Defiitio 5.0 Schwache Kovergez Seie µ, µ,µ,...wahrscheilichkeitsmaße auf R mit Verteilugsfuktioe F, F,F,... Wir sage: µ N kovergiert schwach gege µ, i Formel µ = µ oder µ =w lim µ, falls lim F x =F x für alle x R, i dee F stetig ist.

5.4 Zetraler Grezwertsatz 0 Bemerkug 5. Der Begriff der schwache Kovergez, de wir hier beschriebe habe, stimmt mit dem Begriff der schwache Kovergez für Verteiluge auf N 0, de wir i Lemma 4.5 beschriebe habe überei. Dort hieß Charakterisierug ii eie Folge µ N schwach koverget gege ei Wahrscheilichkeitsmaß µ auf N 0, falls µ {0,...,N} µ{0,...,n} für alle N N 0.Für die Verteilugsfuktioe F heißt dies F N F N für alle N N 0. Wege F x =F x für alle x R folgt, dass F x F x für alle x R. Isbesodere ist µ = w lim µ im Sie der Defiitio 5.0. Gelte u adererseits F x F x i alle Stetigkeitspukte x vo F. Klar ist F stetig i jedem Pukt x R \ N 0. Speziell ist F stetig i jedem Pukt N +, N N 0. Also gilt µ {N} =F N + F N F N + F N = µ{n}. Also ist µ N schwach koverget gege µ im Sie vo Lemma 4.5 Charakterisierug i. Satz 5. Seie X, X,X,...reelle Zufallsvariable mit X X stochastisch. Da gilt P X P X schwach. Beweis Sei x eie Stetigkeitsstelle vo F. Da existiert ei δ > 0 mit F t F x < ε t x δ, x + δ. Für hireiched groß ist P[ X X δ < ε, also P[X x P[X x, X X <δ+p[ X X δ für alle P[X x + δ+ ε F x+ε. Wir habe also lim sup F x F x. Die adere Ugleichug folgt aalog. Wir köe u Korollar 5.7 folgedermaße umformuliere: Seie X,X,...uabhägig ud X i Ber p für ei p 0,. Sei S := X +...+ X ud S := S p p p. Da gilt P S N 0, schwach. 5.9 Diese Aussage ka ma auch zeige, we ma für die eizele X i icht mehr die Beroulli-Verteilug fordert, soder lediglich, dass sie i L liege. Wir führe hier de Beweis icht, soder verweise auf die Bücher vo Kregel ud vo Georgii. Im zweite Teil des Stochastik-Zyklus kommt ei ichtelemetarer Beweis des Satzes mit Hilfe vo Fourier Trasformatioe. Satz 5.3 Zetraler Grezwertsatz Seie X,X,... uabhägige idetisch verteilte reelle Zufallsvariable mit σ := Var[X i 0,. Sei S := σ Xi E[X i. i= Da gilt P S N 0,, schwach.

0 Gesetze der Große Zahl ud Zetraler Grezwertsatz Dieser Satz besagt also, dass die Fluktuatioe vo S um E[S vo der Größe σ sid ud die Gestalt eier Normalverteilug habe. Dabei ist diese Gestalt uabhägig vo der Art der zu Grude liegede Zufallsvariable, solage sie quadratitegrabel sid. Der Normalverteilug kommt damit als Grezverteilug eie gaz besodere Rolle i der Wahrscheilichkeitstheorie zu. Dies wird auch deutlich durch die im Folgede besprochee Fixpukteigeschaft. Korollar 5.4 Seie X ud Y uabhägig ud idetisch verteilt mit Var[X =Var[Y =σ 0,. Ferer gelte X + Y = d X. Da gilt P X = P Y = N 0,σ. Beweis Seie X,X,... uabhägige Zufallsvariable mit P Xi = P X, i N. Seie S ud S wie d d obe. Da ist S = X ach Voraussetzug. Nu ist aber auch S4 S = X 3 + X 4 = X. Ferer d d sid X + X ud X 3 + X 4 uabhägig, also gilt S 4 = X + Y =X. Iterativ erhält ma S d = / X, also S d = σ X. Nach dem Zetrale Grezwertsatz gilt aber P S N 0, schwach. Also ist P X = N 0,σ.

5.5 Tabelle der Normalverteilug 03 5.5 Tabelle der Normalverteilug Tabelle des Itegrals Φx 0.5 = x e t / dt π Agegebe sid die Matisse. Beispiel: Φ.3 = 0.5+0.3907 = 0.8907 0 x 0 3 4 5 6 7 8 9 0.00 0 40 80 0 60 99 39 79 39 359 0.0 398 438 478 57 557 596 636 675 74 753 0.0 793 83 87 90 948 987 06 064 03 4 0.30 79 7 55 93 33 368 406 443 480 57 0.40 554 59 68 664 700 736 77 808 844 879 0.50 95 950 985 09 054 088 3 57 90 4 0.60 57 9 34 357 389 4 454 486 57 549 0.70 580 6 64 673 704 734 764 794 83 85 0.80 88 90 939 967 995 303 305 3079 306 333 0.90 359 386 3 338 364 389 335 3340 3365 3389.00 343 3438 346 3485 3508 353 3554 3577 3599 36.0 3643 3665 3686 3708 379 3749 3770 3790 380 3830.0 3849 3869 3888 3907 395 3944 396 3980 3997 405.30 403 4049 4066 408 4099 45 43 447 46 477.40 49 407 4 436 45 465 479 49 4306 439.50 433 4345 4357 4370 438 4394 4406 448 449 444.60 445 4463 4474 4485 4495 4505 455 455 4535 4545.70 4554 4564 4573 458 459 4599 4608 466 465 4633.80 464 4649 4656 4664 467 4678 4686 4693 4699 4706.90 473 479 476 473 4738 4744 4750 4756 476 4767.00 4773 4778 4783 4788 4793 4798 4803 4808 48 487.0 48 486 4830 4834 4838 484 4846 4850 4854 4857.0 486 4865 4868 487 4875 4878 488 4884 4887 4890.30 4893 4896 4898 490 4904 4906 4909 49 493 496.40 498 490 49 495 497 499 493 493 4934 4936.50 4938 4940 494 4943 4945 4946 4948 4949 495 495.60 4953 4955 4956 4957 4959 4960 496 496 4963 4964.70 4965 4966 4967 4968 4969 4970 497 497 4973 4974.80 4974 4975 4976 4977 4977 4978 4979 4980 4980 498.90 498 498 4983 4983 4984 4984 4985 4985 4986 4986