Konvergenz von Folgen reeller Zufallsvariablen

Transkript

1 Kapitel 4 Kovergez vo Folge reeller Zufallsvariable 4. Fa-sichere ud ochaische Kovergez Seie (Ω, C, ) ei W-Raum, X ( N) eie Folge reeller Zufallsvariable auf Ω ud X eie reelle Zufallsvariable auf Ω. Defiitio 4. (Fa-sichere Kovergez) Die Folge X kovergiert fa-sicher gege X, abkürzede Schreibweise: X Ω 0 C mit (Ω 0 ) = gibt, so dass X f.s., we es ei lim X (ω) = X(ω) ω Ω 0. Defiitio 4.2 (Stochaische Kovergez) Die Folge X kovergiert ochaisch gege X, abkürzede Schreibweise: X reelle ε > 0 gilt: ( lim X X ) > ε = 0. X, we für jedes Bemerkuge:. Eie adere Bezeichug für die ochaische Kovergez (der Folge X gege X) i Kovergez i Wahrscheilichkeit (der Folge X gege X). 2. Es verwudert agesichts der beide Defiitioe icht, dass die Limesvariable X im Fall X X f.s. oder X X icht reg eideutig beimmt i, soder ur -fa-sicher eideutig beimmt i. Theorem 4.3 (Beziehuge zwische fa-sicherer ud ochaischer Kovergez) (a) We X X f.s., da X X. (b) We X X, da exiiert eie Teilfolge X i (i N) (mit eier rikt aufeigede Folge < 2 <... < i <... i N ), so dass X i X f.s. (für i ). 33

2 Norbert Gaffke: Vorlesug Eiführug i die Wahrscheilichkeitheorie ud Statiik, Witersemeer 202/3 Kapitel 4: Kovergez vo Folge reeller Zufallsvariable 34 Beispiel: Stochaische Kovergez i i.a. schwächer als fa-sichere Kovergez Seie Ω = R, C = B ud = R(0, ). Defiiere A i,m := [ i m Wähle irgedeie Abzählug der Idexmege, i ) i =,..., m, m N, m { } (i, m) : i {,..., m}, m N : N (i, m ), ud betrachte die Folge reeller Zufallsvariable X := Ai,m, N. Ma sieht leicht: X 0 ; aber für jedes ω [ 0, ) hat die Folge X (ω) ( N) uedlich viele Glieder gleich ud uedlich viele Glieder gleich 0, ud i daher icht koverget. Für die fa-sichere Kovergez i ziemlich offesichtlich, dass sie bei eier etige Trasformatio erhalte bleibt, i folgedem Sie. Seie k Folge reeller Zufallsvariable auf Ω gegebe: X (i), N, i =,..., k ; seie k reelle Zufallsvariable X (i), i =,..., k, auf Ω gegebe. Das folgede Resultat i leicht zu zeige: We X (i) da: g ( X () X (i) f.s. für jedes i =,..., k ud we g : R k R etig i,,..., X (k) ) ( g X (),..., X (k)) f.s. Die Voraussetzug der Stetigkeit vo g auf gaz R k läs sich abschwäche; es geügt die Voraussetzug, dass die Abbildug g messbar i (bezgl. B k ud B ) ud fa überall etig i, wobei sich fa überall auf die gemeisame Verteilug der Limesvariable X (),..., X (k) bezieht: { } C g =, wobei C g := x R k : g i etig im ukt x. Das wie auch das etsprechede Resultat für ochaische Kovergez i der Ihalt des achfolgede Cotiuous Mappig Theorem (CMT). Agemerkt sei, dass für eie messbare Fuktio g : R k R die Mege C g eie Borelsche Mege i. Theorem 4.4 (Cotiuous Mappig Theorem) (a) We X (i) X (i) f.s. für jedes i =,..., k ud g : R k R messbar mit C g =, da: g ( X (),..., X (k) ) ( g X (),..., X (k)) f.s. (b) We X (i) X (i) für jedes i =,..., k ud g : R k R messbar mit C g =, da: g ( X (),..., X (k) ) g ( X (),..., X (k)). 4.2 Gesetze der große Zahle Zur Motivatio der hier betrachtete roblemelluge: Seie x,..., x realisierte Werte vo u.i.v. reelle Zufallsvariable X,..., X, also x i = X i (ω), i =,...,, für ei ω Ω. Da sollte für großes approximativ gelte: x := x i β, wobei β de (idetische) Erwartugswert der Zufallsvariable X i bezeichet (die -itegrierbar seie). Das schwache Gesetz der große Zahle (egl. Weak Law of Large Numbers, WLLN) präzisiert dies als

3 Norbert Gaffke: Vorlesug Eiführug i die Wahrscheilichkeitheorie ud Statiik, Witersemeer 202/3 Kapitel 4: Kovergez vo Folge reeller Zufallsvariable 35 ochaische Kovergez X := X i β, währed das arke Gesetz der große Zahle (egl. Strog Law of Large Numbers, SLLN) dies als fa-sichere Kovergez präzisiert: X β f.s. Im Folgede sei (Ω, C, ) ei W-Raum. Lemma 4.5 (Tchebychev-Ugleichug) Sei X eie quadrat--itegrierbare reelle Zufallsvariable auf Ω. Da gilt für jedes ε > 0 : ( ) X E(X) ε Var(X) ε 2. Korollar 4.6 Sei Y ( N) eie Folge quadrat--itegrierbarer reeller Zufallsvariable auf Ω mit E(Y ) = 0 N ud mit lim Var(Y ) = 0. Da gilt Y 0. Theorem 4.7 (Schwaches Gesetz der große Zahle) Sei X i (i N) eie Folge quadrat--itegrierbarer ud paarweise ukorrelierter reeller Zufallsvariable auf Ω. Bezeiche X := X i N. Es gilt: We lim 2 Var(X i ) = 0, da X E ( X ) 0. Korollar 4.8 (Spezialfall: Idetisch verteilte Zufallsvariable) Sei X i (i N) eie Folge quadrat--itegrierbarer, idetisch verteilter ud paarweise ukorrelierter reeller Zufallsvariable auf Ω. Da gilt, mit β := E(X i ) : X β. Die Herleitug eies arke Gesetzes der große Zahle i weitaus schwieriger ud erfordert eiige vorbereitede Resultate. Lemma 4.9 (Toeplitz- ud Kroecker-Lemma) Sei x i (i N) eie reelle Zahlefolge. (a) We lim i x i = x R, da lim (b) We die Reihe x i i x i = x., ( N), i R kovergiert, da lim x i = 0.

4 Norbert Gaffke: Vorlesug Eiführug i die Wahrscheilichkeitheorie ud Statiik, Witersemeer 202/3 Kapitel 4: Kovergez vo Folge reeller Zufallsvariable 36 Lemma 4.0 (Kolmogorov-Ugleichug) Seie Y,..., Y ochaisch uabhägige quadrat--itegrierbare reelle Zufallsvariable auf Ω mit E(Y i ) = 0 i =,...,. j Bezeiche S j := Y i für j =,...,. Da gilt für jedes ε > 0 : ( max j ) Sj ε ε 2 E ( Yi 2 ). Lemma 4. (Kolmogorov & Khichi) Sei Y i (i N) eie Folge ochaisch uabhägiger quadrat--itegrierbarer reeller Zufallsvariable auf Ω mit E(Y i ) = 0 i N ud E ( Yi 2 ) <. Da kovergiert die artialsummefolge S := Zufallsvariable S auf Ω. Y i, ( N), fa-sicher gege eie reelle Die ochaische Uabhägigkeit der Y i (i N) bedeutet, dass die Zufallsvariable Y,..., Y ochaisch uabhägig sid, für jede Wahl vo N. Theorem 4.2 (Starkes Gesetz der große Zahle vo Kolmogorov) Sei X i (i N) eie Folge ochaisch uabhägiger quadrat--itegrierbarer reeller Zufallsvariable auf Ω. Bezeiche X := X i, ( N). Es gilt: We Var(X i ) i 2 <, da X E ( X ) 0 f.s. Korollar 4.3 (Spezialfall: U.i.v. Zufallsvariable) Sei X i (i N) eie Folge ochaisch uabhägiger, idetisch verteilter ud quadrat--itegrierbarer reeller Zufallsvariable auf Ω. Bezeiche β := E(X i ). Da gilt X β f.s.

5 Norbert Gaffke: Vorlesug Eiführug i die Wahrscheilichkeitheorie ud Statiik, Witersemeer 202/3 Kapitel 4: Kovergez vo Folge reeller Zufallsvariable Kovergez empirischer Verteilugsfuktioe Zur Motivatio: Seie x,..., x realisierte Werte vo u.i.v. reelle Zufallsvariable X,..., X, also x i = X i (ω), i =,...,, (für ei ω Ω). Die empirische Verteilugsfuktio F x,...,x (x) := { i {,..., } : x i x} x R sollte für großes approximativ mit der wahre Verteilugsfuktio F (die Verteilugsfuktio vo X i ) übereiimme: Fx,...,x (x) F (x) x R. Das arke Gesetz der große Zahle ergibt eie ere räzisierug; dabei setze wir im Folgede voraus: Seie (Ω, C, ) ei W-Raum ud X i (i N) eie Folge vo u.i.v. reelle Zufallsvariable auf Ω. Betrachte zu gegebeem x R die Zufallsvariable auf Ω : F (x) : ω { } i {,..., } : X i (ω) x, d.h. F (x) = Mit Korollar 4.3 erhalte wir da : (, x ] X i. F (x) F (x) f.s. x R, (wobei F die Verteilugsfuktio vo X i ). Beachte: Eie mit dieser fa-sichere Kovergez implizierte Mege Ω 0 C mit (Ω 0 ) = wird vo x abhäge: Ω 0 = Ω 0 (x), x R. Der achfolgede Satz vo Gliveko-Catelli verschärft aber die Kovergezaussage i zweierlei Hisicht: Zum eie gibt es eie simultae Teilmege Ω 0 C mit (Ω 0 ) =, so dass die Kovergez F (x)(ω) F (x) für alle ω Ω 0 ud alle x R gültig i. Zum adere i die Kovergez für jedes ω Ω 0 sogar gleichmäßig i x. Bezeiche, für jedes N : D (ω) := sup x R kurz: D = sup x R F (x)(ω) F (x) ω Ω, F (x) F (x). Mit der rechtsseitige Stetigkeit der Fuktioe F ud x F (x)(ω) für jedes ω Ω sieht ma, dass die obe defiierte Fuktio D : Ω R messbar i, also eie reelle Zufallsvariable auf Ω i. Theorem 4.4 (Gliveko & Catelli) Für eie Folge X i (i N) vo u.i.v. reelle Zufallsvariable auf Ω gilt: D 0 f.s. (für ).