Seminar: Gegenbeispiele in der Wahrscheinlichkeitstheorie. Ausarbeitung zum Seminarthema: Zentraler Grenzwertsatz und diverse Grenzwertsätze

Transkript

1 Seminar: Gegenbeispiele in der Wahrscheinlichkeitstheorie - Ausarbeitung zum Seminarthema: Zentraler Grenzwertsatz und diverse Grenzwertsätze Klaus Kuchler 0. Januar 03

2 Zentraler Grenzwertsatz. Grundlagen, Sätze und Weiteres Im Weiteren betrachten wir nun, soweit nichts anderes angegeben wird, immer eine Folge von unabhängigen Zufallsvariablen (ZVen) {X n, n }, die auf einem Wahrscheinlichkeitsraum (Ω, F, P) definiert ist. Es ist zu beachten, dass diese Folgen von ZVen nicht notwendigerweise identisch verteilt sein muss. Des Weiteren führen wir noch folgende allgemein bekannte Notationen ein: F k sei die Verteilungsfkt. von X k, S n = X + + X n die Summe der ersten n ZVen, σ k = Var X k die Varianz der ZV X k und s n = Var S n = σ + + σ n die Varianz der Summe S n Dann erfüllt die Folge {X n, n } den Zentralen Grenzwertsatz (ZGWS), wenn gilt lim P[(S n E S n )/s n x] = Φ(x) = x e u / du, x R, () n π d.h. die Verteilungsfkt. von (S n ES n )/s n für n konvergiert punktweise bzw. sogar gleichmäßig in x gegen N (0, ). Nun führen wir drei Bedingungen ein, die in einem wichtigen Zusammenhang mit dem ZGWS stehen. Dazu sei o.b.d.a. angenommen, dass E X k = 0, k. Zuerst die sogenannte Lindeberg-Bedingung (diese kann beispielsweise die Voraussetzung der identischen Verteilung der ZVen im klassischen ZGWS ersetzen): lim n s n k= Als zweites die Feller-Bedingung: u εs n u df k (u) = 0 ε > 0 (L) lim max σk n k n s n = 0 (F) Und als letztes noch die Bedingung der asymptotischen Vernachlässigbarkeit der Summanden: lim max P[ X k/s n ε] = 0 ε > 0 (AV) n k n Im Folgenden formulieren wir zwei Sätze in Kurzform, die das Zusammenwirken der drei Bedingungen und des ZGWS zeigen (jeweils ohne Beweis): Satz von Lindeberg. (L) ZGWS

3 Der Satz von Lindeberg zeigt uns also, dass die Lindeberg-Bedingung lediglich eine hinreichende Bedingung für den ZGWS ist. Die Lindeberg-Bedingung ist keine notwendige Bedingung für die Gültigkeit des ZGWS. Satz von Lindeberg-Feller. (L) ZGWS und (F) ZGWS und (AV) In den nachfolgenden Gegenbeispielen werden Fragestellungen aufgegriffen, die zeigen werden, dass einige mit dem ZGWS in Verbindung stehende Eigenschaften nicht gelten, obwohl man deren Gültigkeit eigentlich erwarten könnte.. Beispiel: Dreiecksschema, das den ZGWS nicht erfüllt Wir betrachten folgendes Dreiecksschema für n N: S = X ; S = X + X ;.... S n = X n + X n + + X nn ; wobei X nk, k =,..., n unabhängige und Poisson-verteilte ZVen mit Parameter λ = n sind. Aufgrund der Faltungsstabilität der Poisson-Verteilung ist S n ebenfalls Poissonverteilt mit Parameter. Nun könnte man erwarten, dass die Größe (S n E S n )/s n = (S n )/ gegen die Standardnormalverteilung konvergiert. Dies trifft jedoch nicht zu und das, obwohl für große n jedes X nk fast sicher null ist, denn Das der ZGWS für (S n )/ n N : P P[X nk = 0] = e /n für n gegen unendlich. S n / / tatsächlich nicht erfüllt ist, zeigt die folgende Tatsache: / = P[S n 0] = P[S n = 0] = e / Φ / / /.3 Beispiel: Beziehungen zwischen ZGWS, der Feller-Bedingung und der Bedingung der asymptotischen Vernachlässigbarkeit der Summanden Die zu Beginn eingeführte Folge {X n } sei nun folgendermaßen verteilt: X n N (0, σ n), wobei σ = und σ k = k, k. Wegen der Invarianz der Normalverteilung gegenüber Faltung ist S n = X + + X n auch normalverteilt mit Erwartungswert 0 und 3

4 Varianz s n = n k= σ k = + n k= k = + n gilt trivialerweise für jedes n und daher erfüllt {X n } den ZGWS. S n /s n N (0, ) k=0 k geo. = + n Summe = n. Deshalb Weiter liefert die Ungültigkeit von (F) und lim max σk n k n s n n = lim n = n 0 lim max P[ X k/s n ε] lim n k n n P[ X n /s n ε] = }{{} N (0, ) π ε e u du > 0 } ε {{ } < ebenso die Ungültigkeit von (AV). Da nun weder (F) noch (AV) gelten, folgt mit dem Satz von Lindeberg-Feller, dass auch (L) nicht gilt. Nichtsdestotrotz erfüllt ja {X n } den ZGWS, was ums hiermit eindeutig nochmals klarmacht, dass die Lindeberg-Bedingung lediglich eine hinreichende, aber keine notwendige Bedingung für den ZGWS ist..4 Beispiel: Zwei in einem gewissen Sinne äquivalente Zufallsfolgen, von denen eine den ZGWS erfüllt und die andere nicht Die erste der beiden Folgen von ZVen {X n, n } sei durch folgende Wahrscheinlichkeitsverteilung bestimmt: P[X = ±] = und für k und ein c (0, ) P[X k = 0] = ( ) c, P[X k k = ±] = ( c), P[X k = ±k] = k c Die zweite Folge { X nk, k =,..., n, n } definieren wir durch Abschneiden der ersten Folge: X k, X k n X nk = 0, X k > n Es bezeichne nun S n = X + + X n die Summe der ersten n ZVen der Folge {X n } und S n = X n + + X nn die n-te Summe der ZVen der Folge { X nk }. Nun kann gezeigt werden, dass {X n } sowohl (L) als auch den ZGWS nicht erfüllt, aber { X nk } die Bedingung (L) und damit auch den ZGWS erfüllt, d.h ( S n E S n )/ s n d N (0, ). Im Buch Counterexamples in Probability von Jordan M. Stoyanov sind dazu auf den Seiten 84 u. 86 nähere Details zu finden. 4

5 Was an dieser Stelle nun noch gezeigt werden soll ist, dass die beiden Folgen {S n } und { S n } äquivalent sind in folgendem Sinne: Dies gilt, da P[S n S n ] und da k= k= k <, P[X k X nk ] per = Def. P[S n S n ] 0 für n P[ X k > n] P[ X k = k] = k= k= n k= n folgt, dass die Reihenreste gegen 0 konvergieren (Konvergenzkriterium von Cauchy), d.h. k c c k= n k n 0 P[S n S n ] 0 für n Wir haben hier also ein Beispiel für zwei im obigen Sinne äquivalente Zufallsfolgen gefunden, von denen jedoch nur eine den ZGWS erfüllt..5 Beispiel: Wenn der ZGWS für eine Folge von Zufallsvariablen gilt, konvergiert dann die Varianz von S n / n immer gegen? In diesem Gegenbeispiel betrachten wir die zwei Folgen {X n, n } und {Y n, n }, deren ZVen erneut unabhängig und wie folgt verteilt sind: Wie gewohnt sei P[X k = ±] = ( k ), P[X k = ±k] = k und P[Y k = ±] = S n = X + + X n und Sn = Y + + Y n. Der Erwartungswert von X n, als auch von Y n sind gleich null. Des Weiteren ist die Varianz von Y n gleich und da ja die Y n u.i.v. sind, ergibt sich die Gültigkeit des ZGWS für die Folge {Y n }, d.h. S n / n d N (0, ). Durch Anwendung des Prinzips der Trunkation auf die Folge {X n }, erhalten wir für S n / n das Gleiche Grenzverhalten in Verteilung wie für S n / n, d.h. dass auch S n / n d N (0, ). Nun könnte man doch vermuten, dass sowohl Var(S n / n) n als auch Var( S n / n) n. 5

6 Wenn wir diese Vermutung nun untersuchen, stellen wir zuerst fest, dass die Vermutung für die Folge {Y n }, also genauer für S n / n auch tatsächlich gilt, denn Var( S n / n) = n Var( S n ) = n n Var Y = n N. Aber unsere Vermutung trifft nicht auf die Folge {X n } zu, da Var(S n / n) = n Var(S n) = Var Y k = n k= n k= k = n k= k n. Dies zeigt uns also, dass die Gültigkeit des ZGWS nicht immer die Konvergenz der Varianz der normierten Summe S n / n gegen die Varianz der Standardnormalverteilung impliziert. Anders ausgedrückt sichert der ZGWS i.a. nicht die Konvergenz der Momente von S n / n gegen die Momente der N (0, )-Verteilung. Zur Sicherung deren Konvergenz ist eine zusätzliche Integrierbarkeitsbedingung notwendig, im Speziellen hier E[ S n / n +δ ] < für δ > 0 damit Var(S n / n) n..6 Beispiel: Gilt der ZGWS für zufällige Summen von ZVen immer? Die Antwort auf die in der Überschrift gestellte Frage ist, wie sollte es hier auch anders sein, nein. Bevor wir uns dazu ein Beispiel ansehen, wollen wir zunächst noch einführen, was wir unter dem ZGWS für zufällige Summen von ZVen verstehen. Wir betrachten zuallererst eine Folge von ZVen {X n, n }, die den ZGWS erfüllt. Dazu kommt noch eine zweite Folge von ZVen {ν n, n }, die Werte in N 0 annehmen kann und die für n gegen selbst fast sicher gegen konvergiert. Nun können wir T n definieren als T n := S νn = X + + X νn und b n als b n := Var T n. Der ZGWS gilt nun für die zufälligen Summen T n, falls lim P[(T n E T n )/b n x] = Φ(x), x R. () n Nun wollen wir uns ein Beispiel ansehen, in dem () nicht erfüllt ist. Dazu sei die Folge {X n, n } u.i.v. mit P[X = ±] = und die Folge {ν n, n } unabhängige ZVen, die die Werte n und n mit Wahrscheinlichkeit p (0, ) resp. q = p annehmen. Dabei seien die ZVen {ν n } und {X n } selbst wiederum voneinander unabhängig. Dann 6

7 gilt zum einen und zum anderen E T n = E[E[T n ν n ]] = E[E[S νn ν n ]] unabh. = E[ν n ] E[X ] = 0, }{{}}{{} =ν n E X =0 b n = Var T n = Var[E[T n ν n ] }{{} =ν n E X ] + E[Var[T n ν n ]] = (E X ) Var[ν n ] + E[Var[S νn ν n ]] = Var[X ] E[ν n ] }{{}}{{} =ν n Var[X ] = = E[ν n ] = np + nq = ( q + q)n = ( + q)n P[T n /b n x] totale = P[T n/b n x ν n = n] P[ν n = n] + P[T n /b n x ν n = n] P[ν n = n] Wkt. = p P[S νn /b n x ν n = n] + q P[S νn /b n x ν n = n] {X n } erfüllt ZGWS = p P[S n /b n x ν ////////] n = n + q P[S n /b n x ν/////////] n = n = p P[S n /b n x] + q P[S n /b n x] = p P[S n / n xb n / n] + q P[S n / n xb n / n] = p P[S n / n x + q] + q P[S n / n x + q/ ] Φ(x + q) = x +q / π e u du mit Wkt. p d n Subst. = Φ(x + q/ ) = x +q/ π e u / du mit Wkt. q x /(+q) π(+q) e z dz mit Wkt. p x /4(+q) π(+q) e z dz mit Wkt. q. Daher gilt () nicht, denn P[T n /b n x] konvergiert vielmehr gegen eine gemischte Verteilung bestehend aus zwei ZVen ξ N (0, ( + q) ) mit Wkt. p, η N (0, ( + q) ) mit Wkt. q. 7

8 Diverse Grenzwertsätze In diesem Abschnitt wollen wir uns noch einige Beispiele ansehen, die sich mit anderen Arten des Konvergenzverhaltens von Zufallsfolgen beschäftigen. Bevor wir jedoch mit den Beispielen beginnen, wollen wir zunächst noch einen wichtigen und dienlichen Satz einführen.. Grundlagen, Sätze und Weiteres Drei-Reihen-Satz von Kolmogorov. Sei {X n, n } eine Folge unabhängiger ZVen und X n (c) := X n { X n c} für ein c > 0. Dann sind folgende Aussagen äquivalent: (i) X n konvergiert P-f.s. (ii) Die drei Reihen E[X n (c) ], für jedes c > 0. Var X (c) n, (iii) Es existiert ein c > 0, sodass die drei Reihen E[X n (c) ], P[ X n c] konvergieren. P[ X n c] konvergieren Var X (c) n,. Beispiel: Prüfe auf P f.s Konvergenz mit Hilfe des Drei-Reihen-Satzes von Kolmogorov Wir wollen die beiden zufälligen Reihen X n mit X n = ± n für p = und Y n = Y n mit für p (0, ) n Y n = für p n auf P f.s Konvergenz mit Hilfe des Drei-Reihen-Satzes von Kolmogorov untersuchen. Zuerst nehmen wir uns die Reihe X n vor. Der Erwartungswert von X n ist null und die Varianz Var X n =. Weiter wählen wir c = und erhalten so für die Reihe n Var X n (c) aus dem Drei-Reihen-Satz von Kolmogorov folgendes Resultat: Var X () n = Var X n { X n } = Var X n = n = Wenn nun angenommen die Reihe X n fast sicher konvergieren würde, so müssten alle drei Reihen im Drei-Reihen-Satz von Kolmogoro aus (ii) für alle c > 0 konvergieren. Jedoch haben wir ja gerade mit c = dies widerlegt, weshalb X n nicht fast sicher konvergiert. Nun noch zur zweiten Reihe Y n. Für den Erwartungswert von Y n bekomen wir 8

9 E Y n = p + ( p) = ( p). Erneut wählen wir c = und erhalten so für die n n n Reihe E Y n (c) aus dem Drei-Reihen-Satz von Kolmogorov folgendes Resultat: E Y () n = E Y n { Y n } = E Y n = ( p) n = Analog zur ersten Reihe folgt, dass auch Y n nicht fast sicher konvergiert..3 Beispiel: Beziehung zwischen Konvergenz in L p für ZVen und bedingte Erwartungswerte Wir haben einen Wahrscheinlichkeitsraum (Ω, F, P) und eine beliebige Teil-σ-Algebra A F. Des Weiteren haben wir ZVen X und {X n, n } die L p -integrierbar sind und L es gelte X p n X für n, p. Dann folgt mit Hilfe der Jensenschen Ungleichung für bedingte Erwartungswerte, dass auch die Konvergenz von E[X n A] Lp E[X A] gilt (0 E[ E[X n A] E[X A] p ] = E[ E[X n X A] p ] Jensen Ungl. E[ X n X p ] n 0). E[E[ X n X p A]] P f.s. = Ob nun auch die Umkehrung gilt, wollen wir anhand eines Beispiels überprüfen: Seien {X n, n } u.i.v. mit P[X = c] = P[X = 0] = P f.s. und X = c für ein c R \ {0}. Als Teil-σ-Algebra wählen wir A = {, Ω} und erhalten somit, da E[X n A] = E[X n ] = c P[X n = c] + 0 P[X n = 0] = c E[X A] = E[X] = c, = c, n N und dass lim E[ E[X n A] E[X A] p ] = 0, p. n Jedoch gilt für E[ X n X p ] P f.s. = E[ X n c p ] = c c p + 0 c p = c p 0, n, p. Damit gilt die Umkehrung i.a. nicht, denn wie unser Beispiel gezeigt hat, folgt aus E[X n A] Lp L E[X A] nicht X p n X für n, p. 9