1 Stochastische Konvergenz 2. 2 Das Gesetz der grossen Zahlen 4. 3 Der Satz von Bernoulli 6

Transkript

1 Wirtschaftswissenschaftliches Zentrum 0 Universität Basel Mathematik Dr. Thomas Zehrt Grenzwertsätze Benötigtes Vorwissen: Der Stoff der Vorlesung,,Statistik wird als bekannt vorausgesetzt, insbesondere Kapitel 8,,Zufallsvariablen und Kapitel 0,,Ausblick Inhaltsverzeichnis Stochastische Konvergenz Das Gesetz der grossen Zahlen 4 3 Der Satz von Bernoulli 6 4 Der zentrale Grenzwertsatz 8 4. Der zentrale Grenzwertsatz: Herleitung Der zentrale Grenzwertsatz: Beispiel Zusammenfassung Approximationen 5 5. Grenzwertsatz von de Moivre und Laplace Poissonscher Grenzwertsatz Übungsaufgaben 9

2 Stochastische Konvergenz Sei (X i ) i N eine Folge von Zufallsvariablen, die zugehörigen Verteilungsfunktionen seien mit F i = F i (t) bezeichnet. Definition. Eine Folge (X i ) i N von Zufallsvariablen konvergiert stochastisch gegen die reelle Zahl a, wenn für beliebige c > 0 die folgende Beziehung gilt: Äquivalent dazu: lim P ( X i a c) = 0. i lim P ( X i a < c) = i Bemerkung: Das ist keine Konvergenz im klassischen Sinne und es bedeutet auch nicht, dass X i gegen a konvergiert. Sei (X i ) i N eine Folge von Zufallsvariablen mit Das bedeutet für jedes c > 0:.. lim P ( X i a c) = 0. i 0 = lim i P (X i a c) = lim i P (X i a c) = lim i F i (a c) Für alle c > 0 gilt somit: 0 = lim P (X i a c) i = lim ( P (X i < a + c)) i = lim F i (a + c) lim P (X i = a + c) i i }{{} =0 lim i F i(a c) = 0 und lim i F i (a + c) =

3 3 Satz Eine Folge von Zufallsvariablen konvergiert genau dann stochastisch gegen a, wenn die Folge (F i (t)) i N ihrer Verteilungsfunktionen (in jeder Stetigkeitsstelle) gegen die Verteilungsfunktion einer Einpunktverteilung konvergiert. F i (a+c) i 8 F i (a c) i 8 a c a a+c

4 4 Das Gesetz der grossen Zahlen Sei (X i ) i N eine Folge unabhängiger und identisch verteilter Zufallsvariablen mit E(X i ) = µ und V ar(x i ) = σ. Für das arithmetische Mittel X n = n von den ersten n dieser Zufallsvariablen gilt X i Mit der Tschebyschevungleichung folgt E(X n ) = µ und V ar(x n ) = σ n P ( Xn µ < c ) V ar(x n ) c = σ n c Für festes c 0 strebt die rechte Seite für n gegen. Satz (Gesetz der grossen Zahlen) Sei (X i ) i N eine Folge unabhängiger und identisch verteilter Zufallsvariablen mit E(X i ) = µ und V ar(x i ) = σ. Für das arithmetische Mittel X n = n n X i von den ersten n dieser Zufallsvariablen gilt dann lim P ( Xn µ ) < c = n d.h. die Folge (X n ) n N konvergiert stochastisch gegen µ. Ist n nur gross genug, so unterscheiden sich X n und µ mit hoher Wahrscheinlichkeit nur um einen (kleinen) Wert < c.

5 5 Beispiel. Die historischen Lottozahlen der letzten 5 Jahre (30 Ausspielungen) aus Deutschland (7 aus 49) zeigen das Gesetz der grossen Zahlen sehr anschaulich Jeden Samstag wurden sieben Kugeln (einschliesslich Zusatzzahl) gezogen, es liegt somit ein sehr grosser Stichprobenumfang von n = 7 30 = 94 vor. Das arithmetische Mittel der gezogenen Lottozahlen beträgt X 94 = ( ) = V ar(x 94 ) = Die Wahrscheinlichkeitsverteilung ist sicher die Gleichverteilung mit Erwartungswert und Varianz µ = 49 i 49 = 50 = 5 V ar = 49 = 00

6 6 3 Der Satz von Bernoulli Sei jedes X i Null-Eins-verteilt, d.h. Dann folgt X i = { ( Ereignis A) mit P (Xi = ) = p 0 ( Ereignis A) mit P (X i = 0) = p E(X i ) = p = µ und V ar(x i ) = p( p) = σ Die Zufallsvariable X n = n X i stellt hier die relative Häufigkeit des Ereignisses A bei n unabhängigen Wiederholungen dar. Mit der Tschebyschevungleichung folgt wieder P ( X n p < c ) lim P ( X n p < c ) = n p( p) n c Satz 3 (Satz von Bernoulli) Die relative Häufigkeit eines zufälligen Ereignisses A in n unabhängigen Wiederholungen konvergiert stochastisch gegen die Wahrscheinlichkeit p des Ereignisses A. Anwendung: Schätzen von p durch die relative Häufigkeit X n gegeben: c > 0 und Irrtumswahrscheinlichkeit α (Sicherheitswahrscheinlichkeit α) gesucht: Wie gross muss n gewählt werden, so dass P ( X n p < c ) α Lösung: p( p) P ( X n p < c ) α } n c {{} Auflösen nach n n p( p) α c

7 7 Aufgabe 3. Eine faire Münze soll n-mal geworfen werden, so dass die relative Häufigkeit für das Ereignis,,Kopf,, mit 98%-iger Wahrscheinlichkeit im Intervall (0.4, 0.6) liegt. Wie gross muss n mindestens sein? Lösung:

8 8 4 Der zentrale Grenzwertsatz 4. Der zentrale Grenzwertsatz: Herleitung Der zentrale Grenzwertsatz gibt einen Grund für die herausragende Rolle der Normalverteilung, denn er charakterisiert diese als Grenzverteilung von (additiven) Überlagerungen von vielen unabhängigen zufälligen Einzeleffekten. Sei X, X,... eine (unendliche) Folge von identisch verteilten und unabhängigen Zufallsvariablen mit µ = E(X i ) und σ = V ar(x i ). Wir betrachten: S n = X i = X + X X n Für den Erwartungswert und die Varianz von S n folgt: ( ) E(S n ) = E X i = E(X i ) = n µ V ar(s n ) = V ar ( X i ) Diese Zufallsvariablen werden nun standardisiert: = V ar(x i ) = n σ Y n = S n E(S n ) V ar(sn ) = S n n µ n σ. Y n heisst auch die standardisierte Summe der X, X,... X n. Satz 4 (Zentraler Grenzwertsatz) lim P (Y n y) = Φ(y) n wobei Φ die Verteilungsfunktion der Standardnormalverteilung ist. Ist eine zufällige Erscheinung additiv aus unabhängigen zufälligen Ereignissen zusammengesetz, so können Wahrscheinlichkeiten näherungsweise mit der Funktion Φ bestimmt werden.

9 9 4. Der zentrale Grenzwertsatz: Beispiel Experiment: n-maliger Münzwurf Dann gilt Ω = {(ω, ω,..., ω n ) : ω i {K, Z}} mit der Gleichverteilung. Sei X i = { 0 beim i-ten Wurf Kopf beim i-ten Wurf Zahl Alle diese Zufallsvariablen sind unabhängig und gleichverteilt; es gilt E(X i ) = V ar(x i ) =. Jedes X 4 i hat die Verteilung {( ( 0, ),, )}. Nun addieren wir die Zufallsvariablen:. S = X Verteilung: {( ( )} 0, ),, und. S = X + X, Verteilung: {( ( ) ( )} 0, 4),, 4,, 4

10 0 3. S 3 = X + X + X 3, Verteilung: {( 0, 8), (, 3 8 ), (, 3 8 ) ( )}, 3, 8 4. S 0 = X X 0, Verteilung: {( 0, 0 ), (, 0 0 ),..., ( 0, 0 )} 5. S 50 = X X 50, Verteilung:

11 Satz 5 Die Verteilung für S n = X i ist gegeben durch { ( 0, ) (, (, n ),..., k, n n ( ) n k) n,..., (n, ) } n Beweis:

12 Nun betrachten wir die zugehörigen normalisierten Zufallsvariablen: Y n = S n n n 4. Y, Verteilung: {( ( )}, ),, = n X i n n. Y, Verteilung: {( ( ) ( )}, 4), 0, 4,,

13 3 Satz 6 Die Verteilung der Zufallsvariablen Y n = { ( 0 n n und für n gilt Y n N(0, ), ) ( k n,..., n n n n X i n n ist gegeben durch ( ) n (, k) n n,..., n, ) } n

14 4 4.3 Zusammenfassung X i n µ n σ = Y n N(0, ) für n gross X i N(n µ, n σ ) für n gross n X i N(µ, σ /n) für n gross Beispiel 4. Eine Theorie behauptet, dass die Entwicklung von Aktienkursen auf (informationseffizienten) Märkten einem Random-Walk folgt: k t+ }{{} Kurs morgen = k t }{{} Kurs heute +ɛ t+ wobei die Kursänderungen ɛ t+ = k t+ k t Zufallsvariablen sind mit E(ɛ i ) = 0 und V ar(ɛ i ) = σ. Monatliche Kursänderung: ɛ t+ + ɛ t ɛ t+n (z.b. n = 5 Handelstage pro Monat) Zentraler Grenzwertsatz: 5 ɛ t+i,, N(0, 5σ ) (die monatliche Kursänderung ist ungefähr normalverteilt mit dem Erwartungswert 0 und der 5-fachen Varianz 5σ ) Schlussfolgerungen aus der Random-Walktheorie Jede Kursprognose, die sich auf die vergangene Kursentwicklung stützt (z.b. die Charttechnik) ist unmöglich. Einzige akzeptable Prognose: Der Kurs bleibt wie er ist!

15 5 5 Approximationen In der Praxis muss man häufig Wahrscheinlichkeiten von binomialverteilten Zufallsvariablen für grosse n bestimmen. Das ist sehr aufwändig. Hier helfen Approximationen der Binomialverteilung durch stetige Standardverteilungen. B(n;p) n p ( p) > 9 p < 0. und n > 00 N( np, np( p) ) Po( np ) 5. Grenzwertsatz von de Moivre und Laplace Praktische Approximationsregel Sei X B(n; p) eine binomialverteilte Zufallsvariable, µ = np und σ = np( p). Dann gilt f Bi (x; n, p) P (a X b) ( φ x; np, ) np( p) ( ) ( ) b µ a µ 0.5 Φ Φ σ σ mit hinreichender Genauigkeit, falls n p ( p) > 9 gilt.

16 6 Beispiel 5. n = 0 und p = 0.5 µ = n p = 5 und σ = n p ( p).58 In der Skizze sehen Sie die Binomialverteilung f Bi (x; 0, 0.5) (als rotes Stabdiagramm) und die (blaue) Glockenkurve φ(x; 5,.58): Beispiel 5. n = 0 und p = 0.5 µ = n p =.5 und σ = n p ( p).37 In der Skizze sehen Sie die Binomialverteilung f Bi (x; 0, 0.5) (als rotes Stabdiagramm) und die (blaue) Glockenkurve φ(x;.5,.37):

17 7 Aufgabe 5. Bestimmen Sie approximativ die Zahl P = 50 k=00 ( ) ( ) k ( ) 000 k k 6 6 Lösung: P ( ) ( ) Φ Φ = = Φ(.37) Φ( 5.70)

18 8 5. Poissonscher Grenzwertsatz Satz 7 Für eine Folge von binomialverteilten Zufallsvariablen X n B(n; p) wobei p = p(n) mit n p(n) = λ (d.h. zu grossen n gehören kleine p) gilt für alle k = 0,,,...: lim P (X n = k) = lim n n ( ) n p k ( p) n k = λk k k! e λ Beweis: Wir setzten n p = λ bzw. p = λ n und erhalten lim n ( ) n p k ( p) n k = lim k n ( n k ) ( λ n Für den dritten und vierten Faktor gilt sicher: ( lim λ ) n n n = e λ Weiterhin: lim n ( n k ) ( λ n lim n ) k = lim n = λk k! = λk k! = λk k! ( λ n) k = n! k!(n k)! lim n lim n λ k n k ) k ( λ ) n ( λ ) k n n n! (n k)! n k n (n ) (n ) (n k + ) n n n n Zusammen folgt die Behauptung. In der Praxis verwendet man diesen Grenzwertsatz zur näherungsweisen Berechnung der Einzelwahrscheinlichkeiten der Binomialverteilung bei grossem n und kleinem p. Praktische Approximationsregel Für grosse n und kleine p gilt für λ = n p f Bi (x; n, p) = ( ) n p k ( p) n k k λk k! e λ

19 9 6 Übungsaufgaben. X,..., X n seien unabhängige, identisch verteilte Zufallsvariablen mit Erwartungswert µ und Varianz σ. Weiter werden die Zufallsvariablen X = X n i und Z i = X i µ σ betrachtet. (a) Bestimmen Sie den Erwartungswert von X. (b) Bestimmen Sie die Varianz von X. (c) Bestimmen Sie den Erwartungswert von Z i. (d) Bestimmen Sie die Varianz von Z i.. X,..., X n seien unabhängige, identisch verteilte Zufallsvariablen mit Erwartungswert µ und Varianz σ. Wie lauten die Grenzverteilungen (n ) der beiden Zufallsvariablen X i und X i? n 3. Ein Zufallsexperiment, in dem ein Ereignis A mit Wahrscheinlichkeit p = 0.5 eintritt, wird n-mal wiederholt. Wie gross muss n sein, so dass mit Wahrscheinlichkeit α = 0.99 (Sicherheitswahrscheinlichkeit) die absolute Abweichung der relativen Häufigkeit X n von p höchstens 0. ist? 4. Bestimmen Sie approximativ die Zahlen P = P = P 3 = 00 ( ) ( ) k ( ) 500 k 500 3, k 4 4 k=0 0 ( ) ( ) k ( ) 500 k 500 3, k 4 4 k=00 60 ( ) ( ) k ( ) 500 k k 4 4 k=0 5. Die Wahrscheinlichkeit, dass ein Brennelement in einem Kernreaktor den Bedingungen einer Qualitätsprüfung nicht genügt, beträgt p = Wie gross ist die Wahrscheinlichkeit, dass höchstens von 5000, genau eins von 000 bzw. keines von 00 dieser Brennelemente die Qualitätsbedingungen nicht erfüllen? Rechnen Sie exakt und mit Hilfe der Poissonapproximation.

20 0 Lösungen einiger Übungsaufgaben. (a) µ, (b) σ n, (c) 0, (d). X i N(nµ, nσ ) und n Xi N(µ, σ /n) für n 3. n Die exakten Werte sind P = , P = und P 3 = Die Werte, die man über die Approximation mittels Normalverteilung erhält sind P = 0.006, P = 0.39 und P 3 = n = 5000, P (X ) = n = 000, P (X = ) = n = 00, P (X = 0) = 0.980