7. Grenzwertsätze. Dr. Antje Kiesel Institut für Angewandte Mathematik WS 2011/2012

Transkript

1 7. Grenzwertsätze Dr. Antje Kiesel Institut für Angewandte Mathematik WS 2011/2012

2 Mittelwerte von Zufallsvariablen Wir betrachten die arithmetischen Mittelwerte X n = 1 n (X 1 + X X n ) von unabhängigen Zufallsvariablen X 1, X 2,... Beipiel 1: Stichprobenmittelwerte X 1, X 2,... sind die beobachteten Ausprägungen X (ω i ) eines quantitativen Merkmals X bei Entnahme unabhängiger Einzelstichproben ω 1, ω 2,... aus der Grundgesamtheit (Ziehen mit Zurücklegen). X n ist dann das n-te Stichprobenmittel. Wir erwarten, daß für große n der Stichprobenmittelwert ungefähr gleich dem Mittelwert des Merkmals in der Grundgesamtheit ist, da sich Fluktuationen in verschiedene Richtungen wegmitteln sollten ( Gesetz der großen Zahlen). Außerdem interessiert uns die Größe und Art der zufälligen Fluktuationen von X n um den Prognosewert ( zentraler Grenzwertsatz).

3 X n = 1 n (X 1 + X X n ) Beipiel 2: Relative Häufigkeiten Wir beobachten die Ausprägungen Y (ω i ) eines qualitativen oder diskreten Merkmals Y. Uns interessiert die relative Häufigkeit h n (a) einer bestimmten Merkmalsausprägung a unter den ersten n Beobachtungswerten. Setzen wir dann ergibt sich X i = { 1, falls Y (ωi ) = a 0, falls Y (ω i ) = a, h n (a) = 1 n (X 1 + X X n ) }{{} = X n. Häufigkeit von a unter Y (ω 1 ),...,Y (ω n ) X n ist also gerade die gesuchte relative Häufigkeit. Ähnlich wie oben erwarten wir, daß X n für große n ungefähr gleich der W keit (=relative H keit in der Grundgesamtheit) der Merkmalsausprägung a ist.

4 Das Gesetz der großen Zahlen Theorem Sind X 1, X 2,... unabhängige Zufallsvariablen mit Erwartungswert m und Var(X i ) C für alle i, dann konvergieren die empirischen Mittelwerte X n = 1 n (X 1 + X X n ) für n im folgenden Sinne gegen m: Für jedes ε > 0 gilt: P [ X n m > ε ] 0 für n. Für große n gilt also mit hoher Wahrscheinlichkeit: X n m Der Zufall mittelt sich weg

5 Gesetz der großen Zahlen Beweis: Für eine vorgegebene Abweichung ε > 0 von Stichprobenmittel und Erwartungswert gilt P [ X n m > ε ] = P [ X n E [ X n ] > ε ] 1 ε 2 Var(X n) = 1 n 2 ε 2 (Var(X 1) + + Var(X n )) C ε 2 n 0 Dabei wurde im zweiten Schritt die Tschebyscheffsche Ungleichung verwendet.

6 Gesetz der großen Zahlen Beispiel: Mittlere Augenzahl bei n mal Würfeln:

7 Anwendung des Gesetzes der großen Zahlen auf relative Häufigkeiten Angewandt auf die relativen Häufigkeiten h n (a) einer Merkmalsausprägung a in n einzelnen Zufallsstichproben aus einer Grundgesamtheit besagt das Gesetz der großen Zahlen: Für große n gilt näherungsweise: h n (a) p. Dabei ist p die Wahrscheinlichkeit der Merkmalsausprägung a, also die relative Häufigkeit von a in der Grundgesamtheit.

8 Fluktuationen von Mittelwerten Die Größe der zufälligen Fluktuationen der Mittelwerte X n um den Erwartungswert m läßt sich mit Hilfe der Tschebyscheffschen Ungleichung nach oben abschätzen. Die so erhaltene Abschätzung ist aber sehr grob. Bessere Abschätzungen erhält man mit Hilfe des zentralen Grenzwertsatzes:

9 Der zentrale Grenzwertsatz Theorem Sind X 1, X 2,... unabhängige, identisch verteilte Zufallsvariablen mit Erwartungswert m und Varianz σ 2, dann gilt für große n näherungsweise: X n = 1 n (X 1 + X X n ) N ) (m, σ2 n Die Verteilung der Mittelwerte X n nähert sich also einer Normalverteilung an, die sich immer stärker in der Nähe des Erwartungswerts m konzentriert. Wie stark, hängt von der Varianz σ 2 der gemittelten Zufallsvariablen ab.

10 Anwendung des zentralen Grenzwertsatzes auf Stichprobenmittelwerte Für große n gilt näherungsweise: X n = 1 n (X 1 + X X n ) N Also ist die standardisierte Zufallsvariable Z n := n X n m σ (m, σ2 n ) näherungsweise standardnormalverteilt! Dies können wir benutzen, um abzuschätzen, wie stark das Stichprobenmittel vom zu schätzenden Erwartungswert m (=Mittelwert in der Grundgesamtheit) abweicht: P [ X n m ε ] [ = P Z n ε n ] σ ( ) ε n 2 Φ 1 σ

11 Anwendung des zentralen Grenzwertsatzes auf relative Häufigkeiten Die relative Häufigkeit h n (a) einer Ausprägung a eines Merkmals Y bei n unabhängigen Stichproben ist h n (a) = 1 n (X 1 + X X n ) = X n wobei die Zufallsvariablen X i = { 1, falls Y (ωi ) = a 0, falls Y (ω i ) = a unabhängig und Bernoulli(p) verteilt sind mit p=w keit von a. Aus dem zentralen Grenzwertsatz folgt daher für große n: h n (a) N ( p, p(1 p) n ) Dies ist nichts anderes als die Normalapproximation der binomialverteilten absoluten Häufigkeit.

12 Verallgemeinerungen des zentralen Grenzwertsatzes Der zentrale Grenzwertsatz in der Formulierung von oben läßt sich noch deutlich verallgemeinern. Eine wichtige Erweiterung ist der Satz von Lindeberg-Feller, dessen Aussage wir hier nur ganz grob anschaulich wiedergeben wollen: Zentraler Grenzwertsatz von Lindeberg-Feller: Ist X eine reelle Zufallsgröße, die durch additive Überlagerung vieler kleiner unabhängiger Zufallsgrößen X i entsteht (d.h. X = X i ), dann ist unter geeigneten Voraussetzungen (die wir nicht ausführen wollen) die standardisierte Zufallsvariable X E [X ] σ(x ) näherungsweise standardnormalverteilt.

13 Zentraler Grenzwertsatz von Lindeberg-Feller: Ist X eine reelle Zufallsgröße, die durch additive Überlagerung vieler kleiner unabhängiger Zufallsgrößen X i entsteht (d.h. X = X i ), dann ist unter geeigneten Voraussetzungen (die wir nicht ausführen wollen) die standardisierte Zufallsvariable X E [X ] σ(x ) näherungsweise standardnormalverteilt. Der Satz von Lindeberg-Feller liefert das theoretische Fundament für die häufige mathematische Modellierung von unbekannten Zufallsgrößen durch normalverteilte Zufallsvariablen (Gaußmodelle)!