Zentraler Grenzwertsatz

Transkript

1 Statistik 2 für SoziologInnen Zentraler Grenzwertsatz Univ.Prof. Dr. Marcus Hudec Statistik für SoziologInnen 1 Zentraler Grenzwertsatz

2 Inhalte Themen dieses Kapitels sind: Der zentrale Grenzwertsatz und seine Bedeutung für die angewandte Statistik Standardfehler versus Standardabweichung Simulation von Stichprobenziehungen und Anwendungsbeispiele aus der empirischen Sozialforschung Das Gesetz der großen Zahl Die Approximation der Binomialverteilung durch die Normalverteilung (Grenzwertsatz von Moivre Laplace) Statistik für SoziologInnen 2 Zentraler Grenzwertsatz

3 Zentraler Grenzwertsatz Die Normalverteilung verdankt ihre universelle theoretische und praktische Bedeutung dem zentralen Grenzwertsatz. Unabhängig von der konkreten Ausgangsverteilung konvergiert nämlich die Verteilungsfunktion einer Summe gegen die Normalverteilung. (sehr grob formuliert) Ist die Anzahl der Summanden (n) hinreichend groß, so kann in der Praxis die Verteilung einer Summe durch die Normalverteilung approximiert werden. Die Frage, ab wann n hinreichend groß ist, hängt von der gewünschten Genauigkeit und der Form der Ausgangsverteilung ab. Statistik für SoziologInnen 3 Zentraler Grenzwertsatz

4 Verteilung von Summen Beispiel: Würfelwurf Frage: Wie verhält sich die Verteilung der Augensumme von x-würfeln bei wachsendem n? Zur Beantwortung führen wir ein Simulationsexperiment durch. 6 Würfe mit 1 Würfel 6 Würfe mit 2 Würfel 6 Würfe mit 3 Würfel etc. Statistik für SoziologInnen 4 Zentraler Grenzwertsatz

5 Augensumme von 1 Wuerfel - n= x Wahrscheinlichkeitsfunktion der Augensumme Statistik für SoziologInnen 5 Zentraler Grenzwertsatz

11 Zentraler Grenzwertsatz Seien X 1, X 2,..., X n identisch verteilte, unabhängige Zufallsvariablen mit E(X i ) = und V(X i ) = ²> Dann gilt für die Verteilung Summe S n = X 1 + X X n Erwartungswert E(S n ) = n und Varianz V(S n ) = n ². Statistik für SoziologInnen 11 Zentraler Grenzwertsatz

12 Zentraler Grenzwertsatz Seien X 1, X 2,..., X n identisch verteilte, unabhängige Zufallsvariablen mit E(X i ) = und V(X i ) = ²> Dann konvergiert die Verteilung der standardisierten Summe Xi n Zn n 2 mit wachsendem n gegen eine Normalverteilung mit Erwartungswert E(Z n ) = und Varianz V(Z n ) = 1. Z n ~ N(, 1²) Statistik für SoziologInnen 12 Zentraler Grenzwertsatz

13 Simulation.xls Theoretische Verteilung: Eine Simulation Wiederholte Simulationen Verteilung der Summe X Prob(X=x) Prob(X x) Index Zufallszahl Nachfrage Index Summe Bereich Häufigkeit Theorie,4,4 1, bis 62, 1,3,7 2, bis 67,2 2,2,9 3, bis 72 1,2 3,1 1 4, bis ,6 5, bis ,9 Empirischische Verteilung: 6, bis ,8 X Anzahl Rel. Häuf. 7, bis ,5 34,34 8, bis ,3 1 29,29 9, bis ,7 2 19,19 1, bis ,3 3 18,18 11, bis ,5 1 12, bis ,8 Summe: , bis ,9 14, bis ,6 15, bis ,2 16, bis 137,2 17, bis 142, 18, bis 147, 19, bis 152, 2, bis 157, 21, bis 162 2,12847E 6, , Prob(X=x) 23, Häufigkeit der Summe 24, Rel. Häuf ,4 Theorie 25, , ,3 27, , , ,2 3, , ,1 32, , , , , bis36 bis bis bis bis 96 bis bis bis bis bis bis bis bis bis bis bis bis bis bis bis bis 37, , Statistik für SoziologInnen 13 Zentraler Grenzwertsatz

14 Erkenntnis Wir haben ein Merkmal, das eindeutig nicht normalverteilt ist. Wenn wir viele Stichproben ziehen und uns dabei von jeder Stichprobe die Merkmalsumme merken, beobachten wir, dass die Verteilung der Mittelwerte sich sehr gut an eine Normalverteilung annähert. Statistik für SoziologInnen 14 Zentraler Grenzwertsatz

15 Beispiel Wahrscheinlichkeitsfunktion für die Anzahl der Verkäufe pro Tag eines bestimmten Produkts sei,5 bekannt,4 X 1 2 3,3,2 Prob,4,3,2,1,1 Wie ist die Anzahl der Verkäufe pro 1 Tage (X1) verteilt, wenn die einzelnen Verkaufstage als unabhängig angesehen werden können? Wie groß ist die Wahrscheinlichkeit, dass X1 > 12 ist? X1=X 1 +X X Statistik für SoziologInnen 15 Zentraler Grenzwertsatz

16 Beispiel (Fortsetzung) X Prob,4,3,2,1 X*Prob,3,4,3 ==> E(X)=1 X²*Prob,3,8,9 ==> E(X²)=2 V(X) = 2-1² = 1 E(X1)=1 V(X1)=1 X1~N(1, 1) z.b.: P(X1>12) = 1-F N ((12-1)/1) = 1-F N (2)=,23 Statistik für SoziologInnen 16 Zentraler Grenzwertsatz

17 Beispiel (Fortsetzung) Wie lautet das zentrale Schwankungsintervall, für das gilt, dass der Verkauf an 1 Tagen mit einer Wahrscheinlichkeit von 5% in diesem Intervall zu liegen kommt? P(x u <X1<x o )=,5 P(z,25 <(X1-1)/1<z,75 )=,5 P(-,674<(X1-1)/1<,674)=,5 P(93,26<X<16,74)=,5 93,26,5 16,74 Statistik für SoziologInnen 17 Zentraler Grenzwertsatz

18 Anwendung des zentralen Grenzwertsatzes auf Mittelwert Seien X 1, X 2,..., X n identisch verteilte, unabhängige Zufallsvariablen mit E(X i ) = und V(X i ) = ²> Dann gilt für die Verteilung des arithmetischen Mittels x n = 1/n(X 1 + X X n ) Erwartungswert E(x n ) = und Varianz V(x n ) = ²/n. i) Auch das arithmetisch Mittel ist der Stichprobe ist eine Zufallsvariable ii) Die Standardabweichung des arithm. Mittels wird auch Standardfehler bezeichnet Statistik für SoziologInnen 18 Zentraler Grenzwertsatz

19 Anwendung des zentralen Grenzwertsatzes auf Mittelwert Seien X 1, X 2,..., X n identisch verteilte, unabhängige Zufallsvariablen mit E(X i ) = und V(X i ) = ²> Dann konvergiert die Verteilung des standardisierten Mittelwertes 1 X n i x Zn 2 2 / n / n mit wachsendem n gegen eine Normalverteilung mit Erwartungswert E(Z n ) = und Varianz V(Z n ) = 1. Z n ~ N(, 1²) Statistik für SoziologInnen 19 Zentraler Grenzwertsatz

20 Standardfehler Die Varianz bzw. die Standardabweichung des arithmetischen Mittels ergibt sich also durch: 2 2 x / 2 / n / x n n Der Mittelwert schwankt weniger stark als die Einzelwerte Die Standardabweichung des Mittelwertes wird auch als Standardfehler (standard error) bezeichnet. Wurzel-n Gesetz: Doppelte Genauigkeit benötigt vierfachen Stichprobenumfang! Statistik für SoziologInnen 2 Zentraler Grenzwertsatz

21 Standard Error.xls Scorewerte zwischen und 1 bei n=1 Personen gemessen Arithmetisches Mittel 49,6 Standardabweichung 31,8 Drücken Sie F9 für eine neue Stichprobenziehung Wir ziehen 1 mal eine zufällige Stichprobe von 9 Beobachtungen Sample 1 Sample 2 Sample 3 Sample 4 Sample 5 Sample 6 Sample 7 Sample 8 Sample 9 Sample arithm. Mittel 22,9 49,7 57,2 46,7 29,1 47,6 5,4 33,8 5,6 56,1 Standardfehler 1,6 Std.Abw. der 1 Stichprobenmittelwerte 11,1 Statistik für SoziologInnen 21 Zentraler Grenzwertsatz

22 Beispiel: Analyse der Grundgesamtheit (1) Canadian Survey of Labour and Income Dynamics Stundenlohn von n = Angestellten Min st Qu Median 14.9 Mean rd Qu Max Frequency Lohn Statistik für SoziologInnen 22 Zentraler Grenzwertsatz

23 Beispiel: Analyse der Grundgesamtheit (2) Var(Lohn) = 62,14 Std.Abw.(Lohn) = 7,88 VC = 5,7% Gedanken-Experiment: Angenommen anstelle der Gesamtheit hätten wir nur eine Stichprobe des Umfangs von n=1 Was könnten wir daraus über den Durchschnittslohn lernen? Statistik für SoziologInnen 23 Zentraler Grenzwertsatz

24 Eine konkrete Stichprobe sample(lohn, 1) Mean = Wir haben für die Stichprobe zufällig n=1 von Personen ausgewählt. Der Stichprobenmittelwert liegt rund 1$ über dem wahren Mittelwert. Offensichtlich waren in dieser konkreten Stichprobe gut verdienende Personen eher überrepräsentiert. Was würde nun passieren, wenn wir nicht eine Stichprobe sondern viele verschiedene Stichproben ziehen würden? Wir bekommen dann natürlich viele verschiedene Stichprobenmittelwerte! Statistik für SoziologInnen 24 Zentraler Grenzwertsatz

25 Wiederholte Stichproben In der Folge betrachten wir 1. zufällige Stichproben vom Umfang n=1. Jeder dieser Stichproben liefert natürlich im allgemeinen einen individuellen Wert für den Durchschnittslohn. Aus der Analyse dieser 1. verschiedenen Schätzwerte für den Durchschnittslohn können wir allgemeine Eigenschaften erkennen, die die zuvor dargestellten theoretischen Ergebnisse bestätigen und transparent machen. In der Praxis liegt natürlich nur eine Stichprobe vor, weshalb wir uns auf die Theorie verlassen müssen! Statistik für SoziologInnen 25 Zentraler Grenzwertsatz

26 Analyse von 1. Stichproben mit Umfang n=1 Density Histogramm der 1. Mittelwerte smx Min Mean Max Var.6 Stand.Abw..77 Die Standard-Abweichung der Mittelwerte bezeichnen wir als Standardfehler. Er quantifiziert wie genau wir mit einer Stichprobe von n Elementen liegen! Im Beispiel gilt n=1 Statistik für SoziologInnen 26 Zentraler Grenzwertsatz

27 Analyse von 1. Stichproben mit Umfang n=1 Im Durchschnitt treffen wir mit unseren 1. Stichproben den unbekannten Durchschnittslohn der Gesamtheit (15,55) mit 15,53 sehr genau. ( Erwartungstreue) Im Einzelfall einer Stichprobe können wir aber auch deutlich daneben liegen (13,37 bis 18,77), daher sollten wir bei einer Stichprobe nicht einfach nur den Mittelwert kommunizieren, sondern auch die Unsicherheit aufgrund der Tatsache, dass es sich um ein Stichprobenergebnis handelt. Die Verteilung der arithmetischen Mittelwerte entspricht einer Normalverteilung. Die Standard-Abweichung der Mittelwerte (,77) bezeichnen wir als Standardfehler. Er erlaubt uns zu quantifizieren, wie genau wir mit einer Stichprobe von n Elementen liegen. Beachte: die Standard-Abweichung der Einzelwerte beträgt Die Formel für den Standardfehler ist die Standard-Abweichung der Einzelwerte dividiert durch die Wurzel aus dem Stichprobenumfang 7,78/Wurzel(1)=,778 was sehr nahe an unserem Wert liegt Statistik für SoziologInnen 27 Zentraler Grenzwertsatz

28 Beispiel Das mittlere Haushaltseinkommen in einer Stadt betrage 32.6,- mit einer Standardabweichung von 6.2,-. Für eine empirische Untersuchung wird eine Zufallsstichprobe von n=4 Haushalten gezogen. Wie hoch ist die Wahrscheinlichkeit, in der Stichprobe ein mittleres Jahreseinkommen von weniger als 32.,- zu beobachten? x4 ~ N(32.6;6.2² / 4) Ex ( ) 32.6 Vx ( ) 6.2² / x Px ( 4 32.) ( ) ( 1,935), Beachte: Einkommen sind typischerweise rechtsschief verteilt, dennoch können wir unter der Annahme von n identisch verteilten unabhängigen Realisierungen einer ZV für das arithmetische Mittel die Normalverteilung heranziehen Statistik für SoziologInnen 28 Zentraler Grenzwertsatz

29 Beispiel Wie hoch ist die Wahrscheinlichkeit, in der Stichprobe von n=4 Haushalten ein mittleres Jahreseinkommen zu beobachten, dass nur um 5 vom wahren Wert in der Grundgesamtheit abweicht? [- also zwischen 32.1,- und 33.1,- zu liegen kommt] x 4 ~ N(32.6;6.2² / 4) Ex ( ) 32.6 Vx ( ) 6.2² / x P(32.1 x4 33.1) ( ) ( ) (1,613) ( 1,613),893 Statistik für SoziologInnen 29 Zentraler Grenzwertsatz

30 Beispiel Wie hoch ist die Wahrscheinlichkeit, in der Stichprobe von n=4 Haushalten ein mittleres Jahreseinkommen zu beobachten, dass nur um 25 vom wahren Wert in der Grundgesamtheit abweicht? [- also zwischen 32.35,- und 32.85,- zu liegen kommt] x 4 N(32.6;6.2² / 4) Ex ( ) 32.6 Vx ( ) 6.2² / x P(32.35 x ) ( ) ( ) (,86) (,86),58 Statistik für SoziologInnen 3 Zentraler Grenzwertsatz

31 Statistik für SoziologInnen 31 Zentraler Grenzwertsatz

32 Grenzwertsatz von De Moivre und Laplace Falls X binomialverteilt ist mit den Parametern n und p [es sei also X~Bi(n, p)] so gilt: X n p np ( 1 p) N(,) 1 Beachte E(X) = n. p und V(X) = n. p. (1-p) Die Güte der Anpassung hängt dabei von n und p ab. (Wenn p nahe 1/2 und n möglichst groß ist, so steigt die Güte) Faustregel: np>1 und n(1-p)>1 Statistik für SoziologInnen 32 Zentraler Grenzwertsatz

33 n= 1 p= x Statistik für SoziologInnen 33 Zentraler Grenzwertsatz

34 Im Vergleich zum vorherigen Bild hat sich die Anpassung verbessert. n= 2 p= Statistik für SoziologInnen 34 Zentraler Grenzwertsatz

35 Im Vergleich zum vorherigen Bild hat sich die Anpassung wieder verschlechtert. n= 2 p= Statistik für SoziologInnen 35 Zentraler Grenzwertsatz

36 n= 1 p= Sehr gute Anpassung Statistik für SoziologInnen 36 Zentraler Grenzwertsatz

37 Beispiel: Prognose des Rücklaufs Bei einer bestimmten schriftlichen Befragung weiß man aus Erfahrung, dass etwa 2% der Befragten tatsächlich antworten. Es werden n=5. Fragebogen versandt. X sei die Anzahl der Antworter E(X) = 5.*,2 = 1. Var(X)=5.*,2*,8 = 8 X~N(1., 8) Std.Abw. =28 Mehr als 1. Antworten: P(X>1.) =,5 Mehr als 1.2 Antworten: P(X>1.2) =, 95% Intervall für die Anzahl der zu erwartenden Antworten: P(1-1,96*28<X<1+1,96*28) =,95 P(945<X<155) =,95 Statistik für SoziologInnen 37 Zentraler Grenzwertsatz

38 n= 5 p=.2 n= 5 p=.2 y y x x Statistik für SoziologInnen 38 Zentraler Grenzwertsatz

39 y n= 5 p=.2 y n= 5 p= x x Statistik für SoziologInnen 39 Zentraler Grenzwertsatz

40 n= 5 p=.2 n= 5 p= y x Statistik für SoziologInnen 4 Zentraler Grenzwertsatz y x

41 n= 5 p=.2 n= 5 p= y x Statistik für SoziologInnen 41 Zentraler Grenzwertsatz y x

42 Stetigkeitskorrektur Bei der Approximation der Binomialverteilung (diskrete ZV) durch die Normalverteilung (stetige ZV) ist eine Stetigkeitskorrektur (Kontinuitätskorrektur) zu berücksichtigen. Die diskrete P(X=x) entspricht im stetigen Fall P(X<x+,5) - P(X<x-,5) P( X bzw. P( X x,5 np x,5 np x) np(1 p) np(1 p) x,5 np x) np(1 p) Statistik für SoziologInnen 42 Zentraler Grenzwertsatz

43 Beispiel: In einer Bevölkerung sind 6% der Bürger für die Einführung eines neuen Gesetzes. Wie wahrscheinlich ist es, genau 5 Befürworter in einer Stichprobe vom Umfang n=1 zu haben? Binomialverteilung PX ( ) *, *,, Normalverteilung PX ( 5) ( 1939, ) ( 2, 143), 262, 16, 12 Statistik für SoziologInnen 43 Zentraler Grenzwertsatz

44 Beispiel: In einer Bevölkerung sind 6% der Bürger für die Einführung eines neuen Gesetzes. Wie groß ist die Wahrscheinlichkeit, dass sich in einer Stichprobe von 1 (1) Personen, weniger als 5 (5) Befürworter des Gesetzes finden? a) Binomialverteilung mit n=1 und p=.6 P(X<5)=P(X=) + P(X=1) P(X=4)= =.166 (Exaktes Ergebnis durch Einsetzen in die Formel der Binomialverteilung) Statistik für SoziologInnen 44 Zentraler Grenzwertsatz

45 Beispiel: b) Bei einer Stichprobe von n=1 gibt es 2 Lösungswege: b1) Einsetzen in die Formel der Binomialverteilung mit n=1 und p=.6 P(X<5)=P(X=) + P(X=1) P(X=49)=.168 b2) Approximation durch Normalverteilung X~N(6; 24) n.p=1*,6=6 n.p.(1-p)=6*,4=24 Wurzel(n.p.(1-p))=4,899 P(X 49) = F N ((49+,5-6)/4,899)= F N (-2,14)=,16 Statistik für SoziologInnen 45 Zentraler Grenzwertsatz

46 ,3,3,25,25,2,2,15,15,1,1,5, , Normalverteilung Binomialverteilung Anzahl Prob. kum. Prob. Anzahl kum. Prob. 49,,68,168 49,,124 49,5,16 5,,13,271 5,,26 Statistik für SoziologInnen 46 Zentraler Grenzwertsatz

47 Gesetz der großen Zahlen Eng verwandt mit dem zentralen Grenzwertsatz ist, das Gesetz der großen Zahl Das schwache Gesetz der großen Zahlen lautet: Px ( ) für n n Vereinfacht formuliert bedeutet das Gesetz der großen Zahlen, dass mit wachsendem n (Stichprobenumfang), die Wahrscheinlichkeit für eine Abweichung des Stichprobenmittelwertes vom Erwartungswert der Grundgesamtheit ( ), welche absolut größer als ist, gegen null geht. Statistik für SoziologInnen 47 Zentraler Grenzwertsatz

48 Beispiel: Die durchschnittliche Lottozahl Beim Lotto 6 aus 45 werden die Zahlen 1-45 gleichverteilt gezogen. Der Mittelwert einer Ziehung liegt theoretisch bei 23 [(45+1)/2] Bei einzelnen Ziehungen schwankt dieser Mittelwert deutlich. Der Mittelwert über alle 9 Ziehungen des Jahres 23 beträgt 23,7. Der Mittelwert über alle 1218 Ziehungen beträgt 23,9. LOTTO Zahlen 23 Datum Rd Zahlen Mittelwert 1.1. Mi , So , Mi , So , Mi , So , Mi , So , Mi , So , Mi , 9.2. So , Mi , So , Mi ,17 Statistik für SoziologInnen 48 Zentraler Grenzwertsatz

49 Bernoullis Gesetz der großen Zahlen Überträgt man das schwache Gesetz der großen Zahlen auf die n-malige Durchführung eines Bernouilli-Experimentes mit konstanter Wahrscheinlichkeit p, dann gilt für die relative Häufigkeit f n : P( f p ) für n n Vereinfacht formuliert bedeutet dies, dass mit wachsendem n (Stichprobenumfang), die Wahrscheinlichkeit für eine Abweichung der relativen Häufigkeit von der konstanten Erfolgswahrscheinlichkeit, welche absolut größer als ist, gegen null geht. Statistik für SoziologInnen 49 Zentraler Grenzwertsatz

50 Gesetz der großen Zahlen Das Gesetz der großen Zahlen besagt, dass sich die relative Häufigkeit der Erfolge bei Wiederholung eines Bernoulli-Zufallsexperiments immer weiter an die theoretisch erwartete Erfolgswahrscheinlichkeit p annähert, je häufiger das Zufallsexperiment durchgeführt wird. Beachte: Dies gilt nicht für die absolute Anzahl der Erfolge! Sei X n die Anzahl der Erfolge bei n unabhängigen Wiederholungen, so gilt V(X n )=n.p.(1-p). Sei f n die relative Häufigkeit der Erfolge bei n unabhängigen Wiederholungen, so gilt f n =X n /n V(f n )=p.(1-p)/n Statistik für SoziologInnen 5 Zentraler Grenzwertsatz

51 Kein absoluter Ausgleich Entwicklung des Anteils der Erfolge 7,% 65,% 6,% 55,% 5,% 45,% Die Schwankungsbreite für die absolute Abweichung nimmt beständig zu. 4,% 35,% beobachteter Anteil UG ANTEIL OG ANTEIL 6 Entwicklung der Anzahl der Erfolge 3,% Die relative Häufigkeit wird immer genauer. Anzahl der Erfolge beobachtete Anzahl UG ANZAHL OG ANZAHL ERWARTUNG Anzahl der Münzwürfe Statistik für SoziologInnen 51 Zentraler Grenzwertsatz

52 ,5 5, 4,,25 3, 2, 1,,, -1, -,25-2, -3, relative Abweichung absolute Abweichung -4, -,5-5, Statistik für SoziologInnen 52 Zentraler Grenzwertsatz

53 Was wir uns merken sollten Summen und Mittelwerte sind aufgrund des zentralen Grenzwertsatzes normalverteilt Der Standardfehler (Standardabweichung des Mittelwertes) ist die Standardabweichung der Einzelwerte dividiert durch die Wurzel des Stichprobenumfangs Das Gesetz der großen Zahl gilt für relative Häufigkeiten nicht für absolute Häufigkeiten Falls np>1 und n(1-p)>1 kann die Binomialverteilung durch die Normalverteilung approximiert werden (beachte die Stetigkeitskorrektur) Statistik für SoziologInnen 53 Zentraler Grenzwertsatz