Zentraler Grenzwertsatz

Transkript

1 Statistik 2 für SoziologInnen Zentraler Grenzwertsatz Univ.Prof. Dr. Marcus Hudec Statistik für SoziologInnen 1 Zentraler Grenzwertsatz Inhalte Themen dieses Kapitels sind: Der zentrale Grenzwertsatz und seine Bedeutung für die angewandte Statistik Standardfehler versus Standardabweichung Simulation von Stichprobenziehungen und Anwendungsbeispiele aus der empirischen Sozialforschung Das Gesetz der großen Zahl Die Approimation der Binomialverteilung durch die Normalverteilung (Grenzwertsatz von Moivre Laplace) Statistik für SoziologInnen 2 Zentraler Grenzwertsatz

2 Zentraler Grenzwertsatz Die Normalverteilung verdankt ihre universelle theoretische und praktische Bedeutung dem zentralen Grenzwertsatz. Unabhängig von der konkreten Ausgangsverteilung konvergiert nämlich die Verteilungsfunktion einer Summe gegen die Normalverteilung. (sehr grob formuliert) Ist die Anzahl der Summanden (n) hinreichend groß, so kann in der Prais die Verteilung einer Summe durch die Normalverteilung approimiert werden. Die Frage, ab wann n hinreichend groß ist, hängt von der gewünschten Genauigkeit und der Form der Ausgangsverteilung ab. Statistik für SoziologInnen 3 Zentraler Grenzwertsatz Verteilung von Summen Beispiel: Würfelwurf Frage: Wie verhält sich die Verteilung der Augensumme von -Würfeln bei wachsendem n? Zur Beantwortung führen wir ein Simulationseperiment durch. 6 Würfe mit 1 Würfel 6 Würfe mit 2 Würfel 6 Würfe mit 3 Würfel etc. Statistik für SoziologInnen 4 Zentraler Grenzwertsatz

3 Augensumme von 1 Wuerfel - n= Wahrscheinlichkeitsfunktion der Augensumme Statistik für SoziologInnen 5 Zentraler Grenzwertsatz Augensumme von 2 Wuerfel - n= Wahrscheinlichkeitsfunktion der Augensumme Statistik für SoziologInnen 6 Zentraler Grenzwertsatz

6 Zentraler Grenzwertsatz Seien X 1, X 2,..., X n identisch verteilte, unabhängige Zufallsvariablen mit E(X i ) = und V(X i ) = ²> Dann gilt für die Verteilung Summe S n = X 1 + X X n Erwartungswert E(S n ) = n und Varianz V(S n ) = n ². Statistik für SoziologInnen 11 Zentraler Grenzwertsatz Zentraler Grenzwertsatz Seien X 1, X 2,..., X n identisch verteilte, unabhängige Zufallsvariablen mit E(X i ) = und V(X i ) = ²> Dann konvergiert die Verteilung der standardisierten Summe X n i Z n n 2 mit wachsendem n gegen eine Normalverteilung mit Erwartungswert E(Z n ) = und Varianz V(Z n ) = 1. Z n ~ N(, 1²) Statistik für SoziologInnen 12 Zentraler Grenzwertsatz

7 Beispiel Wahrscheinlichkeitsfunktion für die Anzahl der Verkäufe pro Tag eines bestimmten Produkts sei,5 bekannt,4 X 1 2 3,3,2 Prob,4,3,2,1,1 Wie ist die Anzahl der Verkäufe pro 1 Tage (X1) verteilt, wenn die einzelnen Verkaufstage als unabhängig angesehen werden können? Wie groß ist die Wahrscheinlichkeit, dass X1 > 12 ist? X1=X 1 +X X Statistik für SoziologInnen 13 Zentraler Grenzwertsatz Beispiel (Fortsetzung) X Prob,4,3,2,1 X*Prob,3,4,3 ==> E(X)=1 X²*Prob,3,8,9 ==> E(X²)=2 V(X) = 2-1² = 1 E(X1)=1 V(X1)=1 X1~N(1, 1) z.b.: P(X1>12) = 1-F N ((12-1)/1) = 1-F N (2)=,23 Statistik für SoziologInnen 14 Zentraler Grenzwertsatz

8 Simulation.ls Theoretische Verteilung: Eine Simulation Wiederholte Simulationen Verteilung der Summe X Prob(X=) Prob(X ) Inde Zufallszahl Nachfrage Inde Summe Bereich Häufigkeit Theorie,4,4 1, bis 62, 1,3,7 2, bis 67,2 2,2,9 3, bis 72 1,2 3,1 1 4, bis ,6 5, bis ,9 Empirischische Verteilung: 6, bis ,8 X Anzahl Rel. Häuf. 7, bis ,5 34,34 8, bis ,3 1 29,29 9, bis ,7 2 19,19 1, bis ,3 3 18,18 11, bis ,5 1 12, bis ,8 Summe: , bis ,9 14, bis ,6 15, bis ,2 16, bis 137,2 17, bis 142, 18, bis 147, 19, bis 152, 2, bis 157, 21, bis 162 2,12847E 6, , Prob(X=) 23, Häufigkeit der Summe 24, Rel. Häuf ,4 Theorie 25, , ,3 27, , , ,2 3, , , ,1 2 33, , , , bis36 bis bis bis bis 96 bis bis bis bis bis bis bis bis bis bis bis bis bis bis bis bis 37, , Statistik für SoziologInnen 15 Zentraler Grenzwertsatz Beispiel (Fortsetzung) Wie lautet das zentrale Schwankungsintervall, für das gilt, dass der Verkauf an 1 Tagen mit einer Wahrscheinlichkeit von 5% in diesem Intervall zu liegen kommt? P( u <X1< o )=,5 P(z,25 <(X1-1)/1<z,75 )=,5 P(-,674<(X1-1)/1<,674)=,5 P(93,26<X<16,74)=,5 93,26,5 16,74 Statistik für SoziologInnen 16 Zentraler Grenzwertsatz

9 Anwendung des zentralen Grenzwertsatzes auf Mittelwert Seien X 1, X 2,..., X n identisch verteilte, unabhängige Zufallsvariablen mit E(X i ) = und V(X i ) = ²> Dann gilt für die Verteilung des arithmetischen Mittels n = 1/n(X 1 + X X n ) Erwartungswert E( n ) = und Varianz V( n ) = ²/n. i) Auch das arithmetisch Mittel ist der Stichprobe ist eine Zufallsvariable ii) Die Standardabweichung des arithm. Mittels wird auch Standardfehler bezeichnet Statistik für SoziologInnen 17 Zentraler Grenzwertsatz Anwendung des zentralen Grenzwertsatzes auf Mittelwert Seien X 1, X 2,..., X n identisch verteilte, unabhängige Zufallsvariablen mit E(X i ) = und V(X i ) = ²> Dann konvergiert die Verteilung des standardisierten Mittelwertes 1 Xi n Zn 2 2 / n / n mit wachsendem n gegen eine Normalverteilung mit Erwartungswert E(Z n ) = und Varianz V(Z n ) = 1. Z n ~ N(, 1²) Statistik für SoziologInnen 18 Zentraler Grenzwertsatz

10 Standardfehler Die Varianz bzw. die Standardabweichung des arithmetischen Mittels ergibt sich also durch: / n / n / n Der Mittelwert schwankt weniger stark als die Einzelwerte Die Standardabweichung des Mittelwertes wird auch als Standardfehler (standard error) bezeichnet. Wurzel-n Gesetz: Doppelte Genauigkeit benötigt vierfachen Stichprobenumfang! Statistik für SoziologInnen 19 Zentraler Grenzwertsatz Standard Error.ls Scorewerte zwischen und 1 bei n=1 Personen gemessen Arithmetisches Mittel 49,6 Standardabweichung 31,8 Drücken Sie F9 für eine neue Stichprobenziehung Wir ziehen 1 mal eine zufällige Stichprobe von 9 Beobachtungen Sample 1 Sample 2 Sample 3 Sample 4 Sample 5 Sample 6 Sample 7 Sample 8 Sample 9 Sample arithm. Mittel 22,9 49,7 57,2 46,7 29,1 47,6 5,4 33,8 5,6 56,1 Standardfehler 1,6 Std.Abw. der 1 Stichprobenmittelwerte 11,1 Statistik für SoziologInnen 2 Zentraler Grenzwertsatz

11 Beispiel: Analyse der Grundgesamtheit (1) Canadian Survey of Labour and Income Dynamics Stundenlohn von n = Angestellten Min st Qu Median 14.9 Mean rd Qu Ma Frequency Lohn Statistik für SoziologInnen 21 Zentraler Grenzwertsatz Beispiel: Analyse der Grundgesamtheit (2) Var(Lohn) = 62,14 Std.Abw.(Lohn) = 7,88 VC = 5,7% Gedanken-Eperiment: Angenommen anstelle der Gesamtheit hätten wir nur eine Stichprobe des Umfangs von n=1 Was könnten wir daraus über den Durchschnittslohn lernen? Statistik für SoziologInnen 22 Zentraler Grenzwertsatz

12 Eine konkrete Stichprobe sample(lohn, 1) Mean = Wir haben für die Stichprobe zufällig n=1 von Personen ausgewählt. Der Stichprobenmittelwert liegt rund 1$ über dem wahren Mittelwert. Offensichtlich waren in dieser konkreten Stichprobe gut verdienende Personen eher überrepräsentiert. Was würde nun passieren, wenn wir nicht eine Stichprobe sondern viele verschiedene Stichproben ziehen würden? Wir bekommen dann natürlich viele verschiedene Stichprobenmittelwerte! Statistik für SoziologInnen 23 Zentraler Grenzwertsatz Wiederholte Stichproben In der Folge betrachten wir 1. zufällige Stichproben vom Umfang n=1. Jeder dieser Stichproben liefert natürlich im allgemeinen einen individuellen Wert für den Durchschnittslohn. Aus der Analyse dieser 1. verschiedenen Schätzwerte für den Durchschnittslohn können wir allgemeine Eigenschaften erkennen, die die zuvor dargestellten theoretischen Ergebnisse bestätigen und transparent machen. In der Prais liegt natürlich nur eine Stichprobe vor, weshalb wir uns auf die Theorie verlassen müssen! Statistik für SoziologInnen 24 Zentraler Grenzwertsatz

13 Analyse von 1. Stichproben mit Umfang n=1 Density Histogramm der 1. Mittelwerte Min Mean Ma Var.6 Stand.Abw sm Statistik für SoziologInnen 25 Zentraler Grenzwertsatz Analyse von 1. Stichproben mit Umfang n=1 Im Durchschnitt treffen wir mit unseren 1. Stichproben den unbekannten Durchschnittslohn der Gesamtheit (15,55) mit 15,53 sehr genau. ( Erwartungstreue) Im Einzelfall einer Stichprobe können wir aber auch deutlich daneben liegen (13,37 bis 18,77), daher sollten wir bei einer Stichprobe nicht einfach nur den Mittelwert kommunizieren, sondern auch die Unsicherheit aufgrund der Tatsache, dass es sich um ein Stichprobenergebnis handelt. Die Verteilung der arithmetischen Mittelwerte entspricht einer Normalverteilung. Die Standard-Abweichung der Mittelwerte (,77) bezeichnen wir als Standardfehler. Er erlaubt uns zu quantifizieren, wie genau wir mit einer Stichprobe von n Elementen liegen. Beachte: die Standard-Abweichung der Einzelwerte beträgt Die Formel für den Standardfehler ist die Standard-Abweichung der Einzelwerte dividiert durch die Wurzel aus dem Stichprobenumfang 7,78/Wurzel(1)=,778 was sehr nahe an unserem Wert liegt Statistik für SoziologInnen 26 Zentraler Grenzwertsatz

14 Beispiel Das mittlere Haushaltseinkommen in einer Stadt betrage 32.6,- mit einer Standardabweichung von 6.2,-. Für eine empirische Untersuchung wird eine Zufallsstichprobe von n=4 Haushalten gezogen. Wie hoch ist die Wahrscheinlichkeit, in der Stichprobe ein mittleres Jahreseinkommen von weniger als 32.,- zu beobachten? 4 ~ N(32.6;6.2² / 4) E ( ) 32.6 V ( ) 6.2² / P ( 4 32.) ( ) ( 1,935),26 31 Beachte: Einkommen sind typischerweise rechtsschief verteilt, dennoch können wir unter der Annahme von n identisch verteilten unabhängigen Realisierungen einer ZV für das arithmetische Mittel die Normalverteilung heranziehen Statistik für SoziologInnen 27 Zentraler Grenzwertsatz Beispiel Wie hoch ist die Wahrscheinlichkeit, in der Stichprobe von n=4 Haushalten ein mittleres Jahreseinkommen zu beobachten, dass nur um 5 vom wahren Wert in der Grundgesamtheit abweicht? [- also zwischen 32.1,- und 33.1,- zu liegen kommt] 4 ~ N(32.6;6.2² / 4) E ( ) 32.6 V ( ) 6.2² / P( ) ( ) ( ) (1,613) ( 1,613),893 Statistik für SoziologInnen 28 Zentraler Grenzwertsatz

15 Beispiel Wie hoch ist die Wahrscheinlichkeit, in der Stichprobe von n=4 Haushalten ein mittleres Jahreseinkommen zu beobachten, dass nur um 25 vom wahren Wert in der Grundgesamtheit abweicht? [- also zwischen 32.35,- und 32.85,- zu liegen kommt] 4 N(32.6;6.2² / 4) E ( ) 32.6 V ( ) 6.2² / P( ) ( ) ( ) (,86) (,86),58 Statistik für SoziologInnen 29 Zentraler Grenzwertsatz Statistik für SoziologInnen 3 Zentraler Grenzwertsatz

16 Gesetz der großen Zahlen Eng verwandt mit dem zentralen Grenzwertsatz ist, das Gesetz der großen Zahl Das schwache Gesetz der großen Zahlen lautet: P ( ) für n n Vereinfacht formuliert bedeutet das Gesetz der großen Zahlen, dass mit wachsendem n (Stichprobenumfang), die Wahrscheinlichkeit für eine Abweichung des Stichprobenmittelwertes vom Erwartungswert der Grundgesamtheit ( ), welche absolut größer als ist, gegen null geht. Statistik für SoziologInnen 31 Zentraler Grenzwertsatz Beispiel: Die durchschnittliche Lottozahl Beim Lotto 6 aus 45 werden die Zahlen 1-45 gleichverteilt gezogen. Der Mittelwert einer Ziehung liegt theoretisch bei 23 [(45+1)/2] Bei einzelnen Ziehungen schwankt dieser Mittelwert deutlich. Der Mittelwert über alle 9 Ziehungen des Jahres 23 beträgt 23,7. Der Mittelwert über alle 1218 Ziehungen beträgt 23,9. LOTTO Zahlen 23 Datum Rd Zahlen Mittelwert 1.1. Mi , So , Mi , So , Mi , So , Mi , So , Mi , So , Mi , 9.2. So , Mi , So , Mi ,17 Statistik für SoziologInnen 32 Zentraler Grenzwertsatz

17 Grenzwertsatz von De Moivre und Laplace Falls X binomialverteilt ist mit den Parametern n und p [es sei also X~Bi(n, p)] so gilt: X n p np ( 1 p) N(,) 1 Beachte E(X) = n. p und V(X) = n. p. (1-p) Die Güte der Anpassung hängt dabei von n und p ab. (Wenn p nahe 1/2 und n möglichst groß ist, so steigt die Güte) Faustregel: np>1 und n(1-p)>1 Statistik für SoziologInnen 33 Zentraler Grenzwertsatz n= 1 p= Statistik für SoziologInnen 34 Zentraler Grenzwertsatz

18 Im Vergleich zum vorherigen Bild hat sich die Anpassung verbessert. n= 2 p= Statistik für SoziologInnen 35 Zentraler Grenzwertsatz Im Vergleich zum vorherigen Bild hat sich die Anpassung wieder verschlechtert. n= 2 p= Statistik für SoziologInnen 36 Zentraler Grenzwertsatz

19 n= 1 p= Sehr gute Anpassung Statistik für SoziologInnen 37 Zentraler Grenzwertsatz Beispiel: Prognose des Rücklaufs Bei einer bestimmten schriftlichen Befragung weiß man aus Erfahrung, dass etwa 2% der Befragten tatsächlich antworten. Es werden n=5. Fragebogen versandt. X sei die Anzahl der Antworter E(X) = 5.*,2 = 1. Var(X)=5.*,2*,8 = 8 X~N(1., 8) Std.Abw. =28 Mehr als 1. Antworten: P(X>1.) =,5 Mehr als 1.2 Antworten: P(X>1.2) =, 95% Intervall für die Anzahl der zu erwartenden Antworten: P(1-1,96*28<X<1+1,96*28) =,95 P(945<X<155) =,95 Statistik für SoziologInnen 38 Zentraler Grenzwertsatz

20 y n= 5 p=.2 y n= 5 p= Statistik für SoziologInnen 39 Zentraler Grenzwertsatz y n= 5 p=.2 y n= 5 p= Statistik für SoziologInnen 4 Zentraler Grenzwertsatz

21 y n= 5 p=.2 y n= 5 p= Statistik für SoziologInnen 41 Zentraler Grenzwertsatz y n= 5 p=.2 y n= 5 p= Statistik für SoziologInnen 42 Zentraler Grenzwertsatz

22 Stetigkeitskorrektur Bei der Approimation der Binomialverteilung (diskrete ZV) durch die Normalverteilung (stetige ZV) ist eine Stetigkeitskorrektur (Kontinuitätskorrektur) zu berücksichtigen. Die diskrete P(X=) entspricht im stetigen Fall P(X<+,5) - P(X<-,5),5 np,5 np P( X ) np(1 p) np(1 p) bzw.,5 np P( X ) np(1 p) Statistik für SoziologInnen 43 Zentraler Grenzwertsatz Beispiel: In einer Bevölkerung sind 6% der Bürger für die Einführung eines neuen Gesetzes. Wie wahrscheinlich ist es, genau 5 Befürworter in einer Stichprobe vom Umfang n=1 zu haben? Binomialverteilung PX ( ) *, *,, Normalverteilung PX ( 5) ( 1939, ) ( 2, 143), 262, 16, 12 Statistik für SoziologInnen 44 Zentraler Grenzwertsatz

23 Beispiel: In einer Bevölkerung sind 6% der Bürger für die Einführung eines neuen Gesetzes. Wie groß ist die Wahrscheinlichkeit, dass sich in einer Stichprobe von 1 (1) Personen, weniger als 5 (5) Befürworter des Gesetzes finden? a) Binomialverteilung mit n=1 und p=.6 P(X<5)=P(X=) + P(X=1) P(X=4)= =.166 (Eaktes Ergebnis durch Einsetzen in die Formel der Binomialverteilung) Statistik für SoziologInnen 45 Zentraler Grenzwertsatz Beispiel: b) Bei einer Stichprobe von n=1 gibt es 2 Lösungswege: b1) Einsetzen in die Formel der Binomialverteilung mit n=1 und p=.6 P(X<5)=P(X=) + P(X=1) P(X=49)=.168 b2) Approimation durch Normalverteilung X~N(6; 24) n.p=1*,6=6 n.p.(1-p)=6*,4=24 Wurzel(n.p.(1-p))=4,899 P(X 49) = F N ((49+,5-6)/4,899)= F N (-2,14)=,16 Statistik für SoziologInnen 46 Zentraler Grenzwertsatz

24 ,3,3,25,25,2,2,15,15,1,1, ,5, Normalverteilung Binomialverteilung Anzahl Prob. kum. Prob. Anzahl kum. Prob. 49,,68,168 49,,124 49,5,16 5,,13,271 5,,26 Statistik für SoziologInnen 47 Zentraler Grenzwertsatz Bernoullis Gesetz der großen Zahlen Überträgt man das schwache Gesetz der großen Zahlen auf die n-malige Durchführung eines Bernouilli-Eperimentes mit konstanter Wahrscheinlichkeit p, dann gilt für die relative Häufigkeit f n : P( f p ) für n n Vereinfacht formuliert bedeutet dies, dass mit wachsendem n (Stichprobenumfang), die Wahrscheinlichkeit für eine Abweichung der relativen Häufigkeit von der konstanten Erfolgswahrscheinlichkeit, welche absolut größer als ist, gegen null geht. Statistik für SoziologInnen 48 Zentraler Grenzwertsatz

25 Gesetz der großen Zahlen Das Gesetz der großen Zahlen besagt, dass sich die relative Häufigkeit der Erfolge bei Wiederholung eines Bernoulli-Zufallseperiments immer weiter an die theoretisch erwartete Erfolgswahrscheinlichkeit p annähert, je häufiger das Zufallseperiment durchgeführt wird. Beachte: Dies gilt nicht für die absolute Anzahl der Erfolge! Sei X n die Anzahl der Erfolge bei n unabhängigen Wiederholungen, so gilt V(X n )=n.p.(1-p). Sei f n die relative Häufigkeit der Erfolge bei n unabhängigen Wiederholungen, so gilt f n =X n /n V(f n )=p.(1-p)/n Statistik für SoziologInnen 49 Zentraler Grenzwertsatz Kein absoluter Ausgleich Entwicklung des Anteils der Erfolge 7,% 65,% 6,% 55,% 5,% 45,% Die Schwankungsbreite für die absolute Abweichung nimmt beständig zu. 4,% 35,% beobachteter Anteil UG ANTEIL OG ANTEIL 6 Entwicklung der Anzahl der Erfolge 3,% Die relative Häufigkeit wird immer genauer. Anzahl der Erfolge beobachtete Anzahl UG ANZAHL OG ANZAHL ERWARTUNG Anzahl der Münzwürfe Statistik für SoziologInnen 5 Zentraler Grenzwertsatz

26 ,5 5, 4,,25 3, 2, 1,,, -1, -,25-2, -3, relative Abweichung absolute Abweichung -4, -,5-5, Statistik für SoziologInnen 51 Zentraler Grenzwertsatz Was wir uns merken sollten Summen und Mittelwerte sind aufgrund des zentralen Grenzwertsatzes normalverteilt Der Standardfehler (Standardabweichung des Mittelwertes) ist die Standardabweichung der Einzelwerte dividiert durch die Wurzel des Stichprobenumfangs Das Gesetz der großen Zahl gilt für relative Häufigkeiten nicht für absolute Häufigkeiten Falls np>1 und n(1-p)>1 kann die Binomialverteilung durch die Normalverteilung approimiert werden (beachte die Stetigkeitskorrektur) Statistik für SoziologInnen 52 Zentraler Grenzwertsatz