Teil II. Der Weg zur schließenden Statistik: Von den Daten zu Wahrscheinlichkeiten. StatSoz 127

Transkript

1 Teil II Der Weg zur schließenden Statistik: Von den Daten zu Wahrscheinlichkeiten StatSoz 127

2 6 Zufallsstichprobe und Parameter 6.1 Parameter einer Grundgesamtheit 6.2 Zufallsstichprobe und Bias 6.3 Stichprobenfehler und Stichprobenverteilung des Mittelwertes 6.1 Parameter einer Grundgesamtheit Würde man alle Werte der Merkmalsträger einer Grundgesamtheit beobachten (Vollerhebung), so könnte man diese Daten mit deskriptiven Methoden (Häufigkeitsverteilung, statistische Maßzahlen) auswerten. Man bestimmt aber damit statistische Maßzahlen einer Population und nicht einer Stichprobe. Deshalb heißen sie Populations Mittelwert (µ), Populations Standardabweichung (σ), etc. StatSoz 128

3 Maßzahlen einer Population (Grundgesamtheit) werden als Parameter bezeichnet. Symbolisch werden sie üblicherweise durch griechische Buchstaben dargestellt. Bezeichnungen: N Anzahl der Merkmalsträger einer Grundgesamtheit y 1,..., y N Ausprägungen der von 1 bis N durchnummerierten Merkmalsträger n Stichprobenumfang x 1,..., x n Stichprobe Die wichtigsten Parameter und ihre empirischen Gegenstücke sind in der folgenden Tabelle zusammengefasst. StatSoz 129

4 Tabelle 6 1 Wichtige Parameter und ihre empirischen Gegenstücke Grundgesamtheit (Populations )Mittelwert Stichprobe (Daten) Stichprobenmittel µ = 1 N N j=1 y j x = 1 n n i=1 x i (Populations )Varianz Stichprobenvarianz σ 2 = 1 N N j=1 (y j µ) 2 s 2 = 1 n n 1 i=1 (x i x n ) 2 (Populations ) Stichproben Standardabweichung standardabweichung σ = σ 2 s = s 2 (Populations )Median Stichproben Median y ( N+1 ), N ungerade x 2 ( n+1 2 ), n ungerade ( y( N 2 ) + y ) ( ) ( N /2, 2 +1) x( n 2 ) + x ( n 2 +1) /2, N gerade n gerade StatSoz 130

5 Bemerkung: Zwischen Maßzahlen einer Stichprobe und Maßzahlen einer Population (den sogenannten Parametern) besteht ein wesentlicher gedanklicher Unterschied: Maßzahlen einer Population sind nicht variabel, sondern fest und daher vom,,zufall nicht beeinflussbar. Man bezeichnet sie auch als theoretische Maßzahlen (µ, σ,...) im Unterschied zu den empirischen Maßzahlen ( x, s,...), die sich auf eine Stichprobe beziehen. Mit,,theoretisch ist nicht gemeint, dass diese Zahlen nur theoretisch exisitieren; sie existieren real, sind aber meistens nicht bekannt und müssen durch empirische Untersuchungen bestimmt (,,geschätzt ) werden. Die Variabilität steckt in den Daten (Stichproben) und somit auch in den empirischen Kenngrößen! (vgl. Tab. 6 2 in Abschnitt 6.3) StatSoz 131

6 6.2 Zufallsstichprobe und Bias Um von einer Stichprobe auf Eigenschaften einer Grundgesamtheit schließen zu können, muss die Stichprobe eine darstellen. Zufallsauswahl Bei einer zufälligen Stichprobe darf man am ehesten annehmen, dass sie auch repräsentativ ist, die tatsächliche Situation in einer Grundgesamtheit also am besten widerspiegelt. Zufallsauswahl: Jeder Merkmalsträger gelangt mit einer berechenbaren Chance (Wahrscheinlichkeit) in die Stichprobe. Eine Zufallsauswahl ist keine willkürliche Auswahl. Die Merkmalsträger werden auch nicht bewusst (gezielt) gezogen. Auf keinen Fall darf StatSoz 132

7 das Auswahlprinzip im Zusammenhang mit dem zu untersuchenden Merkmal stehen! Grundlegende statistische Verfahren setzen einfache Stichproben voraus! Einfache Zufallsstichprobe (simple random sample) bedeutet 1. Uneingeschränktheit: Jeder Merkmalsträger besitzt die gleiche Chance (Wahrscheinlichkeit), in die Stichprobe aufgenommen zu werden. 2. Unabhängigkeit: Die Ziehungen erfolgen unabhängig. Die Wahrscheinlichkeit ausgewählt zu werden ist bei jeder Ziehung gleich. Bei homogenen Grundgesamtheiten erhält man uneingeschränkte Stichproben durch die beiden folgenden Auswahlmodelle: StatSoz 133

8 Ziehen mit Zurücklegen (sampling with replacement) Ziehen ohne Zurücklegen (sampling without replacement) Für beide Auswahlmodelle gilt: Die Chance eines Merkmalsträgers, in eine Stichprobe vom Umfang n aus einer Grundgesamtheit mit N Merkmalsträgern aufgenommen zu werden, beträgt n N Auswahlmodell,,Ziehen mit Zurücklegen : Nachteil: Mehrfachziehung eines Merkmalsträgers ist möglich. Vorteil: Unabhängigkeit, d. h.,,ziehen mit Zurücklegen führt zu einer einfachen Stichprobe. StatSoz 134

9 Bemerkung: Wenn die Grundgesamtheit im Verhältnis zum Stichprobenumfang sehr groß ist, wenn also N wesentlich größer als n ist (was in der Praxis überwiegend der Fall ist), so besteht zwischen,,ziehen mit Zurücklegen und,,ziehen ohne Zurücklegen kein bedeutender Unterschied. Eine durch,,ziehen ohne Zurücklegen resultierende (uneingeschränkte) Stichprobe lässt sich dann näherungsweise als eine einfache Stichprobe auffassen. In der Praxis wird eine durch,,ziehen ohne Zurücklegen gewonnene Stichprobe als einfach angesehen, falls folgende Faustregel erfüllt ist: n N 0.05 Der Quotient n/n heißt Auswahlsatz. StatSoz 135

10 Bias Das Schließen von einer Stichprobe auf eine Grundgesamtheit ist nur dann zulässig, wenn nur zufällige Fehler vorkommen (Stichprobenfehler). In diesem Fall gilt die Stichprobe als repräsentativ im Sinne von,,kein systematischer Fehler. Treten in einer Stichprobe systematische Fehler auf, werden Resultate bzw. statistische Aussagen als verfälscht, verzerrt (biased) bezeichnet. Systematische Fehler beeinflussen die Validität (Gültigkeit, Rechtskräftigkeit) statistischer Auswertungen. Zufällige Fehler hingegen beeinflussen wohl die Genauigkeit statistischer Ergebnisse und die daraus resultierenden Schlußfolgerungen, nicht aber deren Validität! StatSoz 136

11 Man unterscheidet drei allgemeine Kategorien von Bias Fehlern: Bias durch die Auswahl der Merkmalsträger in einer Stichprobe (sampling bias), wenn z. B. bestimmte Merkmalsträger eine größere Chance besitzen in die Stichprobe aufgenommen zu werden, Bias durch Vermengung, wenn einflussreiche Faktoren (Alter, Geschlecht, soziale Indikatoren) nicht berücksichtigt werden, Bias durch Falschinformation, verursacht etwa durch systematisch verfälschte Messungen oder Antworten bei Umfragen. Bemerkung: Bias Fehler können nur durch andere, vergleichende Untersuchungen entdeckt werden. StatSoz 137

12 6.3 Stichprobenfehler und Stichprobenverteilung des Mittelwertes Frage: Welcher Zusammenhang besteht zwischen dem Populations Mittelwert µ und dem Stichprobenmittel x? Eine Antwort auf diese Frage geben die folgenden Überlegungen: Hinweis: Es handelt sich im Folgenden um einen theoretischen Gedankengang ein Gedankenexperiment nicht um eine Anleitung zur praktischen Vorgehensweise. Erst aus diesen theoretischen Überlegungen heraus wird klar, warum theoretische Verteilungen ins Spiel kommen (müssen) und welche statistische Aussagen zu erwarten sind. Zunächst ein Zahlenbeispiel 6.1: StatSoz 138

13 Grundgesamtheit mit N = 5 Merkmalsträgern Einheit Wert A 2.2 B 2.0 C 1.6 D 2.4 E 1.8 Populations Mittelwert: µ = 1 5 ( ) = 2 Populations Varianz: σ 2 = 1 5 ((2.2 2) (1.8 2) 2) = 0.08 Betrachtet werden Zufallsstichproben vom Umfang n = 3. Auswahlprinzip ist,,ziehen ohne Zurücklegen. Es soll dabei nicht auf die Reihenfolge der Datenerhebung ankommen. Dann StatSoz 139

14 gibt es ( ) N n = ( ) 5 3 = 5! 2! 3! = 10 mögliche Stichproben. Tab. 6 2: Mögliche Stichproben vom Umfang 3 mit ihren Kennwerten x und s 2 Stichprobe Daten x s 2 Nr. 1: ABC 2.2, 2.0, 1.6 x 1 = 1.93 s 2 1 = Nr. 2: ABD 2.2, 2.0, 2.4 x 2 = 2.20 s 2 2 = Nr. 3: ABE 2.2, 2.0, 1.8 x 3 = 2.00 s 2 3 = Nr. 4: ACD 2.2, 1.6, 2.4 x 4 = 2.07 s 2 4 = Nr. 5: ACE 2.2, 1.6, 1.8 x 5 = 1.87 s 2 5 = Nr. 6: ADE 2.2, 2.4, 1.8 x 6 = 2.13 s 2 6 = Nr. 7: BCD 2.0, 1.6, 2.4 x 7 = 2.00 s 2 7 = Nr. 8: BCE 2.0, 1.6, 1.8 x 8 = 1.80 s 2 8 = Nr. 9: BDE 2.0, 2.4, 1.8 x 9 = 2.07 s 2 9 = Nr. 10 CDE 1.6, 2.4, 1.8 x 10 = 1.93 s 2 10 = StatSoz 140

15 Beachte: Es muss nicht x = µ sein. In den meisten Fällen wird x µ gelten. Im Zahlenbeispiel gilt für 2 (von insgesamt 10) Stichproben x = 2 = µ. Alle anderen Stichproben führen zu anderen Mittelwerten. Diese Abweichungen vom Populationsmittelwert µ = 2 sind rein zufälliger Natur, sind also ausschließlich auf die Variabilität der Daten zurückzuführen (Stichprobenfehler!). Bildet man in Bsp. 6.1 den Mittelwert über alle 10 Stichprobenmittelwerte, so gilt 1 10 ( ) = 2 = µ Dieser Zusammenhang gilt ganz allgemein: Sei ( ) N m = n die Anzahl der möglichen Stichproben vom Umfang n aus einer N elementigen Grundgesamt- StatSoz 141

16 heit (Ziehen ohne Zurücklegen, keine Berücksichtigung der Reihenfolge). Bezeichnen x 1,..., x m die Mittelwerte von Stichprobe Nr. 1 bis Stichprobe Nr. m, so gilt 1 m m i=1 x i = µ (6.1) In Worten: Arithmetisches Mittel aller Stichprobenmittel zum festen Stichprobenumfang ist gleich dem Mittelwert µ der Grundgesamtheit. (6.1) besagt Folgendes: Der Populationsmittelwert µ wird durch das Stichprobenmittel x weder systematisch unter noch überschätzt. Man StatSoz 142

17 spricht von einer erwartungstreuen oder unverzerrten Schätzung (unbiased estimation). Man kann die Streuung der Stichprobenmittel x 1, x 2,..., x m um den Populations Mittelwert µ berechnen: σ 2 x = 1 m m j=1 ( xj µ ) 2 = σ 2 n N n N 1 (6.2) Verifizierung von Formel (6.2) anhand Bsp. 6.1: Hier ist N = 5, n = 3, µ = 2 und σ 2 = Man erhält σ 2 n N n N 1 = = = StatSoz 143

18 und gemäß den Werten aus Tab. 6 2, vorletzte Spalte, gilt j=1 ( xj 2 ) 2 = 1 10 ( (1.93 2) 2 + (2.20 2) (1.93 2) 2 ) = Zieht man in (6.2) die Wurzel, so erhält man σ x = 1 m m ( x j µ) 2 j=1 = σ n N n N 1 StatSoz 144

19 Der Parameter σ x (= Stichprobenfehler von x) heißt Standardfehler des Mittelwertes (standard error mean, SEM): SEM = σ n N n N 1 (6.3) Bemerkung: Bei einfachen Stichproben (,,Ziehen mit Zurücklegen ) gilt Standardfehler des Mittelwertes: SEM = σ n (6.4) Der zusätzliche Faktor in (6.3), N n N 1 StatSoz 145

20 wird häufig als Endlichkeitsfaktor bezeichnet. Ist N im Verhältnis zu n groß, so ist N n N 1 = N N 1 n N 1 1 n N 1 und der Endlichkeitsfaktor kann vernachlässigt werden. Faustregel: n/n 0.05 In Bsp. 6.1 erhält man nach Formel (6.3) SEM = σ n N n N 1 = = = (nach Formel (6.4) erhält man SEM = 0.163). Formeln (6.3) und (6.4) zeigen Folgendes: Mit StatSoz 146

21 wachsendem Stichprobenumfang n nimmt die Streuung der Stichprobenmittel um den Populationsmittelwert µ ab! Anschaulich gesprochen bedeutet dies Folgendes. Bildet man ein Histogramm bezüglich aller Stichprobenmittel x 1, x 2,..., x m so konzentriert sich das Histogramm mit wachsendem Stichprobenumfang n mehr und mehr um die Mitte µ. Die Häufigkeitsverteilung sämtlicher Stichprobenmittel (zum festen Stichprobenumfang) nennt man die Stichprobenverteilung von x. Genauer spricht man auch von einer Stichprobenkennwertverteilung. StatSoz 147

22 Aus Tab. 6 2 ergibt sich die folgende Stichprobenverteilung von x: Tabelle 6 3 Ohne Klassierung Wert von x relative Häufigkeit /10 = /10 = /10 = /10 = /10 = /10 = /10 = 0.1 Tabelle 6 4 Mit Klassierung Klasse Intervall Fläche Klasse 1 [170, 190) F 1 = 0.2 Klasse 2 [190, 210) F 2 = 0.6 Klasse 3 [210, 230) F 3 = 0.2 Im Histogramm wird als Darstellungsmittel die Fläche gewählt, d.h. die Flächen repräsentieren die relativen Klassenhäufigkeiten. (Zur Erinnerung: Gesamtfläche = Summe der relativen Klassenhäufigkeiten = 1) StatSoz 148

23 Zusammenfassung: Kennwerte der Verteilung einer Grundgesamtheit: Mittelwert µ Standardabweichung σ Verteilung einer Stichprobe: empirischer Mittelwert x empirische Standardabweichung s Stichprobenverteilung von x: Mittelwert µ (nach Formel (6.1)) Standardabweichung σ x = SEM SEM = σ n N n N 1 (nach Formel (6.3)) SEM = σ n (nach Formel (6.4)) StatSoz 149

24 Bei Bekanntheit der Stichprobenverteilung von x wäre man in der Lage, die Präzision der Parameterschätzung x genau zu beschreiben. Erwartet wird, dass die,,meisten Stichprobenmittelwerte innerhalb der Grenzen µ ± SEM liegen: µ SEM x µ + SEM (6.5) In Bsp. 6.1 ergeben sich die Grenzen = und = und nach Tab. 6.3 bzw. Tab. 6.4 liegen 60% ( ˆ= Flächenanteil F 2 ) der Stichprobenmittel innerhalb dieser beiden Grenzen. Frage: Wie lässt sich die Präzision der Parameterschätzung x beurteilen, wenn die Stichprobenverteilung nicht bekannt ist? StatSoz 150

25 Häufig zeigt das Histogramm der Stichprobenverteilung von x (wenn die Flächen die relativen Klassenhäufigkeiten repräsentieren) einen glockenkurvenförmigen Verlauf (Dichte der Normalverteilung). Diese empirische Tatsache lässt sich durch ein wahrscheinlichkeitstheoretisches Gesetz begründen, der zentrale Grenzwertsatz (Kap. 8). Die Stichprobenverteilung des Mittelwertes lässt sich somit annähernd durch eine Normalverteilung beschreiben. Daran ändert sich auch nichts, wenn man die Stichprobenverteilung des standardisierten Stichprobenmittels betrachtet. x µ SEM StatSoz 151

26 Warum? Durch die Standardisierung (dies ist eine lineare Transformation) ändert sich die Form der Verteilung nicht, vgl. Abschnitt 4.4. D. h. die Stichprobenverteilung des standardisierten Mittelwertes ( x µ)/sem lässt sich ebenfalls durch einen glockenkurvenförmigen Verlauf darstellen. Dies ist dann die Dichte der Standard Normalverteilung ϕ. Dass es sich um eine Standardisierung handelt ist klar (vgl. Abschnitt 4.4): Die standardisierten Stichprobenmittelwerte z i = x i µ SEM x, i = 1,..., m haben die Lage 0 und die Streuung 1: 1 m m i=1 z i = 0 und SEM z = 1 StatSoz 152

27 Zurück zur Beantwortung der Frage: Zunächst ist (6.5) gleichbedeutend mit 1 x µ SEM 1 Folglich ist der Anteil der Stichprobenmittelwerte, die (6.5) erfüllen gleich dem Anteil der standardisierten Stichprobenmittelwerte, die zwischen 1 und 1 liegen. Und dieser Anteil beträgt 60% ( ˆ= Flächenanteil F 2 im Histogramm nach Tab. 6.4). Dieser Anteilswert entspricht annährend der Fläche zwischen der Dichte der ϕ und dem Achsenabschnitt [ 1, 1]. Die Fläche beträgt 1 1 ϕ(x) dx = 0.68 StatSoz 153

28 Abbildung 6 1 Fläche zwischen ϕ und dem Achsenabschnitt [ 1, 1] Schätzen des Standardfehlers Die Bedingung (6.5) ist genau dann erfüllt, wenn der Populationsmittelwert µ im Bereich x±sem liegt: x SEM µ x + SEM (6.6) Für die statistische Anwendung ist (6.6) wesentlich interessanter. Denn µ ist unbekannt und man versucht einen Bereich anzugeben, so dass µ mit einer gewissen Wahrscheinlichkeit in diesem Bereich liegen wird (Intervallschätzung). StatSoz 154

29 Da σ und somit SEM unbekannt ist, verwendet man bei Vorliegen einer konkreten Stichprobe x 1,..., x n die Stichprobenstandardabweichung s als Schätzwert für σ und erhält mit Formel (6.4) den geschätzten Standardfehler des Mittelwertes (estimated standard error mean, ESEM): ESEM = s n Man weiß also, in welcher Größenordnung die (zufällige) Abweichung eines Stichprobenmittels x vom Populationsmittelwert µ erwartet werden kann! Bemerkung: (i) Formel (6.3) ist zum Schätzen des Standardfehlers nicht geeignet, da N im Allgemeinen nicht bekannt ist. StatSoz 155

30 (ii) Bei einfachen Stichproben (,,Ziehen mit Zurücklegen ) ist die Stichprobenvarianz s 2 eine unverzerrte Schätzung des Parameters σ 2. In Bsp. 6.1 gilt SEM = σ n = = Bei Vorliegen der Stichprobe Nr. 4 ist s 2 = und man erhält ESEM = s n = = Alle Werte, die nur zufallsbedingt von x abweichen, sind neben der (erwartungstreuen) Schätzung x ebenfalls plausible Schätzwerte für den Parameter µ, also etwa alle Werte im Intervall [ x s n, x + s ] n StatSoz 156

31 Man spricht von einer Intervallschätzung (Kap. 9). Beachte: Die Variabilität steckt im Intervall, denn die Intervallgrenzen x ± s n hängen von den empirischen Kenngrößen x und s ab. Der Parameter µ ist fest und muss nicht im obigen Intervall liegen. In Bsp. 6.1 führt die Stichprobe Nr. 4 ( x = 2.07) zum Intervall [ , ] = [1.83, 2.31] Der Populationsmittelwert µ = 2 liegt in diesem Intervall. Dies ist sicher. Aber: Diese 100%ige Sicherheit ist nur vorhanden, weil µ = 2 bekannt ist!!! StatSoz 157

32 Die Crux ist: µ ist i. A. unbekannt! Konsequenz: Es besteht keine 100%ige Sicherheit darüber, ob der Mittelwert µ im obigen Intervall liegt. Wie bewertet, quantifiziert man diese (Un ) Sicherheit? Rein logisch gesehen gibt es nur zwei Möglichkeiten: Entweder µ liegt in diesem Intervall oder nicht. Ad hoc Lösung: Jede Möglichkeit besitzt die gleiche Wahrscheinlichkeit, also 50%ige Sicherheit. Die Chancen stehen fifty fifty. Aber: Die Sicherheit darüber, dass µ im Intervall [ x s/ n, x + s/ n] liegt, kann höher bewertet werden! Dazu folgende Tabelle: StatSoz 158

33 Tab. 6 5: Geschätzte Standardfehler und Intervallschätzungen der Stichproben aus Tab. 6 2 Stichprobe ESEM = s/ n [ x s/ n, x + s/ n] Nr. 1: ABC s 1 / 3 = [1.864, 1.996] Nr. 2: ABD s 2 / 3 = [2.085, 2.315] Nr. 3: ABE s 3 / 3 = [1.885, 2.115] Nr. 4: ACD s 4 / 3 = [1.830, 2.310] Nr. 5: ACE s 5 / 3 = [1.694, 2.046] Nr. 6: ADE s 6 / 3 = [1.954, 2.306] Nr. 7: BCD s 7 / 3 = [1.769, 2.231] Nr. 8: BCE s 8 / 3 = [1.685, 1.915] Nr. 9: BDE s 9 / 3 = [1.894, 2.246] Nr. 10 CDE s 10 / 3 = [1.690, 2.170] Von den 10 Stichproben führen nur 3 Stichproben (Nr. 1, 2 und 8) zu einer Intervallschätzung, die den Parameter µ = 2 nicht enthalten. Die Chance, dass ein konkret vorliegendes Intervall den Parameter µ = 2 enthält, wäre also sinn- StatSoz 159

34 vollerweise mit 7/10, also mit 70% zu bewerten. Dies ist ein rein theoretischer Gedankengang, da µ nicht bekannt ist und in der Praxis nur eine Stichprobe zur Verfügung steht. Die Stichprobenverteilung von x ist ebenfalls nicht bekannt. Trotzdem kann die Sicherheit annähernd mit 70% quantifiziert werden, wenn man theoretische Verteilungen (z. B. die Normalverteilung) zulässt! Zunächst: x s n µ x + s n ist genau dann erfüllt, falls gilt. 1 x µ s/ n 1 StatSoz 160

35 Wenn der Stichprobenumfang n 30 ist, dann lässt sich die Stichprobenverteilung von x µ s/ n durch die Diche ϕ der Standard Normalverteilung beschreiben (zentraler Grenzwertsatz, Kap. 8). Folglich kann man sagen: Mit einer Wahrscheinlichkeit von ca liegt der Parameter µ im Intervall [ x s/ n, x + s/ n]. Zur Erinnerung: 1 1 ϕ(x) dx = 0.68 StatSoz 161

36 Theoretische Verteilungen (man spricht auch von Modellen) beruhen auf dem Begriff der Wahrscheinlichkeit. Dies sind Zahlen, die zwischen 0 (völlige Unsicherheit) und 1 (völlige Sicherheit) liegen. Statistische Entscheidungen sind immer Entscheidungen unter Unsicherheit. Durch Wahrscheinlichkeitsaussagen wird diese Unsicherheit nicht aufgehoben, wohl aber quantitativ erfassbar! Die statistische Welt liegt zwischen 0 und 1 StatSoz 162