Modul G.1 WS 07/08: Statistik

Transkript

1 Modul G.1 WS 07/08: Statistik Schätzung von Populationskennwerten Stichprobenkennwerte als Schätzmaße für den Populationsmittelwert Punktschätzung: nur ein Stichprobenkennwert wird angegeben Intervallschätzung: ein Konfidenz- bzw. Vertrauensintervall wird angegeben Ausgangspunkt: Mittelwert der Gesamtpopulation ist unbekannt. Entnimmt man der Gesamtpopulation gleichgroße Stichproben mit dem Umfang n, so sind die Mittelwerte dieser Stichproben x i wiederum normalverteilt. Je größer der Umfang der Stichproben, umso besser schätzt der Mittelwert der Stichprobenmittelwerte den wahren Populationsmittelwert (Zentraler Grenzwertsatz). Das Konfidenzintervall bestimmt die Grenzen, in denen der Populationsmittelwert z.b. mit 95% Wahrscheinlichkeit liegt. Das Konfidenzintervall (auch Vertrauensbereich oder Mutungsintervall genannt) ist ein Begriff aus der mathematischen Statistik. Er sagt etwas über die Präzision der Lageschätzung eines Parameters (zum Beispiel eines Mittelwertes) aus. Das Vertrauensintervall schließt einen Bereich um den geschätzten Wert des Parameters ein, der vereinfacht gesprochen mit einer zuvor festgelegten Wahrscheinlichkeit die wahre Lage des Parameters trifft Die Berechnung des Konfidenzintervalls hängt vom Standardfehler des Mittelwerts ab. Der Standardfehler ist ein Streuungsmaß für eine Stichprobenverteilung. Der Standardfehler des Stichproben-Mittelwertes ist definiert als der Quotient aus der Standardabweichung und der Wurzel des Stichprobenumfangs. Er gibt die Streuung der Stichproben-Mittelwerte x von gleichgroßen, zufällig aus einer Grundgesamtheit gezogenen Stichproben um den wahren Grundgesamtheitsmittelwert µ an.

2 Modul G.1 WS 07/08: Statistik Beispiel Angenommen, wir untersuchen die Population von Kindern, die Gymnasien besuchen, hinsichtlich ihrer Intelligenzleistung. Wenn wir nun zufällig aus dieser Population eine Stichprobe des Umfanges n (also mit n Kindern) ziehen, dann können wir aus allen n Messergebnissen den Mittelwert berechnen. Wenn wir nun nach dieser Stichprobe noch eine weitere, zufällig gezogene Stichprobe mit dergleichen Anzahl von n Kinder ziehen und deren Mittelwert ermitteln, so werden die beiden Mittelwerte nicht exakt übereinstimmen. Ziehen wir noch eine Vielzahl weiterer zufälliger Stichproben des Umfanges n, dann können wir die Streuung aller empirisch ermittelten Mittelwerte um den Populationsmittelwert ermitteln. Diese Streuung ist der Standardfehler. Da der Mittelwert der Stichprobenmittelwerte der beste Schätzer für den Populationsmittelwert ist, entspricht der Standardfehler der Streuung der empirischen Mittelwerte um den Populationsmittelwert. Er bildet nicht die Intelligenzstreuung der Kinder, sondern die Genauigkeit des errechneten Mittelwerts ab. Der Standardfehler liefert so eine Aussage über die Güte des ermittelten Mittelwertes. Je mehr Einzelwerte desto robuster ist der Mittelwert, desto kleiner der Standardfehler. Der Standardfehler findet zum Beispiel Anwendung bei der Messung von Naturkonstanten (Lichtgeschwindigkeit, Bindungskonstanten von Enzymen, o.ä.). Wenn hier bei mehreren Messungen unterschiedliche Ergebnisse ermittelt werden, variiert nicht die Naturkonstante, sondern die Abweichungen werden durch Messfehler verursacht, das heißt Ungenauigkeiten des Messgerätes. Misst man häufiger, nähert man sich dem wahren Mittelwert an. Im Gegensatz dazu bildet die Standardabweichung die in einer Population tatsächlich vorhandene Streuung ab, die auch bei höchster Messgenauigkeit und unendlich vielen Einzelmessungen vorhanden ist (z.b. bei Gewichtsverteilung, Größenverteilung, Monatseinkommen). Sie zeigt ob die Einzelwerte nahe beieinander liegen oder eine starke Spreizung der Daten vorliegt. Formel für den Standardfehler des Stichprobenmittelwertes: bzw., um zu verdeutlichen, dass es sich um die Streuung der Mittelwerte von Stichproben handelt. mit σ n bzw. der Standardfehler σ die Standardabweichung der Grundgesamtheit n der Stichprobenumfang Die Standardabweichung der Grundgesamtheit ist in der Regel unbekannt und wird aus der Wurzel der Stichprobenvarianz (s) geschätzt. Zusammenfassung: Der Standardfehler macht die gemessene Streuung (Standardabweichung) von zwei Datensätzen mit unterschiedlichem Stichprobenumfang vergleichbar, indem er die Standardabweichung auf den Stichprobenumfang normiert. Der Standardfehler wird kleiner, je größer die Stichprobe ist. t-verteilung Für Stichproben mit n < 30 bzw. wenn der Populationsmittelwert nicht bekannt ist, wird zur Berechnung der Wahrscheinlichkeiten nicht die Normalverteilung sondern die t-verteilung verwendet.

3 Modul G.1 WS 07/08: Statistik t-verteilung: t=(x - μ 0 )/SE (SE=Standard Error = Standardfehler) trägt der Tatsache Rechnung, dass die Mittelwerte von zufällig entnommenen Stichproben erst bei einem großen n normalverteilt sind. Für ein großes n entspricht t 95% 1.96, d.h. mit einer 95% Sicherheit weicht der Mittelwert der Stichprobe nicht stärker als 2 (exakt 1.96) Standardfehler vom Populationsmittelwert ab. Der t-wert hängt von den Freiheitsgraden ab. Freiheitsgrade (df) = n-1 Je kleiner die Anzahl der Messwerte, desto größer wird der t-wert; z.b. df=3: t=4.54; df=10: t=2.23; df= : t=1.96 Die t-verteilung wird deshalb auch als konservativer als die Normalverteilung bezeichnet, da bei kleinem n kleinere Standardabweichungen nötig sind. Bei bekanntem t Wert kann die Wahrscheinlichkeit berechnet werden, ob sich eine Stichprobe von einem angenommenen Wert unterscheidet. Zurück zum Konfidenzintervall: Bei einer zufälligen Stichprobe beträgt also die Wahrscheinlichkeit, dass der Mittelwert zwischen diesen beiden Grenzen liegt 95%. (x -t 95%,df *sx x x +t 95%,df *sx ) Beispiel: - x =50, σ=5, n=25 - SE=5/sqrt(25)=1 - t 95%,24 =2.063 (aus Tabelle, oder mit R qt(0.025, 24)) - Konfidenzintervall: Liegt der Mittelwert einer weiteren Stichprobe oberhalb oder unterhalb dieser Grenzen, so beträgt die Wahrscheinlichkeit, dass die neue Stichprobe aus der gleichen Population stammt, weniger als 5%.

4 Modul G.1 WS 07/08: Statistik Je kleiner das Konfidenzintervall ist, desto exakter ist unsere Schätzung des Populationsmittelwertes. Da das Konfidenzintervall vom Standardfehler abhängt, wird unsere Schätzung umso genauer, je größer unsere Stichprobe und je kleiner die Standardabweichung ist. Ausgewählte Quantile der t-verteiluung (einseitiger Test) Wahrscheinlichkeit df 0,75 0,875 0,90 0,95 0,975 0,99 0,995 0, ,000 2,414 3,078 6,314 12,706 31,821 63, , ,817 1,604 1,886 2,920 4,303 6,965 9,925 22, ,765 1,423 1,638 2,353 3,182 4,541 5,841 10, ,741 1,344 1,533 2,132 2,776 3,747 4,604 7, ,727 1,301 1,476 2,015 2,571 3,365 4,032 5, ,718 1,273 1,440 1,943 2,447 3,143 3,707 5, ,711 1,254 1,415 1,895 2,365 2,998 3,499 4, ,706 1,240 1,397 1,860 2,306 2,896 3,355 4, ,700 1,221 1,372 1,812 2,228 2,764 3,169 4, ,697 1,214 1,363 1,796 2,201 2,718 3,106 4, ,695 1,209 1,356 1,782 2,179 2,681 3,055 3, ,694 1,204 1,350 1,771 2,160 2,650 3,012 3, ,692 1,200 1,345 1,761 2,145 2,624 2,977 3, ,691 1,197 1,341 1,753 2,131 2,602 2,947 3, ,690 1,194 1,337 1,746 2,120 2,583 2,921 3, ,689 1,191 1,333 1,740 2,110 2,567 2,898 3, ,688 1,189 1,330 1,734 2,101 2,552 2,878 3, ,688 1,187 1,328 1,729 2,093 2,539 2,861 3, ,687 1,185 1,325 1,725 2,086 2,528 2,845 3, ,686 1,183 1,323 1,721 2,080 2,518 2,831 3, ,686 1,182 1,321 1,717 2,074 2,508 2,819 3, ,685 1,180 1,319 1,714 2,069 2,500 2,807 3, ,685 1,179 1,318 1,711 2,064 2,492 2,797 3, ,684 1,178 1,316 1,708 2,060 2,485 2,787 3, ,684 1,177 1,315 1,706 2,056 2,479 2,779 3, ,684 1,176 1,314 1,703 2,052 2,473 2,771 3, ,683 1,175 1,313 1,701 2,048 2,467 2,763 3, ,683 1,174 1,311 1,699 2,045 2,462 2,756 3, ,683 1,173 1,310 1,697 2,042 2,457 2,750 3, ,681 1,167 1,303 1,684 2,021 2,423 2,704 3, ,679 1,164 1,299 1,676 2,009 2,403 2,678 3, ,679 1,162 1,296 1,671 2,000 2,390 2,660 3, ,678 1,160 1,294 1,667 1,994 2,381 2,648 3, ,678 1,159 1,292 1,664 1,990 2,374 2,639 3, ,677 1,158 1,291 1,662 1,987 2,368 2,632 3, ,677 1,157 1,290 1,660 1,984 2,364 2,626 3, ,676 1,154 1,286 1,653 1,972 2,345 2,601 3, ,675 1,153 1,284 1,650 1,968 2,339 2,592 3, ,675 1,152 1,284 1,649 1,966 2,336 2,588 3, ,675 1,152 1,283 1,648 1,965 2,334 2,586 3,107 0,674 1,150 1,282 1,645 1,960 2,326 2,576 3,090

5 Modul G.1 WS 07/08: Statistik Prüf- oder Inferenzstatistik Definition Die inferenzstatistische Hypothesenprüfung erlaubt Aussagen über Hypothesen in einer Population, aus welcher die untersuchten Stichproben gezogen wurden. Hierbei schätzt man über Stichprobenkennwerte Populationskennwerte und führt mit Hilfe dieser Schätzungen Hypothesenprüfungen durch. Dadurch möchte man z.b. feststellen, ob zwei Stichproben aus einer oder aus verschiedenen Populationen stammen. Ob eine theoretische Annahme (=Hypothese) aufrechterhalten oder verworfen wird, kann hierbei nur mit einer bestimmten Irrtumswahrscheinlichkeit bestimmt werden. Mit Hilfe von empirisch erhobenen Daten wird anhand von Wahrscheinlichkeitsverteilungen eine Entscheidung getroffen. Am Beginn einer Studie zu einer Fragestellung wird eine wissenschaftliche Behauptung in Form einer Hypothese aufgestellt. Durch die Hypothesenprüfung wird getestet, ob die beobachteten Daten mit der theoriegeleiteten Erwartung (Hypothese) vereinbar sind. Diese Erwartungen können Unterschiede zwischen Gruppen oder Zusammenhänge zwischen Variablen sein. Wir werden uns im Folgenden vorrangig mit einfachen Mittelwertvergleichen zwischen zwei Stichproben befassen. Bsp.: RMS-Mittelwerte bei leisen und lauten Vokalen in formants.rdata Definition Es werden immer gegensätzliche, einander ausschließende Hypothesen definiert, nämlich die Nullhypothese und die Alternativhypothesen. 1. Nullhypothese Diese Negativhypothese behauptet immer, dass es keine Unterschiede beziehungsweise keine Zusammenhänge in der Population gibt. Es wird davon ausgegangen, dass eventuell in der Stichprobe auftretende Unterschiede oder Zusammenhänge nur zufällig sind. In abgekürzter Schreibform wird sie als H 0 bezeichnet. Die Nullhypothese steht komplementär zur Alternativhypothese. 2. Alternativhypothese Diese besagt, dass ein Unterschied oder ein Zusammenhang in der Population existiert. Die Alternativhypothese sollte immer aus der Theorie abgeleitet sein. Die Alternativhypothese wird mit H 1 abgekürzt. Nullhypothese (H 0 ): μ 1 =μ 2 Alternativhypothese H 1 : Mittelwerte unterscheiden sich. ungerichtete Alternativhypothese: es gibt einen Unterschied H 1 : μ 1 μ 2 gerichtete Alternativhypothese gibt eine Richtung an (< oder >) H 1 : μ 1 < μ 2 bzw. μ 1 > μ 2 Beispiel zur Anwendung: Es sei μ1 die mittlere Reaktionszeit auf akustische Reize in der Population der Frauen und es sei μ 2 die mittlere Reaktionszeit auf akustische Reize in der Population der Männer. Dann gilt:

6 Modul G.1 WS 07/08: Statistik H 0 : μ 1 =μ 2 (gleiche Reaktionszeiten von Männern und Frauen) H 1 : μ 1 μ 2 (unterschiedliche Reaktionszeiten von Männern und Frauen) oder gerichtete Alternativhypothese: H 1 : μ 1 <μ 2 (Frauen haben kleinere Reaktionszeiten) bzw. H 1 : μ 1 >μ 2 (Frauen haben größere Reaktionszeiten) Grundlegende Idee des Hypothesentestens 1. Es gibt für ein untersuchtes Merkmal einen bestimmten Populationsmittelwert μ x. 2. Die Mittelwerte zufällig aus der Population gezogener Stichproben x i streuen um diesen Populationsmittelwert. Hierdurch kann man eine theoretische Verteilung der Kennwerte definieren und es sind inferenzstatistische Aussagen unter der Voraussetzung der H 0 möglich. 3. Sind zwei Stichprobenmittelwerte sehr ähnlich, ist es sehr wahrscheinlich, dass sie aus einer identischen Population stammen. 4. Sind beide Stichprobenmittelwerte jedoch sehr unterschiedlich, so stammen sie möglicherweise nicht aus einer identischen Population. Je größer die Differenz zwischen den Stichprobenmittelwerten x 1 und x 2, desto unwahrscheinlicher ist es, dass beide Stichproben aus einer identischen Population stammen. 5. Mit Hilfe der Wahrscheinlichkeitsverteilung wird die bedingte Wahrscheinlichkeit für die Differenz der Stichprobenmittelwerte bei Gültigkeit der H 0 (p(differenz H 0 )) berechnet. 6. Liegt nun diese berechnete Wahrscheinlichkeit (p(differenz H 0 )) unter einem gewissen Grenzwert (α-niveau), so ist die beobachtete Differenz nur schwer mit der Nullhypothese zu vereinbaren und die Stichproben stammen wahrscheinlich nicht aus einer identischen Population, sondern eher aus zwei unterschiedlichen Populationen die sich bedeutsam (=signifikant) unterscheiden. Für die Beibehaltung bzw. Ablehnung einer Nullhypothese ist das α-niveau entscheidend wichtig. Definition α-niveau Das α-niveau legt in Abhängigkeit von Stichprobengröße und zugrundeliegender theoretischer Verteilung einen Grenzwert für ein Konfidenzintervall fest. Liegt der empirisch ermittelte Kennwert einer erhobenen Stichprobe außerhalb dieses Intervalls, so wird die Nullhypothese verworfen. Die Nullhypothese wird verworfen, wenn der empirisch ermittelte Kennwert außerhalb des Konfidenzintervalls liegt. Je kleiner α ist, desto größer muss der Mittelwertunterschied sein, um signifikant zu sein. Signifikant statisch relevant α-niveau legt die Wahrscheinlichkeit fest, mit der die Nullhypothese abgelehnt wurde. Irrtumswahrscheinlichkeit bzw. Restrisiko für eine Fehlentscheidung gegen eine gültige Nullhypothese

7 Modul G.1 WS 07/08: Statistik Umgangssprachlich ausgedrückt: wir haben blöderweise eine Stichprobe gezogen, die an den seitlichen Rändern der theoretischen Verteilungskurve aller Stichprobenmittelwerte liegt. α-fehler, Fehler erster Art, Type I error (Ablehnung einer gültigen Nullhypothese) Die Prüfung der Signifikanz hängt vom α-niveau ab: α=0.1 marginal signifikant. α=0.05 signifikant * α=0.01 hoch signifikant ** α=0.001 höchst signifikant *** Sind die Konsequenzen einer fälschlichen Ablehnung der Nullhypothese sehr gravierend, so setzt man das α-niveau auf einen kleineren Wert (1% oder 1 Promille). So wird die Gefahr eines α-fehlers geringer. Testen von Hypothesen Zwei Mittelwerte, x 1 und x 2, sollen miteinander verglichen werden. Wir wollen feststellen, ob sie aus der gleichen Population stammen (Nullhypothese) oder aus verschiedenen (Alternativhypothese). Bei einem α-niveau von 5 % ist die Wahrscheinlichkeit, dass x 1 und x 2, wenn sie außerhalb des Beibehaltungsbereichs liegen, trotzdem aus der gleichen Population stammen, gleich 5%. Bei einem beidseitigen Test entsprechen die beiden Ränder jeweils α/2. Der Beibehaltungsbereich ist 1-α. Frage: Wie groß sind die α-bereiche bei einem beidseitigen Test mit einem Beibehaltungsbereich von 95% 99% 99.9% Bei einem einseitigen Test wissen wir aus der Literatur, dass einer der beiden Mittelwerte größer (kleiner) sein sollte als der andere, d.h. wir nehmen eine Richtung an. Vorteil: der t-test wird schon bei einem geringeren Mittelwertsunterschied signifikant. β-fehler = Beibehaltung der falschen Nullhypothese bei gültiger Alternativhypothese = Fehler zweiter Art, Type II error Fehler 1. Art: Ablehnung einer gültigen Nullhypothese Fehler 2. Art: Beibehaltung der falschen Nullhypothese H0 ist wahr Entscheidung akzeptiere H0 korrekt (es brennt nicht, kein Alarm) lehne H0 ab Fehler 1. Art (es brennt nicht, aber Alarm) Realität H0 ist falsch Fehler 2. Art (es brennt, aber kein Alarm) korrekt (es brennt und Alarm)

8 Modul G.1 WS 07/08: Statistik Fehler ist abhängig von - -Niveau: je höher das vorher festgelegte -Niveau, desto kleiner wird die Wahrscheinlichkeit für einen -Fehler (bei 5% geringer als bei 1%) - Einseitige vs. zweiseitige Testung: höhere Wahrscheinlichkeit für einen Fehler 2. Art bei zweiseitiger Testung - Streuung des Merkmals: je einheitlicher sich die Stichprobenteilnehmer bezüglich eines Merkmals verhalten, umso geringer die Streuung. Je kleiner die Streuung umso kleiner ist auch der Standardfehler. Je kleiner der Standardfehler umso eher erhält man ein signifikantes Ergebnis. - Stichprobenumfang: je größer die Stichprobe, umso kleiner der Standardfehler - Mittelwertsunterschied: je größer der Unterschied zwischen zwei Stichproben (oder Faktorstufen) umso eher ein signifikantes Ergebnis - ist kleiner für abhängige als für unabhängige Stichproben - Skalenniveau: je höher das Skalenniveau, desto kleiner 1-: Teststärke (power) ist die Wahrscheinlichkeit, dass ein in der Population vorhandener Unterschied bei statistischer Testung aufgedeckt wird. Determinanten der Power Die Power (1-β) wird größer: mit wachsender Differenz von μ0 μ1 (das bedeutet: ein großer Unterschied zwischen zwei Teilpopulationen wird seltener übersehen als ein kleiner Unterschied) mit kleiner werdender Merkmalsstreuung σ mit größer werdendem Signifikanzniveau α mit wachsendem Stichprobenumfang (da der Standardfehler dann kleiner wird): Exkurs: Teststärke hängt ab von der Effektgröße d=(x1 x2)/sx Daumenregel: d 0.2 kleiner Effekt, d 0.5 mittlerer Effekt, d 0.8 großer Effekt (Effekt entspricht power) Festlegung, ob unabhängige oder abhängige (auch: unverbundene oder verbundene Stichproben vorliegen: Unabhängige Stichproben haben keine direkte Beziehung zueinander. D.h. die Zuordnung eines Idividuums zu einer Stichprobe ist nicht von der Zuordnung eines Individuums zu einer anderen Stichprobe beeinflusst.

9 Modul G.1 WS 07/08: Statistik Beispiel Es soll überprüft werden, ob Jungen oder Mädchen schneller laufen, daher sollen die Zeiten beim 100 m-lauf miteinander verglichen werden. Verbundene Stichproben liegen vor, wenn Meßwerte eines Kollektivs mehrfach bestimmt werden. Die Daten stehen in einer Verbindung zueinander, weil verständlicherweise die Ausgangswerte einen Einfluss auf die Messwerte im Verlauf haben. Beispiel: Bei untrainierten Probanden erfolgt eine Zeitmessung beim 100 m-lauf. Nach einer Trainingsdauer von 6 Monaten erfolgt eine 2. Messung; es soll herausgefunden werden, ob die Probanden sich hinsichtlich ihrer Zeiten signifikant verbessert haben. t-test Der t-test ist ein Begriff aus der mathematischen Statistik, er bezeichnet eine Gruppe Hypothesentests. Den t-test im eigentlichen Sinn gibt es nicht. Es handelt sich hier lediglich um einen beliebigen Hypothesentest mit t-verteilter Testprüfgröße. Bei einem t-test im engeren Sinne werden Hypothesen über Erwartungswerte einer oder zweier normalverteilter Grundgesamtheiten getestet. t-test für eine unabhängige Stichprobe Vorrausetzungen: Normalverteilung mindestens Intervallskaliert darf bei n < 30 angewendet werden (im Gegensatz zum z-test) Definition Der t-test für eine Stichprobe wird über t n-i = x μx σx mit Standardfehler und einem Freiheitsgrad (df) von n-1 durchgeführt. Beispiel Untersucht werden soll, ob sich eine Gruppe von Psychiatrie-Patientinnen in ihrer Reaktionszeit bedeutsam von der sogenannten Normalbevölkerung unterscheidet. In der Normalpopulation wir eine durchschnittliche Reaktionszeit von 550 ms mit einer Varianz von 2500 ms 2 angenommen. Die 25 untersuchten Patientinnen haben eine mittlere Reaktionszeit von 560 ms. Als α-niveau werden 5 % angesetzt.

10 Modul G.1 WS 07/08: Statistik Lösung: Standardfehler: σx = σx n = = 10 t-wert: t n-1 = x μx σx = = 1 Nach der Tabelle der t-werte (Leonhart, s. 439 oder Statistik/Basis-Statistik-Tabelle-Studen/basis-statistik-tabelle-studen.html) liegt der kritische t-wert bei einer ungerichteten Hypothese mit df=25-1 bei 2,064. Somit kann hier kein signifikanter Unterschied abgesichert werden. Der Betrag des berechneten t-werts ist kleiner als der kritische t-wert. Die Nullhypothese wird beibehalten. Hausaufgabe: Erstelle ein fiktives Experiment mit phonetischem Hintergrund, das sich für einen t-test eignet. Denke Dir plausible Mittelwerte und Standardabweichungen, sowie eine sinnvolle Anzahl von Versuchspersonen für Dein Experiment aus. Formuliere Nullhypothese und Alternativhypothese. Entscheide mit Hilfe eines t-tests auf zwei unterschiedlichen Signifikanzniveaus über Annahme bzw. Ablehnung Deiner Hypothesen. Reiche die Hausaufgabe bitte spätestens am Mittwoch den bei mir ein. Viel Erfolg!