Varianzanalyse * (1) Varianzanalyse (2)

Transkript

1 Varianzanalyse * (1) Einfaktorielle Varianzanalyse (I) Die Varianzanalyse (ANOVA = ANalysis Of VAriance) wird benutzt, um Unterschiede zwischen Mittelwerten von drei oder mehr Stichproben auf Signifikanz zu prüfen. Z.. lautet die Nullhypothese für fünf Mittelwerte: H 0 : µ 1 =µ =µ 3 =µ 4 =µ 5 Die Alternativhypothese ist, dass H 0 als Ganzes nicht wahr ist, d.h. es bestehen irgendwelche Unterschiede zwischen den Mittelwerten. Eine ANOVA basiert auf der Tatsache, dass anhand der Stichprobendaten zwei unhängige Schätzungen der Populationsvarianz möglich sind: 1. Geschätzte Varianz innerhalb der Gruppen (within-varianz, Fehlervarianz, "error"): ie unterscheiden sich die einzelnen erte in einer Stichprobe (oder Gruppe) von den übrigen erten in der gleichen Gruppe?. Geschätzte Varianz zwischen den Gruppen (between-varianz): ie unterscheiden sich die Mittelwerte verschiedener Stichproben (oder Gruppen) voneinander? enn alle Stichproben der gleichen normalverteilten Population entstammen, sind die Schätzungen der Varianzen zwischen und innerhalb der Gruppen ähnlich (und ähnlich der Populationsvarianz). Je größer die Varianz zwischen den Gruppen im Vergleich zur Varianz innerhalb der Gruppen ist, desto wahrscheinlicher ist es, dass die Stichproben nicht aus einer Population mit gleichen Mittelwerten stammen. *) Angelehnt an: elkowitz, J., Ewen, R.. & Cohen, J. (00). Introductory statistics for the behavioral sciences. New York (5 th ed.): Academic Press. Varianzanalyse () Einfaktorielle Varianzanalyse (II) a) Die Variation zwischen den Gruppen und innerhalb der Gruppen ist ähnlich groß: A C D E Mittelwerte: Variation innerhalb der Gruppen Variation zwischen den Gruppen b) Die Variation zwischen den Gruppen ist viel größer als innerhalb der Gruppen: A C D E Variation innerhalb der Gruppen Mittelwerte: Variation zwischen den Gruppen 1

2 Varianzanalyse (3) Einfaktorielle Varianzanalyse (III) Variabilität "within" und "between" Variabilität "within" und "between" y y Gruppe Gruppe Varianzanalyse (4) Einfaktorielle Varianzanalyse (IV) y Innerhalb-Gruppen Abweichung ("error") = Zwischen-Gruppen Abweichung = Totale Abweichung = 3.0

3 Varianzanalyse (5) Einfaktorielle Varianzanalyse (V) Die totale Varianz, die zwischen-gruppen Varianz und innerhalb-gruppen Varianz drücken die Größe dieser Abweichungen für die Personen z.. innerhalb eines Experiments aus. Die Summe der quadrierten Abweichungen der individuellen erte vom Gesamtmittelwert Summe der quadrierten Abweichungen der Gruppenmittelwerte vom Gesamtmittelwert ("zwischen Gruppen") Summe der quadrierten Abweichungen der individuellen erte vom jeweiligen Gruppenmittelwert ("innerhalb Gruppen") T ("sums of squares total") = ("sums of squares between groups") + ("sums of squares within groups") Die Schätzung der zwischen-gruppen Varianz schließt sowohl die Effekte des Treatments als auch die Fehlervarianz ein: Die Gruppenmittelwerte sind sowohl von den Gruppenunterschieden (Treatment) als auch von der Varianz der AV (oder Fehlervarianz der beobachteten erte) beeinflusst. Die innerhalb-gruppen Varianz drückt jedoch nur die Fehlervarianz aus. Varianzanalyse (6) Einfaktorielle Varianzanalyse (VI) Treatment Varianz Fehler Varianz F Fehler Varianz gesch. zwischen Gruppen Varianz gesch. innerhalb Gruppen Varianz Ist die H 0 wahr, gibt es keine Treatment-Varianz. Die zwischen-gruppen Varianz und die innerhalb-gruppen Varianz werden ungefähr gleich sein, so dass F ungefähr 1.0 ist. Um so mehr F größer als 1.0 ist, um so sicherer kann man sein, dass das Treatment einen Effekt auf die AV hat bzw. dass die Gruppen nicht aus der gleichen Population stammen. Für einen F-ert sehr viel kleiner 1.0 (z.. 0.) gäbe es keine offensichtliche Interpretation außerhalb des Zufalls (oder einer fehlerhaften Annahme der Voraussetzungen des Tests). In diesen Fällen würde H 0 beibehalten und die Möglichkeit, dass sich ein systematischer Faktor (z.. eine nicht zufällige Stichprobenziehung) eingeschlichen hat, sollte geprüft werden. 3

4 Varianzanalyse () Einfaktorielle Varianzanalyse (VII) Quadratsummen (sums of squares): ( ) T x x (16.0)... (.0) 0 N ( x G G x) ( x1 x1 )... ( xk xk ) T T (14..0)... 5(1.4.0) 14.4 (16 14.)... ( 1.0) 85.6 Varianzen (mean squares): df k 1 df N k df df 14.4 df df F-Ratio: 3.60 F F Varianzanalyse (8) Einfaktorielle Varianzanalyse (VIII) F-Verteilung für df=4 und df=0 df(x, 4, 0) % 1% F eispiel 1: eispiel : Analysis of Variance Table df F p etween ithin (error) Analysis of Variance Table df F p etween < ithin (error)

5 Varianzanalyse () Einfaktorielle Varianzanalyse (IX) enn der F-ert statistisch signifikant ist, kann mit sogenannten post-hoc Tests (Einzelvergleichen) untersucht werden, welche der Mittelwerte sich signifikant unterscheiden. Hierbei dürfen aber einfache t-tests nicht benutzt werden, da mit wachsender Anzahl von Tests die ahrscheinlichkeit, einen -Fehler (Typ I Fehler) zu begehen, steigt! Daher kommen hierfür nur "geschützte" Tests in Frage. Zu empfehlen ist im Allgemeinen ein Tukey-Test (Tukey HSD = Tukey's honest significant difference) oder Tukey-b. Mit derartigen Tests können auch Konfidenzintervalle für die jeweiligen Mittelwertsdifferenzen berechnet werden. Anhand des F-ertes und der Freiheitsgrade kann auch ein Maß für die Stärke des Zusammenhangs berechnet werden. kann wie ein Korrelationskoeffizient interpretiert werden. Die erechnung macht allerdings nur Sinn für F-erte > 1.0: df ( F 1) df F df eispiel :. 46 4( ) In diesem (fiktiven) eispiel wäre der Zusammenhang extrem hoch. Dieses Maß würde einer Effektstärke d von etwa 5.8 entsprechen (hierbei würde unterstellt, dass Gruppe E (5) die Experimentalgruppe und Gruppe () die Kontrollgruppe darstellten und die übrigen Gruppen ein anderes Treatment bekommen hätten). Varianzanalyse () Zweifaktorielle Varianzanalyse (I) Mit einer zweifaktoriellen Varianzanalyse kann untersucht werden, welchen Einfluss zwei Faktoren (z.. Faktor 1: Experimental- vs. Kontrollgruppe, Faktor : Geschlecht) auf eine abhängige Variable haben. Hierbei wird die Varianz zwischen den Gruppen weiter in drei estandteile zerlegt: In Varianz, die auf Faktor 1 zurückzuführen ist (Haupteffekt 1), in Varianz, die auf Faktor zurückzuführen ist (Haupteffekt ) sowie in Varianz aufgrund der Interaktion von Faktor 1 und (Interaktionseffekt): Totale Variation Variation zwischen Gruppen Variation innerhalb Gruppen (error) Variation durch Faktor 1 Variation durch Faktor Variation durch Interaktion von Faktor 1 und Faktor Hierbei ist die totale Quadratsumme gleich der Summe der Quadratsummen aller vier estandteile: (1) innerhalb Gruppen Quadratsumme, () Quadratsumme Faktor 1, (3) Quadratsumme Faktor, und (4) Quadratsumme Interaktion Faktor1 und Faktor. 5

6 Varianzanalyse (11) Zweifaktorielle Varianzanalyse (II) eispiel: In einem fiktiven Experiment wird untersucht, wie der Konsum von Koffein die Leistung in einem Englischtest beeinflusst. Dabei ergeben sich die folgenden fiktiven Messwerte. Koffein-Dosis (Faktor 1) groß mäßig klein Null Zeilenmittel männlich Geschlecht (Faktor ) 1 4 weiblich Spaltenmittel Varianzanalyse (1) Zweifaktorielle Varianzanalyse (III) erte und Mittelwerte nach Geschlecht gender Testscore m-large m-mod. m-small m-zero f-large f-mod. f-small f-zero Gruppen 6

7 Varianzanalyse () Zweifaktorielle Varianzanalyse (IV) erte und Mittelwerte nach Koffein-edingung caffeine Testscore large-m large-f mod.-m mod.-f small-m small-f zero-m zero-f Gruppen Varianzanalyse (14) Zweifaktorielle Varianzanalyse (V) Für die erechnung benötigt man außer dem Gesamtmittelwert sowie den Zeilen- und Spaltenmittelwerten noch die Mittelwerte der Zellen: Koffein-Dosis (Faktor 1) groß mäßig klein Null Geschlecht (Faktor ) männlich weiblich Quadratsummen (sums of squares): ( ) T x x (6.05)... (.05) 353. N ( x x) T G G 5( )... 5(1.6.05). 1 T F1 N F1 ( xf1 x) F 1 (..05)... (8.0.05). F N F ( xf x) F 0(.85.05) 0(.5.05) 5. 6 F1F F1 F F 1F

8 Varianzanalyse (15) Zweifaktorielle Varianzanalyse (VI) Für die erechnung der Varianzen (mean squares) werden die Freiheitsgrade benötigt, die analog der Quadratsummen zerlegt werden: total df = N 1 = 3 df zwischen Gruppen = k 1 = df innerhalb Gruppen = N k = 3 df Koffein = 4 1 = 3 df Geschlecht = 1 = 1 df Interaktion = 3 1 = 3 Varianzen (mean squares): df F F df F 5. 6 F 1. F1 F1 df F F1 3 F1 F 0.6 F1 F 1F 6. 8 df F 3 F1F Varianzanalyse (16) Zweifaktorielle Varianzanalyse (VII) F-Ratios: Koffein Geschlecht Interaktion 30. F F1 F 5.60 F F F 6.8 F F1 F F ANOVA-Tabelle: Analysis of Variance Table df F p Koffein Geschlecht Interaktion ithin (error)

9 Varianzanalyse (1) Zweifaktorielle Varianzanalyse (VIII) Interaktionsplot male female Mean test score large moderate small zero Caffeine condition Varianzanalyse (18) Zweifaktorielle Varianzanalyse (IX) Interaktionsplot (ohne Interaktionseffekt) male female Mean test score large moderate small zero Caffeine condition

10 Varianzanalyse (1) Zweifaktorielle Varianzanalyse (X) Interaktionsplot (mit Interaktionseffekt) male female Mean test score large moderate small zero Caffeine condition Varianzanalyse (0) Einfaktorielle Varianzanalyse mit Messwiederholung ei den bisherigen Varianzanalysen handelte es sich um unabhängige Messungen. ird eine Variable zwei- oder mehrmals gemessen, gibt es also abhängige Messungen, können die Veränderungen im Rahmen einer Varianzanalyse mit einem Messwiederholungsfaktor analysiert werden. ei einer einfaktoriellen Varianzanalyse mit Messwiederholung werden die Quadratsummen in Quadratsummen zwischen und innerhalb Personen zerlegt. Letzere wird in die Quadratsumme zwischen den Messungen und einen Rest (Residuum oder Fehlervarianz) zerlegt: Totale Variation Variation zwischen Personen Variation innerhalb Personen Variation zwischen Messungen restliche Variation (error) Der F-ert zur Prüfung signifikanter Veränderungen wird aus dem Verhältnis der Varianz (mean squares) der Messungen und der Fehlervarianz gebildet, mit df Messungen = p 1 und df Fehlervarianz = (N 1) (p 1).

11 Varianzanalyse (1) Zweifaktorielle Varianzanalyse mit Messwiederholung (I) ei Varianzanalysen mit Messwiederholung sind weitere Faktoren denkbar. Ein typisches eispiel ist ein Experiment mit einer Experimental- und Kontrollgruppe (Faktor 1) und einer oder mehreren Vor- und Nachmessung(en) (Faktor ). Hier lässt sich irkung des Treatments mittels einer zweifaktoriellen Varianzanalyse untersuchen, wobei ein Faktor den Messwiederholungsfaktor darstellt. Im Gegensatz zu Varianzanalysen, bei denen nur eine Messung pro Person vorliegt, genügt es hierbei nicht, dass sich ein signifikanter Unterschied zwischen Experimental- und Kontrollgruppe (Haupteffekt) zeigt. Falls das Treatment wirksam ist, müssen sich die Veränderungen der Personen in Experimental- und Kontrollgruppe (in bestimmter eise) unterscheiden. Das wird in einem signifikaten Interaktionseffekt zwischen dem Messwiederholungs- und dem Treatmentfaktor sichtbar. Handelt es sich dabei nur um eine Vor- und eine Nachmessung (hat der Messwiederholungsfaktor also nur zwei Stufen), ist die statistische Prüfung eines signifikanten Interaktionseffekts im Rahmen einer zweifaktoriellen Varianzanalyse mit Messwiederholung identisch mit einem signifikanten Haupteffekt (Treatmentfaktor) einer einfaktoriellen Varianzanalyse, wobei die abhängige Variable die Differenzwerte zwischen zweiter und erster Messung darstellen. Die Zerlegung der Quadratsummen einer zweifaktoriellen Varianzanalyse mit Messwiederholung ist komplexer und wird in ortz (, S. 3 ff.) dargestellt. Varianzanalyse () Zweifaktorielle Varianzanalyse mit Messwiederholung (II) eispiel: In einem Abstand von einem Jahr werden Aggressionswerte in einer Kontrollgruppe ohne und einer Experimentalgruppe mit einem Anti-Gewalt-Training gemessen (fiktive erte). Messwiederholung (Faktor 1) Vormessung (t1) Nachmessung (t) Mittelwerte: Messwerte: Treatment (Faktor ) Kontrollgruppe Experimentalgruppe Messwiederholung (Faktor 1) Vormessung (t1) Nachmessung (t) Treatment (Faktor ) Kontrollgruppe Experimentalgruppe

12 Varianzanalyse (3) Zweifaktorielle Varianzanalyse mit Messwiederholung (III) ANOVA-Tabelle: (zweifaktorielle Varianzanalyse mit Messwiederholung) Analysis of Variance Table between subjects: df F p Treatment Residuals within subjects: df F p time Treatment*time Residuals ANOVA-Tabelle: (einfaktorielle Varianzanalyse der Differenzwerte) Analysis of Variance Table df F p Treatment Residuals Varianzanalyse (4) Zweifaktorielle Varianzanalyse mit Messwiederholung (IV) Interaktionsplot Kontrollgruppe Experimentalgruppe Mittelwert(AV) t1 t Messzeitpunkt 1