1 Varianzanalyse (ANOVA)

Transkript

1 1 Varianzanalyse (ANOVA) Ziele: Erklärung einer Meßgröße durch ein additves Modell. Abschätzung der Wirkungsweise von Einflußfaktoren, ihres Zusammenwirkens und ihres anteiligen Beitrages an der Variation einer Variablen. Analyse von konkreten Variablen (Messgrößen). Geschätzt wird der Einfluß der Wirkfaktoren auf die abhängige Variable in der Grundgesamtheit. Auch mit mehreren abhängigen Variablen möglich (multivariate Varianzanalyse, MANOVA), sowie mit Kovariaten (Variablen, die mit der abhängigen Variablen in Beziehung stehen, ANCOVA). Allgemeine Erkärungsgleichung (2 faktorielle ANOVA): X ijm = µ + α i + β j + α i β j + ε ijm (1) hierin: X ijm Meßwert der m ten Person auf Variable X in der i ten Stufe von A und der j ten Stufe von B. α i Effekt der i te Stufe des Faktors A. β j Effekt der j te Stufe des Faktors B. α i β j Interaktion der i ten Stufe des Faktors A mit der j ten Stufe des Faktors B. ε ijm Meßfehler der m ten Person auf Variable X in der i ten Stufe von A und der j ten Stufe von B. 1

2 Übersicht: Datenschema für eine 2 - faktorielle Anova für die Erklärung der AV Fahrleistung (X) durch die Faktoren Blutalkohol (Faktor A, Stufen: 1 promille, 0.5 promille und 0 promille) und Geschlecht (Stufen M,W). Faktor A Faktor A Faktor B 1PM 0.5PM 0PM Faktor B 1 i p Männlich X 111 X i11 X p X 11m X i1m X p1m B X 11n X i1n X p1n X 1j1 X ij1 X pj1 Weiblich j X 1jm X ijm X pjm B j X 1jn X ijn X pjn X 1q1 X iq1 X pq q X 1qm X iqm X pqm B q X 1qn X iqn X pqn A 1 A i A p 1.1 Mittelwerte, Quadratsummen und Quadratsummenzerlegung Mittelwerte Die Berechnung der Mittelwerte für jede Faktorstufenkombination gibt die folgende Tabelle: Faktor A Faktor B 1PM 0.5PM 0PM B j Männlich Weiblich A i Faktor A Faktor B a 1 a 2 a 3 B j b 1 AB 11 AB 21 AB 31 B 1 b 2 AB 12 AB 22 AB 32 B 2 A i A 1 A 2 A 3 G 2

3 Hieraus ersieht man: AB ij = 1 n A i B j = 1 q = 1 p G = 1 pq Quadratsummen n X ijm (2) m=1 q AB ij (3) j=1 p AB ij (4) i=1 q j=1 i=1 p AB ij. (5) Quadratsummen haben die folgende allgemeine Form QS (Bed.) = (Beobachtung (Bed.) Erwartungswert (Bed.)) 2. (6) Totale Quadratsumme. Die totale Quadratsumme ist die Summe der quadrierten Abweichungen vom Gesamtmittelwert. n q p ( QS total = Xijm G ) 2. (7) m=1 j=1 i=1 Zellquadratsumme. Wie müssen die Meßwerte X ijm aussehen, wenn sie nur von den beiden Faktoren A und B abhängen würden? Dann würden alle Meßwerte durch die Zellmittelwerte ersetzt sein, die Zellquadratsumme ist dann die summierte quadrierte Abweichung der Zellmittelwerte vom Gesamtmittelwert: q p ( QS Zellen = n ABij G ) 2. (8) j=1 i=1 Fehlerquadratsumme. Ein Fehler oder Residuum ist der Restwert, der nicht durch die beiden Faktoren erklärt wird. Folglich ist die Summe der quadrierten Abweichungen der Meßwerte vom jeweiligen Zellmittelwert die Fehlerquadratsumme: n q p ( ) 2 QS Fehler = Xijm AB ij. (9) m=1 j=1 i=1 3

4 In der ANOVA gilt stets: QS tot = QS Zellen + QS Fehler (10) Die QS Zellen gilt es jetzt näher aufzuschlüsseln. Haupteffekt(Treatment)-Quadratsummen. Die Haupteffekt-Quadratsummen sind einfach die quadrierten Abweichungen der Mittelwerte unter den Faktorstufen des betrachteten Faktors vom Gesamtmittelwert. Es muß also jeder Meßwert durch den Mittelwert der entsprechenden Faktorstufe ersetzt werden: QS A QS B = n q = n p p ( Ai G ) 2 i=1 q ( Bj G ) 2 j=1 Bisher haben wir an Werten für das Alkoholbeispiel: (11) (12) QS total = (13) QS Zellen = (14) QS Fehler = (15) Interaktionseffekt-Quadratsumme. Es zeigt sich, daß QS A = (16) QS B = (17) QS A + QS B = 599 < QS Zellen, (18) d.h. die Zellquadratsumme läßt sich nicht als Summe der Treatmentquadratsummen darstellen. Es gibt also offenbar noch eine dritte Variationsquelle, die zur Erklärung der Abweichungen der Zellmittelwerte vom Gesamtmittel herangezogen werden muß. Wir bestimmen sie einfach, indem wir fragen, welche Quadratsumme sich ergibt, wenn wir die quadrierte Abweichung der Zellmittelwerte von hypothetischen Zellmittelwerten, die sich bei rein additiver Wirkung der Faktoren A und B ergeben würden, berechnen. Bei rein additiver Wirkung der Faktoren ist ein Zellmittel AB additiv ij = A i + B j G. (19) 4

5 Dann berechnen wir die sog. Interaktionseffekt-Quadratsumme zu QS A B = n q j=1 p ( ) AB ij AB additiv 2 ij. (20) i=1 Numerisch für unser Beispiel haben wir QS A B = (21) und finden = , allgemein QS Zellen = QS A + QS B + QS A B. (22) Also muß mit (10) die Quadratsummenzerlegung gelten. QS tot = QS A + QS B + QS A B + QS Fehler (23) Freiheitsgrade, Varianzschätzungen und Hypothesen Bei p Faktorstufen für A und q Faktorstufen für B haben wir entsprechend p 1 und q 1 Freiheitsgrade (df). Für die Interaktionen gilt, daß (p 1) (q 1) Zellmittelwerte frei variieren können, in den Zellen (Fehler) können (n 1) pq Werte frei variieren, die totale Quadratsumme hat npq 1 Freiheitsgrade. Für das Beispiel df total = = 29 (24) df A = 3 1 = 2 (25) df B = 2 1 = 1 (26) df A B = (3 1) (2 1) = 2 (27) df Fehler = (5 1) 3 2 = 24 (28) Als Varianzschätzungen erhalten wir die Quadratsummen, geteilt durch die entsprechenden Freihgeitsgrade. Die zweifaktorielle ANOVA prüft die folgenden Hypothesen: 1. Die Meßwertstichproben unter den Faktorstufen des Faktors A gehören alle derselben Grundgesamtheit an (unterscheiden sich in der Grundgesamtheit nicht); 5

6 2. Die Meßwertstichproben unter den Faktorstufen des Faktors B gehören alle derselben Grundgesamtheit an; 3. Die Meßwertstichproben unter allen Faktorstufenkombinationen AB ij gehören alle derselben Grundgesamtheit an. Die Prüfung der Hypothesen erfolgt durch Testung an der Fehlervarianz: Sind die F - Quotienten größer als die für ein bestimmtes Signifikanzniveau kritischen F - Werte, wird die jeweilige Nullhypothese verworfen und die Alternativhypothese angenommen: Man spricht der Einflußgröße dann einen signifikanten Effekt zu. QdV QS df σ 2 F p A B A B Fehler Total Die Ergebnistabelle weist einen hochsignifikanten Effekt der Variable Alkohol (A) auf die Fahrleistung (X) aus, ebenfalls ein hochsignifikantes Zusammenspiel von Geschlecht (B) und Alkohol bei der Fahrleistung. Die Variable Geschlecht verfehlt die Signifikanz nur knapp. Aufgeklärte Varianz. Durch Teilen der entsprechenden Quadratsummen durch die totale Quadratsumme erhält man die anteilige Verteilung der Variation auf die Wirkfaktoren gemäß (23)(sog. η 2 Koeffizient): Faktor A % = 59.43% Faktor B % = 1.634% Interaktion A B % = 27.63% Total = 88.69% 6

7 1.1.4 Graphische Veranschaulichung der Haupteffekte und Interaktionen. Klassifikation der Interaktionen. Folgende Abbildung veranschaulicht die 3 wichtigsten Formen von Interaktionen: ordinale Interaktion B2 A3 B1 A2 A1 A1 A2 A3 hybride Interaktion B1 B2 B2 A3 A2 A1 B1 A1 A2 A3 B1 B2 disordinale Interaktion B2 A3 A2 B1 A1 A1 A2 A3 B1 B2 Abbildung 1: Die 3 wichtigsten Formen von Interaktionen, veranschaulicht anhand einer zweifaktoriellen ANOVA. 7

8 1. Ordinale Interaktion. Es gibt in beiden möglichen Interaktionsdiagrammen keine Überschneidungen und die Effekte sind stets gleichgerichtet (es liegen eindeutige Haupteffekte vor). 2. Hybride Interaktion. In einem Diagramm gibt es gegengerichtete Trends, daher überschneiden sich die Linien in dem anderen Diagramm. Haupteffekte sind mit Vorsicht zu interpretieren, in einem Faktor hängt die Reihenfolge der Stufen ja von dem anderen Faktor ab ( uberschneidung). 3. Disordinale Interaktion. In beiden Diagrammen gibt es starke Überschneidungen, die Haupteffekte sind nicht eindeutig bzw. nicht interpretierbar. Die Interaktion ist die bestimmende Größe der Werte Einzelvergleiche Einzelvergleiche geben Antwort auf die Frage, ob sich die Faktorstufen eines Faktors untereinander unterscheiden oder welche Faktorstufenkombination voneinander verschieden sind. Man unterscheidet a priori und a posteriori Einzelvergleiche. A priori Tests müssen explizit geplant werden, daher werden meist a posteriori Tests verwendet (die aber weniger trennscharf sind). Bei dem a-posteriori Test nach Scheffe wird eine kritische Differenz für den paarweisen Vergleich der Stufen eines Faktors oder von Zellmittelwerten hergeleitet, die auf einer F - Statistik beruht (Näheres s. Bortz 1993, S. 280) Fixed und Random Factors Bei der Prüfung einer der Nullhypothese für einen Faktor kommt es darauf an, ob man eine Aussage nur über die im Versuch realisierten Faktorstufenkombinationen machen will oder ob die Signifikanzaussage sich auf das Universum aller möglichen Faktorstufen bezieht, die man von dem Faktor erhalten kann. Die Variable Geschlecht wird durch die beiden Ausprägungen m und w erschöpfend beschrieben, sie ist ein fixed factor. Bei Blutalkohol liegt die Sache anders. Will man eine Aussage über die Wirkungsweise nur der drei im Versuch realisierten Stufen machen, so ist Blutalkohol ebenfalls als fixed Factor anzusehen. Will man auf die Wirkungsweise aller möglichen Faktorstufen zwischen der 1 und der 3. Stufe generalisieren (Blutalkohol 8

9 ist ja eine kontinuierliche Variable), so stellt Blutalkohol ein random factor dar. Für die Durchführung der ANOVA ist entscheidend, daß man unterschiedliche Prüfvarianzen erhält, je nachdem, ob die Faktoren fixed oder random sind. Die Prüfvarianzen können aud dem theoretischen Erwartungswertmodell der ANOVA hergeleitet werden (Näheres s. Bortz 1993, Kap. 12). Prüfvarianzen zu prüfende Varianz I II III A fixed A fixed A random B fixed B random B random σ A 2 σ Fehler 2 σ A B 2 σ A B 2 σ B 2 σ Fehler 2 σ Fehler 2 σ A B 2 σ A B 2 σ Fehler 2 σ Fehler 2 σ Fehler Kovariaten und Kovarianzanalyse (ANCOVA) Die abhängige Variable Fahrleistung könnte noch durch dritte Variablen beeinflußt sein, die in der ANOVA bislang nicht erfaßt wurden. So bestehen zwischen den VPn präexperimentelle Unterschiede in der Fahrleistung, wenn sie nicht nach den relvanten kovariaten Variablen randomisiert worden sind. Beipielsweise könnte das Ergebnis in dem Blutalkoholbeispiel dadurch verzerrt worden sein, daß präexperimentelle Unterschiede zwischen den VPn hinsichtlich sensumotorischer Geschicklichkeit bestehen. Grundidee der Kovarianzanalyse ist, daß man die abhängige Variable X vom linearen Einfluß einer Drittvariable Y befreit und so den Effekt der interessierenden Faktoren auf die bereinigte Variable X bestimmt. Vorgehen (für einfaktoriellen Fall) 1. Bestimmung der linearen Regressionsgleichung für die Regression der abhängigen Variable X auf die Kontrollvariable Y (Regr. X auf Y ). 2. Bestimmung der Residuen und totale Quadratsumme. Man bestimmt die Residuen Xijm = X ijm X ijm (29) 9

10 Die totale Quadratsumme ist dann QS res tot = n q m=1 j=1 i=1 da der Residuenmittelwert Null ist. p ( ) X 2 ijm (30) 3. Bestimmung der Fehlerquadratsumme. Hier ermittelt man die Regressionsgleichung innerhalb jeder Faktorstufe. Dann wird aus den verschiedenen Steigungskoeffizienten für jede Gruppe ein gemeinsamer Steigungskoeffizient berechnet, eine gruppenspezifische Gerade wird daraus, indem man für jede Faktorstufe die entsprechende additive Konstante ( Höhenlage ) einsetzt. Mit den gruppenspezifischen Geraden bestimmt man die Residuen, die Quadratsumme dieser Residuen, summiert über alle Gruppen ist die Fehlerquadratsumme. 4. Die Treatmentquadratsumme ist dann einfach QS res treat = QS res tot QS res Fehler. (31) Die Hinzunahme einer Kovariaten wirkt sich in der Regel vermindernd auf die Fehlervarianz aus, d.h. Unterschiede zwischen den Faktorstufen können bei Vorhandensein von Kovariaten schneller aufgedeckt werden. Allerdings lohnt sich der Aufwand nur dann, wenn die AV und die Kontrollvariable auch signifikant und hinreichend hoch miteinander korrelieren. Die zentrale Voraussetzung der ANCOVA ist die homogene Korrelation in den Subgruppen, d.h. die Korrelation von AV und Kontrollvariable in den Subgruppen soll gleich sein (Die Geradengleichungen haben die gleiche Steigung für alle Gruppen, nur unterschiedliche Höhenlagen die Geraden für die Gruppen sind parallelverschoben). Die Homogenutät der Regressionen kann mit einem F - Test geprüft werden. Mehrfaktorieller Fall. Die ANCOVA läßt sich einfach auf den mehrfaktoriellen Fall übertragen, aber die Bestimmung der QSA res,qsres B und QSres A B ist etwas aufwendiger. Als Voraussetzung gilt, daß die Steigungskoeffizienten unter allen Faktorstufenkombinationen homogen sein müssen. 10

11 Eckpfeiler der ANOVA 1. Das Komponentenmodell: X ijm = µ + α i + β j + α i β j + ε ijm (32) 2. Die Quadratsummenzerlegung QS tot = QS A + QS B + QS A B + QS Fehler (33) 3. Die unabhängigen Schätzungen der Fehlervarianz. Erste Schätzung (erwartungstreu) aus der Varianz innerhalb der Zellen: E [ σ ] n q p ( ) 2 Fehler 2 m=1 j=1 i=1 Xijm AB ij = (n 1) pq = σ 2 ε (34) = QS Fehler df Fehler (35) Zweite Schätzung (biased um n q σ 2 α) aus der Varianz zwischen den Zellen (Fakoren, Interaktionen). Exemplarisch für den Faktor A: E [ σ 2 A] = n q σ 2 α + σ 2 ε (36) Für σ 2 α = 0 (Gültigkeit der Nullhypothese) erhält man also eine Schätzung der Fehlervarianz (Näheres Bortz 1993, Kap. 12). 4. F - Quotienten: Tests der Effekte erhält man durch Teilen der zu untersuchenden Varianz durch die Fehlervarianz. Da Quotienten von Varianzen F - verteilt sind, spricht man von F - Quotienten. Die F - Verteilung für die entsprechenden Zählerfreiheitsgrade und Nennerfreiheitsgrade gibt die Auftretenswahrscheinlichkeit für den gefundenen F - Wert unter der Nullhypothese. 5. Fixed und random factors. Welche Prüfvarianz 1 verwendet wird, hängt davon ab, ob die einzelnen Faktoren fest gestuft sind oder die Stufung eines Faktors eine Stichprobe aus allen möglichen Stufen des Faktors darstellt (random factor). 1 Sind alle Faktoren fixed factors, ist die Prüfvarianz immer die Fehlervarianz (wie oben angenommen). Bei zufälliger Stufung ergibt sich die Prüfvarianz aus den Regeln zur Ermittlung der Ervartungswerte der Varianzen der ANOVA. 11

12 6. Kontraste. Sind Faktoren oder Interaktionen signifikant, gibt die Analyse der Kontraste Aufschluß über die Frage, welche Faktorstufenmittelwerte sich von welchen anderen Faktorstufenmittelwerten signifikant unterscheiden. 7. Kovariate. Die Erhebung einer zweiten Meßvariablen (Kontrollvariablen), die mit der AV in einer korrelativen Beziehung steht, kann die Fehlervarianz reduzieren, wenn diese nicht durch die UVs beeinflußt wird. Man analysiert dann in der ANOVA die Residuen aus der Vorhersage der AV durch die Kontrollvariable und kann dadurch Effekte der UVs rascher aufdecken. 12